Wat is mensgerichte AI?

17/04/2024 - Met grote regelmaat hoor je de term mensgerichte AI (MAI) of Human-Centric AI (HCAI) voorbijkomen. Tijdens deze gesprekken blijkt dat men vaak een andere invulling heeft van het begrip MAI. De consensus is wel dat MAI bijdraagt aan een ethische inzet van AI. Soms wordt MAI en ethische AI zelfs als hetzelfde gezien. In onderstaande blog wordt een aantal elementen besproken die vaak worden genoemd als (essentieel) onderdeel van MAI en zodoende dus bijdragen aan een ethische inzet van AI.

AI als aanvulling op de mens

Het idee van MAI is dat het de menselijke vermogens versterkt en vergroot in plaats van dat het deze vermogens probeert te vervangen. Bij de inzet van MAI wordt de controle van de mens behouden op een manier die ervoor zorgt dat AI aan onze behoeften voldoet. Dat betekent in de praktijk dat een AI-systeem niet de rol van de dokter in het ziekenhuis overneemt, maar dat de dokter bijvoorbeeld wordt ondersteund met snelle en accurate analyses.   

Transparantie en uitlegbaarheid

Transparantie kan verschillende betekenissen hebben. Zo is de transparantie die hieronder wordt besproken anders dan bijvoorbeeld de transparantieverplichtingen op grond van de AVG. Hier wordt met transparantie bedoeld het openstellen van de processen, beslissingen en werking van het AI-systeem.

Hoewel transparantie voor de hand lijkt te liggen om tot MAI te komen, blijkt de praktijk weerbarstig. Steeds complexere AI-modellen maken het ingewikkelder om op een transparante wijze tot een uitkomst te komen. Daarnaast zijn de grote modellen van organisaties als OpenAI in beperkte mate transparant over de ontwikkeling en totstandkoming van deze modellen. Dit laat ook zien dat transparantie een gelaagde uitdaging is wanneer het over MAI gaat. Niet alleen moet er transparantie zijn over de ontwikkeling, welke keuzes zijn gemaakt en welke trainingsdata hiervoor zijn gebruikt, maar ook hoe een AI-model tot een uitkomst komt. En je zou kunnen stellen dat transparantie op zichzelf beschouwd ook nog niet direct tot MAI leidt. Want wanneer een AI-model transparant is in hoe het tot een uitkomst komt, dan is het daarmee niet per definitie begrijpelijk of uitlegbaar voor degene die op basis van die uitkomst beslissingen moet nemen. Als iemand louter formules en getallen ziet staan, kan dit wel transparant zijn maar leidt dit niet direct tot meer mensgerichte AI.

Rechtvaardige resultaten

Het volgende element dat onderdeel is van MAI is ‘rechtvaardige resultaten’. Het streven naar rechtvaardige resultaten in MAI is van belang om discriminatie en vooroordelen te voorkomen. Verschillende stappen in het (ontwikkel)proces zijn cruciaal om tot rechtvaardige resultaten komen. Ten eerste is het belangrijk dat er een juiste data-inzameling en -analyse op deze data wordt gedaan. Er moet sprake zijn van een representatieve en evenwichtige dataset. Daarbij is het van belang dat organisaties hun modellen ook testen op mogelijke bias. En ook hier geldt dat transparantie weer op verschillende manieren belangrijk is om tot MAI te komen. Zo moeten organisaties transparant zijn over de gebruikte algoritmen, datasets en besluitvormingsprocessen om gebruikers in staat te stellen de resultaten te begrijpen en verantwoording te kunnen afleggen. Het kan helpen, en misschien zelfs cruciaal, om te zorgen voor diversiteit en inclusie in het ontwikkelproces. Wanneer een divers team verantwoordelijk is voor het ontwikkelen en implementeren van AI-systemen, is de kans groter dat verschillende perspectieven worden meegenomen en mogelijke vooroordelen worden geïdentificeerd en aangepakt.

Gegevensbescherming

Tot slot is bescherming van persoonsgegevens een onmisbaar element wanneer we spreken over MAI. Wat zou je als organisatie kunnen doen om zorg te dragen voor de gegevensbescherming bij de ontwikkeling en inzet van AI? ‘Privacy by design’ kan op veel verschillende manieren worden toegepast. Zo moet je als organisatie zorgen voor dataminimalisatie door bij het ontwerp van een AI-systeem maatregelen te treffen die ervoor zorgen dat alleen strikt noodzakelijke gegevens worden verzameld en verwerkt voor het beoogde doel. Een organisatie kan er daarnaast voor kiezen om gegevens te anonimiseren of pseudonimiseren om de identificeerbaarheid te verminderen. Daarnaast kan de organisatie zorgen voor een versleuteling van (gevoelige) gegevens tijdens de opslag, verwerking en verzending. Dit is slechts een greep uit mogelijkheden die organisaties hebben om privacy (by design) te waarborgen. 

Bovenstaande elementen kunnen onderdeel zijn van MAI. Het is belangrijk om controles uit te voeren om er zeker van te zijn dat het AI-systeem mensgericht en op ethische wijze wordt ingezet. In het kader van privacy by design kan een Data Protection Impact Assessment worden uitgevoerd, waarbij wordt beoordeeld of gegevens op een juiste en rechtmatige manier worden verwerkt, welke risico's er zijn en of er nog aanvullende maatregelen nodig zijn om die risico's te voorkomen of te verminderen. Om er zeker van te zijn of een AI systeem in zijn geheel mensgericht of ethisch wordt ingezet, kan een Fundamental Rights Impact Assessment worden uitgevoerd. Een voorbeeld hiervan is de Impact Assessment Mensrechten en Algoritmen (IAMA).