Artificial Intelligence: een schending van de mensenrechten?

31/05/2023 - Welkom bij Considerati’s blogserie over de invloed van kunstmatige intelligentie. Wij zetten ons in om het grijze gebied tussen AI en andere gebieden zoals aansprakelijkheid, privacy en ethiek op te helderen in het licht van de EU AI Act die naar de triloogfase gaat.  

We brengen deze blogserie speciaal uit in aanloop naar de Conferentie: Artificial Intelligence: impact & update dat Considerati in samenwerking met Outvie op 16 juni organiseert. Op deze dag zal prof. Mr. Dr. Bart Schermer, oprichter van Considerati, spreken over de status en ontwikkelingen rondom de AI Act. Daarnaast organiseren Responsible Tech consultants Marianne Schoenmakers en Jord Goudsmit een workshop over hoe u Responsible AI Governance binnen uw organisatie kan meten en monitoren. 

Wilt u hierbij aanwezig zijn? Bestel dan uw ticket via deze link en gebruik onze code 70940_Considerati. Deze code kunt u op het einde bij het bestellen van uw tickets toevoegen bij het onderdeel “Waardebon”. Het gebruik van onze code markeert automatisch uw deelname aan een leuke giveaway, waarbij u een van de drie exemplaren van het boek 'De democratie crasht' van Kees Verhoeven kunt winnen.   

Voorwoord 

Wanneer men over kunstmatige intelligentie ("AI") begint, zal de discussie vaak leiden tot onderwerpen als privacy, het overnemen van banen door AI en discriminatie. Deze onderwerpen zijn belangrijk. Het recht op privacy en het verbod op discriminatie zijn bekende mensenrechten. Er zijn echter meer mensenrechten die een relatie kunnen hebben met AI.  In deze blog bespreken we een aantal onderbelichte mensenrechten, en hun relatie met kunstmatige intelligentie. 

Mensenrechten 

Er is niet één definitie voor mensenrechten, hoewel de Verenigde Naties ("VN") mensenrechten als volgt omschrijven: "rechten die inherent zijn aan alle mensen, ongeacht ras, geslacht, nationaliteit, etniciteit, taal, religie of enige andere status." Mensenrechten zijn vaak verankerd in het nationale recht, maar de lidstaten van de Europese Unie volgen ook het Handvest van de grondrechten van de Europese Unie (“Handvest”) en de Universele Verklaring van de Rechten van de Mens. Een land dat een van deze mensenrechtenverdragen heeft geratificeerd, neemt verplichtingen en plichten op zich krachtens het internationale recht. Zij hebben de verplichting om de mensenrechten te respecteren, wat betekent dat staten zich moeten onthouden van inmenging in de mensenrechten. Ze zijn verplicht individuen en groepen te beschermen tegen mensenrechtenschendingen. Staten hebben ook een verplichting tot nakoming, wat betekent dat staten positieve actie moeten ondernemen om de fundamentele mensenrechten te bevorderen. 

AI en de mogelijke schendingen van de mensenrechten 

Om de mogelijke schendingen van de mensenrechten door AI aan te tonen, bespreken we drie mensenrechten die in het Handvest zijn vastgelegd en de manier waarop AI deze mogelijk schendt of erop inwerkt. 

1. Rechten van het kind (artikel 24 Handvest): Kinderen nemen een bijzondere positie in op het gebied van de mensenrechten. Omdat zij zich vaak niet bewust zijn van hun rechten, moeten zij meer worden beschermd. Daarom worden AI of algoritmen die in contact komen met kinderen vaak strenger gecontroleerd. Voorbeelden hiervan zijn de recente boetes die verschillende Europese toezichthouders aan socialemediabedrijven hebben uitgedeeld. 
2. Recht op behoorlijk bestuur (artikel 41 Handvest): Een algoritme of AI die door overheidsinstanties wordt gebruikt, heeft vaak een automatisch effect op burgers. Dit effect kan zowel positief als negatief zijn. Een fictief voorbeeld is een algoritme of AI die aan de hand van bepaalde regels vaststelt of iemand een risico loopt om een misdaad te plegen. Als een persoon als risicovol naar voren komt, wordt hij strenger in de gaten gehouden. Naast verschillende ethische kwesties die met dit soort algoritmen gepaard gaan, kan het ook het recht van de persoon op goed bestuur schenden. De organisatie die het algoritme gebruikt kan de redenen voor het label “risicovol” niet uitleggen, omdat het door de AI is vastgesteld. Dit is een schending van een van de rechten die vallen onder behoorlijk bestuur. 
3. Vermoeden van onschuld en rechten van de verdediging (artikel 48 Handvest): Het vermoeden van onschuld is een recht dat van toepassing is op verschillende werkterreinen, bijvoorbeeld: de politie, de belastingdienst, de gemeente. Al die instanties hebben het recht en de plicht om de mensen te vinden die het systeem in hun eigen voordeel misbruiken. Om dat te kunnen doen, moeten de instanties de mensen selecteren die gecontroleerd moeten worden. De reden daarvoor is vaak eenvoudig: niet genoeg administratieve kracht om het aantal te controleren gevallen te verwerken. Een algoritme of een AI kan een oplossing zijn. De AI maakt de selectie, en de mens controleert de door de AI voorgestelde gevallen. Maar als de selectie door een AI wordt gemaakt, betekent dat dan dat die mensen een grotere kans hebben om schuldig te zijn? Deze vraag is vrijwel onmogelijk te beantwoorden, wat betekent dat het vermoeden van onschuld geschonden zou kunnen worden. 

Conclusie 

De recente opkomst van het gebruik van AI biedt vele mogelijkheden. Het is echter belangrijk om rekening te houden met de negatieve effecten die AI kan hebben. Deze blog ging over de manieren waarop AI bepaalde mensenrechten zou kunnen schenden. Zoals vermeld in eerdere blogs is een manier om deze schendingen op te sporen en te beperken het uitvoeren van een Impact Assessment Mensenrechten en Algoritmes ("IAMA"). 

Nu we onze analyse van AI en mensenrechten afronden in deze editie van Considerati's reeks over kunstmatige intelligentie, vertrouwen we erop dat ons onderzoek waardevolle inzichten heeft opgeleverd in de ingewikkelde raakvlakken van AI met aansprakelijkheid, privacy en ethiek. De complexiteit van deze relaties is van wezenlijk belang in ons digitale ecosysteem, en inzicht hierin is essentieel. 

In ons volgende bericht, dat op 12 juni wordt gepubliceerd, gaan we dieper in op aansprakelijkheid en AI. Tot dan!