29-12-2022 - Het gebruik van kunstmatige intelligentie en algoritmen door bedrijven en overheden neemt toe, en daarbij de maatschappelijke discussies hierover ook. Om ondersteuning te bieden bij het ethisch inzetten van deze technologieën zijn er talloze toetsingskaders, assessments en handreikingen ontwikkeld, zoals het Impact Assessment Mensenrechten en Algoritmes (IAMA), het Data Protection Impact Assessment (DPIA) en het toetsingskader van de Algemene Rekenkamer (AR). Ondertussen worstelen organisaties die Artificiële Intelligentie (AI) inzetten met vragen als; hoe hangen de verschillende kaders samen? Moet een organisatie zowel een DPIA als een IAMA uitvoeren? En wat is het verschil tussen het IAMA en het toetsingskader van de AR? In de deze blog geven we een overzicht over de overeenkomsten en verschillen van de tools.
Het IAMA is ontwikkeld om discussie en besluitvorming te stimuleren rondom de inzet van algoritmen door overheidsorganen en richt zich specifiek op het waarborgen van de mensenrechten en grondrechten. Het IAMA bestaat uit vier dialoog onderdelen:
Het IAMA is momenteel nog niet bindend, maar onlangs heeft de kamer een motie goedgekeurd om het IAMA te verplichten voor overheden "voorafgaand aan het gebruik van algoritmen […] om evaluaties van of beslissingen over mensen te maken".
Sinds 2018 geldt in Europa de Algemene Verordening Gegevensbescherming (AVG), wat restricties zet op het gebruiken van AI. Onder de AVG is het in veel gevallen verplicht om een DPIA uit te voeren om de privacy risico’s in kaart te brengen. De vraag is dan wat de toegevoegde waarde van het IAMA is? In een eerdere blog van Considerati, schreven we dat beide assessment tools zich op de impact op mensen richten, maar zich van elkaar onderscheiden door de scope. De DPIA is namelijk vooral gericht op het privacy recht, terwijl het IAMA naar een breder scala aan grondrechten kijkt en beoordeelt hoe de technologietoepassing hier mogelijk inbreuk op maakt. Daarnaast kijkt de DPIA specifiek naar de verwerking van persoonsgegevens, waar een IAMA ook kijkt naar impact van algoritmen die geen persoonsgegevens verwerken. In gevallen waarin een algoritme persoonsgegevens verwerkt is het heel goed mogelijk dat een overheidsinstantie straks zowel een DPIA als een IAMA moet uitvoeren.
Naast het IAMA en DPIA heeft de Algemene Rekenkamer in 2020 ook een toetsingskader ontwikkeld. Het toetsingskader algoritmen van de AR is gericht op de en risico’s van algoritmen. Het IAMA en het toetsingskader van de AR hebben overlap in onderwerpen, en bevatten ongeveer evenveel vragen. Maar onderscheidt zich op een aantal vlakken.
Zo hebben ze een verschillende doelgroep. Het AR toetsingskader is ontwikkeld voor controleurs en toezichthouders om de risico’s van een algoritme in beeld te brengen. Het IAMA, daarentegen, is geschreven voor de partijen die verantwoordelijk zijn voor de ontwikkeling en/of inzet van het algoritmisch systeem. Dit vertaalt zich in het soort vragen die gesteld worden. Waar het kader van de AR namelijk overwegend gesloten vragen stelt, zijn de vragen van het IAMA juist opgesteld om tot discussie aan te zetten. Een vergelijking tussen gerelateerde vragen van het AR en het IAMA laat dit goed zien;
Het IAMA is daarom ook geschikt om te gebruiken in een vroeger stadium van de ontwikkeling van een algoritme, gezien discussiepunten nog geïmplementeerd kunnen worden in het designproces. Het toetsingskader van de AR is voornamelijk geschikt als auditmiddel.
Er zijn inmiddels vele middelen beschikbaar gekomen voor de verantwoorde inzet van algoritmen. Het kan voor organisaties een uitdaging zijn om door de bomen het bos nog te blijven zien. Om te voorkomen dat er veel dubbel werk gedaan wordt kan het raadzaam zijn om goed naar de overeenkomsten en verschillen van de middelen te kijken, om vervolgens te bepalen welk middel het beste past bij uw situatie.
Wilt u meer weten over bovenstaand onderwerp? Neem dan gerust contact met ons op. Onze collega's staan u graag te woord.