Na de toeslagenaffaire, waarbij algoritmes op onrechtvaardige wijze op etniciteit profileerden, riep Amnesty op om een mensenrechtentoets te verplichten bij het gebruik van algoritmen. Naar aanleiding hiervan zinspeelden we er november vorig jaar al op dat de Impact Assessment Mensenrechten en Algoritmes (IAMA) binnen korte tijd verplicht zou gaan worden. Vorige week werd de motie voor het verplichten van IAMA’s door een ruime Kamermeerderheid aangenomen. Het aannemen van deze motie past binnen een bredere trend waarin vanuit de overheid steeds meer behoefte is aan het benoemen en reguleren van de risico’s van opkomende technologieën. Het kabinet heeft haar plannen hiervoor neergelegd in de Kamerbrief Hoofdlijnen Beleid Digitalisering. Het is duidelijk dat er veel wetgeving en al dan niet verplichte richtsnoeren aankomen op het gebied van digitale ethiek. Wat betekent dat voor uw organisatie?
Het kabinet erkent dat er zowel kansen als risico’s verbonden zijn aan opkomende technologieën. Artificiële intelligentie (AI) draagt bij aan economische groei en welzijn door dienstverlening goedkoper en accurater te maken, maar creëert ook risico’s voor publieke waarden als veiligheid, democratie en zelfbeschikking. Nieuwe technologieën kunnen ook discriminerende effecten hebben, ongemerkt manipuleren en het vertrouwen in de overheid en bedrijven schaden. Aan de hand van vier thema’s brengt het kabinet in kaart waar de pijnpunten liggen en hoe het deze wil aanpakken. Het eerste thema is het ‘digitaal fundament’. Hieronder valt onder andere een persoonlijke digitale identiteit voor alle Nederlanders. Het doel van deze digitale identiteit is meer controle en zelfbeschikking over persoonsgegevens voor burgers. Bij de ontwikkeling hiervan wil het ministerie privacy, gelijke behandeling, democratie en de rechtsstaat waarborgen. Er zijn hoofdzakelijk drie manieren waarop dat zal worden gedaan.
Ten eerste zal de komende AI-verordening ingezet worden om zogenaamde ‘hoog-risico’ AI-systemen te reguleren in zowel de private als publieke sector. Er zal in dat geval een verplichte interne of externe conformiteitsbeoordeling gedaan moeten worden. Er moet dan worden voldaan aan een grote verscheidenheid aan verplichtingen, zoals het hebben van een risicomanagement systeem en voldoen aan bepaalde transparantievereisten. Een algoritmetoezichthouder, die waarschijnlijk wordt ondergebracht bij de Autoriteit Persoonsgegevens, gaat op de naleving hiervan (op straffe van boetes en andere sancties) toezicht houden.
Ten tweede noemt de Kamerbrief doel om meer transparant te zijn, wat wordt gekoppeld aan acties rond data-ethiek. Het ministerie wil bij het gebruik van data ethische afwegingskaders gaan toepassen. Deze moeten vroegtijdig worden ingezet en helpen bij de afweging tussen wat technisch kan, juridisch mag en wat ethisch wenselijk is. Omdat het creëren van een ethisch kader complex en context-afhankelijk is, schakelen organisaties hiervoor vaak externe hulp in.
Ten derde wil het kabinet dat de IAMA breed wordt uitgerold bij alle publieke instellingen. De IAMA is een mensenrechtentoets die teams in staat stelt om in een vroeg stadium, op een gestructureerde manier, te discussiëren over alle relevante aandachtspunten rondom de inzet van algoritmen. Het doel is om te voorkomen dat een algoritme wordt ingezet terwijl de consequenties daarvan nog niet goed in beeld zijn. Het beantwoorden van deze vragen is juridisch complex en vergt consultatie van verscheidene interne en externe belanghebbenden. Dat maakt het uitvoeren van de IAMA tevens een tijdsintensief proces.
Waar het kabinet in de Kamerbrief al het plan formuleerde om de IAMA breed bij de overheid uit te gaan rollen, heeft een Kamermeerderheid nu ingestemd met het verplicht stellen van IAMA’s. Deze moeten worden uitgevoerd wanneer algoritmen worden ingezet om evaluaties van of beslissingen over mensen te maken. Waar die grens in de praktijk ligt is vaak onduidelijk. Beslist of evalueert een algoritme van de politie dat voorspelt waar en wanneer inbraken gaan gebeuren over mensen?
De uiteindelijke vraag is wat bovenstaande ontwikkelingen voor uw organisatie gaan betekenen. Het is duidelijk dat de AI-verordening en de IAMA voor grote en complexe vraagstukken gaan zorgen. Daarnaast wordt de samenleving steeds bewuster van data-ethiek en kritischer op fouten door organisaties en bedrijfsleven. Voor compliance met de wetgeving en een robuust ethisch beleid bent u bij Considerati aan het juiste adres.
Bent u benieuwd hoe u de IAMA effectief kunt inzetten binnen uw organisatie? Of bent u op zoek naar expertise bij de uitvoering van een IAMA? Neem dan gerust contact op via schoenmakers@considerati.com of vul onderstaand contactformulier in.