30-01-2023- Op 16 januari, 2023 is de algoritmetoezichthouder van start gegaan. De algoritmetoezichthouder heeft de taak om algoritmen te controleren op transparantie, discriminatie en willekeur. De nieuwe rol werd bekend gemaakt in het coalitieakkoord eind 2021, en moet een verantwoordelijke inzet van algoritmen stimuleren in de Nederlandse publieke en commerciële sector.  

Aanloop 

Na meerdere schandalen en incidenten bij het inzetten van algoritmen, zoals de SyRi-uitspraak en het toeslagenschandaal, is de druk op de overheid toegenomen om hierover meer controle uit te oefenen. Het coalitieakkoord kondigde daarom de aanstelling van een algoritmetoezichthouder aan. Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) vervult hier de rol als opdrachtgever, gezien diens coördinerende rol in het digitaliseringsdomein. De Autoriteit Persoonsgegevens (AP) is de uitvoerder van de opgave waarvoor het een nieuw organisatieonderdeel oprichtte; de directie Coördinatie Algoritmes. De AP ontvangt hiervoor 1 miljoen euro, wat oploopt naar 3,6 miljoen euro in 2026. De minister voor Rechtsbescherming, Franc Weerwind, ziet toe op de financiële middelen die verstrekt worden aan de AP. De nieuwe aanstelling betekent dat de AP vanaf 2023 zowel de naleving van de AVG controleert, als de rol van algoritmetoezichthouder bekleedt.  

De Algoritmetoezichthouder 

Een algoritmetoezichthouder valt onder een van de eisen van de aankomende AI Act. Op basis van deze wet zijn lidstaten straks verplicht om een algoritmetoezichthouder aan te stellen. De Nederlandse overheid is daarom met de aanstelling van de algoritmetoezichthouder goed voorbereid op het in werking treden van de Europese regulatie. In de inrichtingsnota zijn de volgende taken beschreven voor de toezichthouder:  

  1. Het verzamelen, analyseren en delen van kennis over de sector en domein overstijgende risico's en gevolgen van het gebruik van algoritmen. De toezichthouder verzamelt en deelt actief signalen over risicovol algoritmegebruik, bijvoorbeeld met stakeholders zoals burgers, organisaties, wetenschap en burgerrechtenorganisaties. Daarnaast deelt de toezichthouder periodiek en publiekelijk nieuwe inzichten en signalen, bijvoorbeeld via de website van de toezichthouder.  
  2. Het versterken en faciliteren van bestaande samenwerkingsverbanden in het algoritmetoezicht met colleges, markttoezichthouders en rijksinspecties, en het huidig overkoepelend toezicht in kaart brengen. Met de aanstelling van de toezichthouder blijft het bestaande toezicht op algoritmes en AI door colleges, toezichthouders, rijksinspecties, stakeholders en experts intact. De algoritmetoezichthouder stimuleert de huidige samenwerkingen en kijkt in gezamenlijkheid met hen naar generieke en specifieke risico’s en effecten van algoritmes. Eind 2023 publiceert de AP een gezamenlijk rapport om inzicht te geven in de ontwikkelingen op het gebied van algoritmetoezicht en de risico's van algoritmen. 
  3. De bevordering van een collectieve interpretatie van normen (normuitleg) en richtsnoeren en het in kaart brengen van (wettelijke) kaders. De toezichthouder geeft invulling aan vastgestelde normen en kaders over de inzet van algoritmen om het gebruik hiervan te vergemakkelijken. Het inzichtelijk maken en bieden van handvaten, vergemakkelijkt de implementatie van bestaande en nieuwe wetgeving. Waar nodig zoekt de algoritmetoezichthouder, in samenwerking met de andere toezichthouders, aansluiting bij internationale normalisatie.  

Opstartfase 

De autoriteit is voorlopig nog bezig met opstarttaken, zoals het schrijven van een normenkader, een juridisch stuk dat duidt waaraan algoritmen moeten voldoen en een transparantieverklaring, wat partijen begeleidt bij het inzichtelijk maken van de werking van hun algoritme.  

Het mag duidelijk zijn dat de Nederlandse overheid hard op weg is om de verantwoorde inzet van algoritmen te waarborgen, zowel bij commerciële als publieke partijen. Naast het aanstellen van de algoritmetoezichthouder, is er een motie aangenomen om het Impact Assessment Mensenrechten en Algoritme (IAMA) te verplichten, werd het Nationaal Algoritmeregister gelanceerd en komt er vanuit Europa de AI Act aan. Het is daarom van belang dat organisaties vroegtijdig nadenken over een verantwoorde inzet van algoritmen. Benieuwd hoe uw organisatie het beste kan voorsorteren op deze ontwikkelingen? Neem contact met ons op!  

Lauren Challis Consultant Responsible AI

Meer weten?

Heeft u vragen over bovenstaand? Neem dan gerust contact op met Considerati.