17-02-2023 - Afgelopen woensdag had de Tweede kamer een commissiedebat over de inzet van algoritmes en data-ethiek binnen de rijksoverheid. Nadat de Autoriteit Persoonsgegevens op 16 januari was gestart als nieuwe algoritmetoezichthouder, vroeg de kamer zich af hoe dat toezicht er uit zou zien. Staatsecretaris van Huffelen (D66) werd bevraagd over het mandaat van de algoritmetoezichthouder en in hoeverre de Autoriteit Persoonsgegevens de geschikte kandidaat was. Verder klonk er kritiek op het geringe aantal algoritmen in het Nationaal Algoritmeregister tot nu toe. Er werd ook beargumenteerd dat enkel registers en mensenrechtentoetsen niet afdoende zijn en dat we een discussie over data-ethiek moeten blijven voeren.
In het debat bevroeg Rahimi (VVD) de staatsecretaris over het mandaat van de algoritmetoezichthouder. Volgens staatsecretaris Van Huffelen (D66) heeft deze de bevoegdheid om onderzoek te doen en boetes uit te delen. Met deze bevoegdheden zou het AP toezicht moeten houden op algoritmen die gebruikmaken van persoonsgegevens. Verder heeft het AP een tweede rol: het verder uitwerken van een normenkader en samenwerken met andere toezichthouders. Door de aankomende AI-Act kunnen er volgens de staatsecretaris nog bevoegdheden bijkomen.
Volgens Slootweg (CDA) lijkt het AP meer op een expertisecentrum dan een toezichthouder. Hij vroeg zich verder af wat de rol van het AP is in het wel of niet toestaan van algoritmen. De staatsecretaris reageerde dat het AP geen keurmerk gaat geven aan algoritmen met een hoog-risico, zoals dat staat voorgeschreven in de voorgenomen AI Verordening, al gebruiken veel algoritmen persoonsgegevens. De instanties die zich bezig gaan houden met dergelijke keurmerken moeten nog worden aangewezen.
Het nieuwe Nationaal Algoritmeregister kwam ook ter sprake. Volgens Bouchallikth (GL) zijn er nog te weinig algoritmen geregistreerd en zijn algoritmen nog niet genoeg op mensenrechten getoetst. Ze uitte verder zorgen over de toetsbaarheid, transparantie en bruikbaarheid van het register voor burgers. De staatsecretaris verklaarde dat ze wil dat het register in het einde van het jaar gevuld is. De staatsecretaris benadrukt verder dat het juist definiëren van algoritmen cruciaal is. Alle hoog-risico algoritmen moeten in het algoritmeregister komen en vooraf en tijdens gebruik getoetst worden.
In het verlengde van het algoritmeregister voert Kathmann (PvdA) aan dat alleen registers en mensenrechtentoetsen niet voldoende zijn. Volgens Kathman (PvdA) moeten we een discussie over data-ethiek blijven voeren. Ze haalt hiervoor een artikel in Trouw aan waarin Joris Krijger, promovendus AI en Ethiek aan de Erasmus universiteit en oprichter van Ethische Data Science Associatie, betoogt dat we verdergaande maatregelen nodig hebben als expertteams, die wel toegang tot alle informatie krijgen en zo diep in een algoritme kunnen duiken. De staatsecretaris reageert hierop dat data-ethiek en een positieve inzet van algoritmen cruciaal zijn. Zeker gezien de groeiende impact van algoritmen. De staatsecretaris wil de focus houden op mensenrechten en ethiek en wil voorlopen op de EU AI-act.
Wilt u meer weten over de verantwoorde inzet van AI en Responsible AI governance, kom dan op 16 juni a.s. naar het Actualiteitencongres AI toe dat Considerati samen met Outvie organiseert. Op dit congres krijgt u een deepdive AI, leert u over de kansen en risico's van AI, algoritmes en hoe u AI verantwoord kunt toepassen.
Profiteer momenteel van de vroegboekkorting door gebruik te maken van onze code: 70940_Considerati. Deze code kunt u op het einde bij het bestellen van uw tickets toevoegen bij het onderdeel: Waardebon.
Heeft u vragen over bovenstaand? Neem dan gerust contact op met Considerati.