20/10/2023 - In een tijdperk waarin technologie en innovatie in een razendsnel tempo evolueren, staat de bescherming van privacy centraal. De opkomst van kunstmatige intelligentie (AI) heeft nieuwe mogelijkheden geopend, maar heeft ook nieuwe uitdagingen en ethische dilemma's met zich meegebracht. Hoe kunnen we de voordelen van AI benutten zonder concessies te doen aan de privacy van individuen?  De Considerati Conferentie 2023, "Privacy in het AI-tijdperk" op 2 novemberbelicht de nieuwste ontwikkelingen op het gebied van privacy en AI en streeft ernaar antwoorden te vinden op deze prangende vragen. In aanloop naar de conferentie stelden we een aantal vragen aan onze gastspreker Cecile Schut, Directeur Systeemtoezicht, Beveiliging en Technologie bij de Autoriteit Persoonsgegevens. 

 

1. Welke ontwikkelingen met gebruik van nieuwe technologieën ziet u terug als toezichthouder binnen de samenleving? 

 Er is een snelle opmars van AI in de samenleving te zien. Het aantal toepassingen van AI groeit en ook de gebruikersaantallen zijn aardig groot. Er wordt veel in AI geïnvesteerd. De beloftes van AI zijn groot. Het is goed om er nuchter naar te kijken. Vergelijk het eens met de opkomst van big data rond 2000. De toen voorspelde winsten zijn niet altijd waargemaakt. De vraag is gaat AI in combinatie met big data een en ander wel waarmaken? Bepaalde toepassingen kunnen laagdrempelig gebruikt worden. AI technologie wordt in het alledaagse leven gebruikt en ook door mensen die niet goed begrijpen hoe de technologie werkt en hoe de technologie dient te worden ingezet. Het geloof in de techniek is heel groot. We zien een verscheidenheid aan oude en nieuwe risico’s voor mensen, organisaties en voor de samenleving. 

 

2. Met welke uitdagingen hebben we op juridisch gebied te maken als het gaat om de implementatie van deze nieuwe technologieën? 

Er zijn volop juridische- en morele uitdagingen. We zien onder meer uitdagingen op gebied van: privacy en gegevensbescherming, betrouwbaarheid van informatie en desinformatie, vooroordelen en discriminatie, accountability- en aansprakelijkheidsvraagstukken en intellectuele eigendomsrechten. Met een groeiend aantal toepassingen en producten waarin AI wordt gebruikt, zoals chatbots, virtual reality en gezichtsherkenning komen er steeds nieuwe uitdagingen bij. 

 

3. Hoe kijkt u naar de Artificiële Intelligentie Verordering (AI-verordening) en de gevolgen hiervan voor organisaties? 

De AI-Verordening gaat in elk geval een aantal hoog risico systemen verbieden. De verordening is gelaagd opgebouwd als een soort piramide van hoog naar laag risico toepassingen. Het geeft richting aan het analyseren van risico’s en het mitigeren daarvan. Daarmee is er een risico dat de techniek de verboden toepassingen inhaalt en dat dat lijstje al snel moet worden aangevuld. De vraag is of er voldoende in gereguleerd wordt. We wachten het concrete wetsvoorstel af. De EU is één van de eerste in de wereld die met concrete wetgeving komt. Dat is goed voor organisaties. Die weten waar ze aan toe zijn. Tegelijkertijd roept nieuwe wetgeving altijd vragen op over hoe deze geïnterpreteerd moet worden. 

 

4. Welke disciplines zijn nodig binnen een organisatie om AI op een verantwoorde manier toe te passen? 

De disciplines zijn evident: technisch, juridisch, maar ook strategisch: wat wil je ermee? De eerste vraag die moet stellen is: is AI werkelijk de panacee voor het probleem? Ben je voldoende op de hoogte van alle risico’s van het beoogd gebruik? Dat geldt zeker bij lerende algoritmes. Hou in de gaten hoe een model zich ontwikkelt en hoe het uitpakt. Wees alert op (voor-)oordelen en alle uren en kosten die het vergt om een model te ontdoen van deze vooroordelen in de output. Hoe richt je je controle op output in? Hoe zorg je ervoor dat AI op de juiste manier ingezet wordt in je organisatie: onder meer door het verzorgen van training en het uitvoeren van audits. Hoe borg je of je medewerkers AI juist gebruiken? It takes a village to raise AI ;)

 

Biografie

(ir. C.M.) Cecile Schut, MPA is sinds 1 januari 2018 directeur Systeemtoezicht, Beveiliging en Technologie bij de Autoriteit Persoonsgegevens (AP). Ze is verantwoordelijk voor het bevorderen van de naleving van de AVG door organisaties en het bieden van guidance daarbij. Bijvoorbeeld door contact met organisaties en hun functionarissen gegevensbescherming, met branche-organisaties, door de beoordeling van voorafgaande raadplegingen, gedragscodes en andere AVG-instrumenten die erop zijn gericht om organisaties te stimuleren om privacy-proof te worden. 

Daarvoor werkte ze ruim 20 jaar bij het Centraal Bureau voor de Statistiek; de laatste jaren als directeur van de centrale beleidsstaf.

Van huis uit is Cecile wiskundig ingenieur en in 2014 behaalde ze een masterdiploma in public administration.

Considerati Conferentie 2023: Privacy in het AI-tijdperk

Op 2 november a.s. organiseert Considerati haar jaarlijkse conferentie. Dit jaar is het thema Privacy in het AI-tijdperk. De conferentie richt zich op wetgeving, innovaties en de verantwoorde inzet van nieuwe technologieën in het AI-tijdperk.

We hebben een mooi programma voor u samengesteld met sprekers en panelleden van onder andere de Autoriteit Persoonsgegevens, ASML, Ministerie van Defensie, Meta en WeTransfer. Lees meer.