Highlights Considerati Conferentie 2023: Privacy in het AI-tijdperk
Op donderdag 2 november organiseerde Considerati haar tweede jaarlijkse conferentie. Dit jaar was het thema Privacy in het AI-tijdperk. Sprekers, panelleden en collega’s uit de sector gingen met elkaar in gesprek over wetgeving, innovaties en de verantwoorde inzet van nieuwe technologieën in het AI-tijdperk. Naast presentaties en paneldiscussies konden deelnemers kiezen uit diverse workshops waaronder een workshop over de online bescherming van kinderen, de DPO van morgen en over AI assessments.
Hoe kunnen we AI op een verantwoorde manier inzetten? Welke rol spelt de privacy professional daarbij? Hoe wordt AI gereguleerd en wat is de visie van de toezichthouder daarop? Deze en andere vragen over de verantwoorde inzet van nieuwe technologieën en privacy in de tijd van AI werden vanuit verschillende perspectieven besproken bij de Considerati Conferentie 2023.
Met speciale dank aan de sprekers en panelleden
- Cecile Schut (Directeur Systeemtoezicht, Beveiliging en Technologie bij de Autoriteit Persoonsgegevens)
- Bart Schermer (Oprichter Considerati en Hoogleraar aan de Universiteit Leiden)
- Mireille Kok (Chief Privacy Officer bij het Ministerie van Defensie)
- Navid Kamalzadeh (Privacy Director bij WeTransfer)
- Duuk Baten (Advisor Responsible AI bij SURF)
- Mark Wijnhoven (Chief Privacy Officer bij ASML)
- Edo Haveman (Head of Public Policy Netherlands bij Meta)
- Lucy van Oostveen (Data Scientist bij Inspectie Leefomgeving en Transport)
- Harm Voogt (Chief Executive Officer bij Validata)
- Suzanne MacDonald (Managing Legal Counsel, AI & Privacy bij Wolters Kluwer)
Start van de conferentie
In zijn openingswoord heette Ton Wagemans, oprichter en CEO van Considerati, de deelnemers welkom. Daarnaast introduceerde de dagvoorzitter, Jules van Stralendorff, het programma van de dag en welke onderwerpen gedurende de dag werden besproken.
Als eerste spreker van de dag presenteerde Bart Schermer, oprichter van Considerati en Hoogleraar aan de Universiteit Leiden, over de ontwikkelingen op het gebied van de AI Act. Hij vertelde over de AI Act en de belangrijkste bepalingen. Wat zijn de hoog-risico AI-systemen en welke eisen zijn er voor hoog-risico AI-systeem? Hij noemde verschillende assessments voor deze AI-systemen, zoals FRIA en DPIA. In zijn presentatie besprak hij ook een aantal relevante wijzigingen aan de AI Act. Tot slot gaf Bart aan dat je als organisatie voorbereid moet zijn op de aankomende AI Act.
Presentatie door de toezichthouder
Na de opening van Bart Schermer presenteerde Cecile Schut, Directeur Systeemtoezicht, Beveiliging en Technologie bij de Autoriteit Persoonsgegevens, over de visie van de toezichthouder. Ze vertelde over de nieuwe (vanaf 2023) coördinerende taak van de Aautoriteit Persoonsgegevens op het gebied van algoritmes en AI.
De definitie van AI veranderd en volgens de Autoriteit zit er achter een AI-systeem altijd een mens die bepaalde keuzes maakt. Ze benadrukte dat de toezichthouder niet anti-AI is maar wel voor het verantwoordelijk gebruik van AI. Als toezichthouder kijkt de Autoriteit Persoonsgegevens vooral naar de risico’s rond de toepassing van AI.
In haar presentatie legde Cecile Schut uit welke taken en instrumenten het belangrijkst zijn voor de toezichthouder en wat de voorbeelden zijn waar Autoriteit Persoonsgegevens mee bezig is op het gebied van algoritmen en AI. Ze vertelde hoe het toezicht op algoritmen en AI dit jaar werd geïntensiveerd en op welke onderwerpen de focus ligt voor het nieuwe jaar.
Panel: Verantwoord gebruik van AI en de rol van de privacyjurist hierbij
Het gebruik van algoritmen raakt niet alleen privacy, maar mensenrechten in bredere zin. Dit roept vragen op zoals binnen welke grenzen kunnen we AI inzetten, met welke risico’s gaat dit gepaard, hoe brengen we die risico’s in kaart en wat is de rol van juristen hierbij? Over onder andere deze vragen gingen de panelleden met elkaar in gesprek.
Interessante discussies kwamen op gang. Met name door de diversiteit van het panel. Twee juristen gingen in gesprek met twee niet-juristen. De panelleden werden het met elkaar eens: om AI opeen verantwoorde manier in te zetten moeten juristen (lees: FG’s, privacy officers en legal counsels) samen werken met de niet-juristen (lees: ontwikkelaars, data scientists en AI adviseurs). Een praktische manier om dit in te regelen is bijvoorbeeld door een intern AI-Board op te richten waarin (het gebruik van) algoritmen vanuit verschillende standpunten wordt belicht.
Een andere onderwerp dat werd besproken is het verplichtstellen van assessments, zoals een IAMA, om de risico’s van AI in kaart te brengen. De panelleden zien een algemene verplichtstelling van de IAMA voor alle organisaties niet zitten. Wel waren ze het erover eens dat voor hoog risico algoritmen voorafgaand een impact assessment gedaan moet worden. Welke vorm dat heeft is minder belangrijk want “het gaat om het doel en niet om het middel”.
Panel (Engels): The data driven employer
As the world prepares for the era of AI and a wave of new opportunities the panel explored what new technology and use cases are emerging in the workplace, to what extent they use AI, what legal risks exist and what ethical considerations come into play.
Focus was given to AI that is already being used in the recruitment process to filter and reduce what in some cases can be thousands of resumes down to a shortlist of applicants that according to the algorithm are most likely to be successful candidates. Despite having the possibility to reduce manual work and increase efficiencies it was clear such benefits are not without legal risks and potential bias. Attention was also given to the background screening process and to what extent AI may support the screening process, which due to external factors is becoming in some cases an increasingly important security measure for organisations to take.
Acknowledging the increasing use of AI in the workplace the speakers explained how the AI Act would govern technology used for employment activities confirming that many would be categorised as a high-risk activity listed in Annex 3 of the act. The consequence of that classification meaning additional compliance requirements would become applicable. When considering appropriate checks and balances to ensure such requirements together with privacy requirements are properly considered and respected it was clear that the works council could prove an invaluable gatekeeper and partner for privacy and ethics teams.
Finally, acknowledging that AI had the potential to threaten job security the speakers unanimously agreed that indeed some manual tasks would be replaced by AI but innovative technology would create new interesting and more stimulating jobs that the world including employees currently fulfilling manual tasks can feel optimistic about.
Workshop: Online bescherming kinderen
Tijdens de workshop "Kinderrechten in het Digitale Domein", gegeven door Lisa Molenaars en Lauren Challis, werd ingegaan op de complexe uitdagingen in het digitale domein met betrekking tot kinderwelzijn en -rechten. De workshop ging van start met een interactieve oefening waarbij deelnemers ethische dilemma's rondom kinderwelzijn in het digitale domein verkenden, zoals in hoeverre je inbreuk mag maken op de privacy van kinderen om hun veiligheid te bevorderen, bijvoorbeeld door het monitoren van kinderen via hun smartphone.
Vervolgens kwamen er praktijkvoorbeelden aan bod en werd de Kinderrechten Impact Assessment (KIA) geïntroduceerd. De KIA werd toegepast op een casus waarin AI fungeerde als virtuele leraar in het basisonderwijs. De deelnemers onderzochten de bijdragen en risico's van de technologie uit de casus en discussieerden met elkaar over praktische en ethische dilemma's rondom de potentiële inzet van deze technologie.
Workshop: AI-assessments
Hoe ga je aan de slag met verschillende AI-assessments en wanneer zet je deze in? In de workshop over AI-assessments, gegeven door Jord Goudsmit en Quincy van Opzeeland, hebben we aan de hand van de Responsible AI Guide uiteen gezet in welke fase van een innovatietraject je een AI-assessment, zoals IAMA en DPIA, kan inzetten.
Tijdens de workshop werd besproken wat de sterke punten zijn en waar er overlap is. Daarnaast hebben de deelnemers geoefend met het gebruik van de verschillende assessments.
Workshop: De DPO van morgen
Tijdens de workshop "De DPO van Morgen", gegeven door Dennis van der Staak en Sharin Agu, werd ingegaan op de rol van de DPO bij toezicht op algoritmes. Vervolgens werd het gesprek met elkaar aangegaan aan de hand van drie stellingen. Zo werd besproken in hoeverre DPO’s ervoor moeten waken om binnen hun organisaties technologische ontwikkelingen vroegtijdig te blokkeren en in hoeverre de DPO in zijn toezichtstol en advisering, naast het recht op gegevensbescherming, andere grondrechten dient mee te nemen. Daarnaast werd nagedacht over of de DPO meer capaciteit en/of middelen nodig heeft om zijn functie goed uit te kunnen voeren.
Tijdens de sessies deelden de deelnemers interessante voorbeelden uit hun praktijk en learnings die zij hun collega’s meegaven. Evident is dat de rol van DPO in ontwikkeling is en de precieze scope en inkleding van de rol onder meer afhankelijk is van het type organisatie en de manier waarop privacy compliance is ingeregeld. Het is daarom belangrijk om in gesprek te blijven met de organisatie om eventueel om ondersteuning te vragen en verwachtingen te managen rondom het takenpakket van de DPO.
Presentatie: AI bij Meta en open source AI
Als afsluiting van het programma, presenteerde Edo Haveman, Head of Public Policy Netherlands bij Meta, over AI bij Meta en Open source AI. Na verschillende voorbeelden van positieve aspecten van AI te hebben genoemd, vertelde hij over Meta’s aanpak in het kader van Open source AI. Meer in detail vertelde hij over de Large Language Models van Meta die open zijn voor iedereen. Tot slot stelde hij ook de vraag of AI-modellen kunnen helpen met betrekking tot publieke waarden zoals veiligheid, democratie, zelfbeschikking, non-discriminatie, participatie en inclusiviteit.
Hartelijk dank
Nogmaals dank aan onze sprekers, panelleden en alle deelnemers. We hopen u op onze volgende conferentie weer te mogen ontmoeten!
Bekijk hier de aftermovie van de Considerati Conferentie 2023: Privacy in het AI-tijdperk.