Highlights Considerati Conferentie 2022
Op donderdag 10 november organiseerde Considerati een conferentie met het thema Smart Technology & Privacy: innovatie, mobiliteit en digitale ethiek. Sprekers, panelleden en collega’s uit de sector gingen met elkaar in gesprek over de zorgvuldige implementatie van smart technology, juridische vereisten, nieuwe wetgeving, knelpunten en ethische vraagstukken in het kader van privacy en smart technology. Naast presentaties en paneldiscussies namen deelnemers deel aan workshops over digitale identiteit en authenticatie, de inzet van smart technology door overheid en over de Artificial Intelligence Act (AIA).
Veel dank aan onze sprekers en panelleden op de conferentie
- Cecile Schut, Directeur Systeemtoezicht, Beveiliging en Technologie - Autoriteit Persoonsgegevens
- Luuk Spreeuwers, Associate Professor - Universiteit Twente
- Albert van Veen, CEO - FastID
- Cassandra Moons, Head of Compliance & Data Protection Officer - TomTom
- Marc Sturkenboom, Privacyjurist - Koninklijke Marechausse
- Johnny Soraker, AI Ethics Lead - Google
- Roderick Noordhoek, Corporate & Ethics Advisor - Rabobank
- Iris Tasevski, Data Protection Officer - Mollie
- Nico Schutte, Data Protection Officer - De Nederlandsche Bank
- Anouk Ferwerda, Senior Legal Counsel - ABN AMRO
- Marianne Schoenmakers, Senior Consultant Responsible Tech - Considerati
- Bart Schermer, Oprichter en Partner - Considerati
Start van de conferentie
Bart Schermer, partner bij Considerati en hoogleraar Privacy en Cybercrime aan de Universiteit Leiden, opende de Considerati Conferentie 2022: Smart Technology & Privacy.
Presentatie Wijze inzet van technologie? Slim privacybeleid!
Na de opening van Bart Schermer presenteerde Cecile Schut van de Autoriteit Persoonsgegeven (AP) over de wijze inzet van technologie. In haar presentatie vertelde ze hoe de AP als toezichthouder bijdraagt aan gegevensbescherming in het kader van nieuwe technologische ontwikkeling. Hierbij stelde zij voorop dat de AP per 1 januari 2023 start als algoritmetoezichthouder. Bij de uitoefening hiervan zal de AP meer samenwerken met toezichthouders en zullen zij onder andere, gezamenlijk de ontwikkelingen op het gebied van AI monitoren. Verder vertelde Cecile dat de AP over het algemeen zorgen heeft over het gebruik van gezichtsherkenning. Met name de inzet van onvolwassen technologieën, die hun claims niet kunnen waarmaken, zijn reden tot zorg. Ook moet kritisch gekeken worden naar de deskundigheid van de eindgebruiker, want “technologie is nooit slim” maar de gebruiker van de technologie kan slim zijn. Tot slot gaf Cecile mee dat een DPIA een waardevol instrument is om te voldoen aan de beginselen van de AVG, waaronder de verantwoordingsplicht voor organisaties.
Paneldiscussie Smart Travelling
Verschillende sprekers hebben hun zorgen geuit over het niet voldoende benutten van de technologische mogelijkheden in de smart mobility sector. Tegelijkertijd werd benadrukt dat de smart mobility sector niet mag falen, ook omwille het behalen van klimaatdoelen. Voorwaarden voor een goed werkende smart mobility sector zijn samenwerking en uitwisseling van data. Deze voorwaarden worden momenteel nog niet voldoende vervuld.
Belangrijke ontwikkelingen in de smart mobility sector kwamen aan bod waaronder de inzet van automated border control. Nieuwe ontwikkelingen gaan echter niet zonder risico’s gepaard. Zo vormt face morphing een serieus gevaar voor de inzet van automated border control. Om de risico’s die hiervan uitgaan te mitigeren wordt bijvoorbeeld al gebruik gemaakt van morphing detection. Daarnaast wordt hard gewerkt aan nieuwe technologie op het gebied van biometrische herkenning zoals vingeraderherkenning. De inzet van biometrie in de smart mobility sector zal de komende jaren steeds interessanter worden.
Digitale ethiek bij het gebruik van smart technologies
Johnny Soraker nam het publiek mee in de manier waarop Google ethische theorieën (bijv. consequentialism & duty based ethics) integreert bij de lancering van nieuwe producten. Zo kijkt Google bijvoorbeeld naar de positieve en negatieve gevolgen die de inzet van een bepaalde technologie kan hebben en hoe de negatieve gevolgen gemitigeerd kunnen worden. Hierbij benadrukt Google het gevaar van bias en discriminatie in data waardoor één grote groep de voordelen van technologie plukt en minderheden in de samenleving alle negatieve gevolgen van technologie ervaart. Johnny besprak Google’s AI-beginselen die gezien kunnen worden als een statement over wat “a good company” zou moeten zijn. Ook zijn er bepaalde red-flags, bijvoorbeeld AI die waarschijnlijk schade berokkent. Bij dergelijke red flags heeft Google beloofd om de technologie niet te gebruiken.
Paneldiscussie Innoveren binnen de financiële sector
Het tweede panel van de dag ging over het innoveren binnen de financiële sector. De panelleden bespraken de belemmeringen die zij ervaren van privacy-wetgeving en toezichthouders, zoals de Autoriteit Persoonsgegevens, de Autoriteit Consument en Markt (ACM) en De Nederlandsche Bank (DNB). De panelleden hadden het vervolgens over het feit dat ethiek een belangrijke rol binnen hun organisaties speelt. Er worden bijvoorbeeld consultants ingezet of er wordt een ethiek-commissie gevormd. Tot slot spraken de panelleden over de grote uitdagingen binnen de financiële sector die zij voorzien. De komst van nieuwe wetgeving en de verschillende, soms tegenstrijdige, belangen die gediend moeten worden, zorgt voor druk onder organisaties om compliant te blijven. De panelleden bereiden zich hierop voor door goed te bekijken welke wetgeving precies van toepassing is op hun organisatie en inzichtelijk te maken waar eventueel overlap bestaat. Daar staat tegenover dat organisaties uiteindelijk niet alle risico’s kunnen indekken. “Als je niet kunt experimenteren, kun je ook niet innoveren. Je wilt de wereld wel een beetje mooi maken” zegt panellid Roderick Noordhoek.
Presentatie Impact Assessment Mensenrechten en Algoritmes
In de laatste presentatie van de dag, nam Marianne ons mee door het Impact Assessment Mensenrechten en Algoritmen (IAMA): een assessment dat ondersteunt bij het zorgvuldig inzetten van algoritmen. Marianne benadrukte dat het draagvlak voor de inzet van algoritmes momenteel vrij laag is. Het is daarom juist belangrijk om organisatie bij de ethische kwesties omtrent de inzet van een algoritme stil te staan. Het uitvoeren van een IAMA wordt mogelijk verplicht voor overheden, maar een IAMA is ook zeker voor commerciële organisaties van toegevoegde waarde. In veel gevallen zullen zowel een DPIA als een IAMA nodig zijn, wat bij organisaties voor compliance druk kan zorgen. Kijk dus goed naar de overlap in de twee assessments en zorg voor een geïntegreerde aanpak.
Hartelijk dank
Nogmaals dank aan alle sprekers, panelleden en deelnemers, we hopen u op ons volgende event weer te mogen ontmoeten.
