AP eist transparantie van OpenAI over verwerking persoonsgegevens ChatGPT

15/06/2023 - De Autoriteit Persoonsgegevens (AP) heeft haar zorgen geuit over de omgang met persoonsgegevens bij organisaties die gebruikmaken van zogeheten ‘General Purpose AI’. Daarom heeft de AP aan OpenAI, het bedrijf dat de chatbot ChatGPT aanbiedt, om opheldering gevraagd over hoe de Chatbot omgaat met persoonsgegevens.  

ChatGPT en General Purpose AI 

Eerder zetten wij in de blogreeks over AI de risico’s en kansen van het gebruik van General Purpose AI uiteen. Daarin werden de ethische risico’s van AI-modellen zoals ChatGPT uitgelicht. Zoals het gebrek aan transparantie (zowel in de trainingsmethode als in het outputproces) en de mogelijkheid om onbedoelde en potentieel ongewenste toepassingen te ontwikkelen. 

ChatGPT (voluit: Chat Generative Pre-Trained Transformer) is een zogenoemd ‘Large Language Model’ (LLM). Dit betekent in het kort dat het een AI-tool is dat tekst gebaseerde inhoud genereert. Een LLM valt onder de bredere ontwikkeling van ‘General Purpose AI’. General Purpose AI kan voor algemene doeleinden worden getraind op grote ongelabelde datasets en daardoor worden gebruikt voor verschillende soorten toepassingen. In de aankomende AI Act wordt General Purpose AI momenteel gedefinieerd als: ‘een AI-systeem dat kan worden gebruikt in en aangepast aan een breed scala van toepassingen waarvoor het niet opzettelijk en specifiek is ontworpen’. Ook traint ChatGPT zichzelf op basis van vragen die mensen stellen in de chatbot door deze op te slaan en te gebruiken. Die data kan (zeer) persoonlijke informatie bevatten. 

Vraag om opheldering van AP 

De vraag om opheldering door de Autoriteit Persoonsgegevens aan OpenAI focust zich op de persoonsgegevens die ChatGPT direct van haar gebruikers verzameld. Voornamelijk omdat het model zichzelf traint met persoonsgegevens en dat het niet duidelijk is hoe die gegevens worden gebruikt: ‘De gegenereerde inhoud kan onnauwkeurig zijn, verouderd, onjuist, ongepast, beledigend, of aanstootgevend en kan een eigen leven gaan leiden. Of, en zo ja, hoe OpenAI die gegevens kan rectificeren of verwijderen, is onduidelijk’, aldus de AP. Verder vermeld de AP dat zij meerdere acties zal ondernemen met betrekking tot ChatGPT, startend met dit verzoek om verduidelijking. 

ChatGPT vaker in opspraak om privacy risico’s 

Ook bij andere privacy toezichthouders in Europa kwam de verwerking van persoonsgegevens door ChatGPT onder de aandacht. Het gebruik van ChatGPT in Italië werd afgelopen 31 maart tijdelijk geblokkeerd door de Italiaanse toezichthouder vanwege vergelijkbare privacy kwesties. Daar werd de chatbot geblokkeerd omdat: 

• er geen informatie werd verstrekt aan gebruikers wier persoonsgegevens door OpenAI worden verwerkt; 
• er geen passende rechtsgrondslagen aanwezig waren voor de verwerking van persoonsgegevens; 
• er onnauwkeurige informatie werd verstrekt, en;  
• de verificatie van de leeftijd van gebruikers van ChatGPT ontbrak.  

Na een bezoek aan de Italiaanse toezichthouder werden door OpenAI maatregelen getroffen om deze privacy kwesties op te lossen. Op basis van de genomen maatregelen heeft de Italiaanse toezichthouder op 28 april weer toestemming verleend voor het aanbieden van ChatGPT in Italië.  

Bredere ontwikkeling 

Omdat andere privacy toezichthouders in Europa zich zorgen maken over ChatGPT is een ChatGPT-taskforce opgericht binnen de ‘European Data Protection Board’ (EDPB), om informatie uit te wisselen en acties te coördineren.  

We verwachten dat de discussie op rondom de onduidelijkheid bij de verwerkingen van persoonsgegevens door ChatGPT zich internationaal zal voortzetten en dat nationale toezichthouders, zoals de AP, meerdere acties als deze zullen uitzetten. 

Heeft u vragen over het gebruik van ChatGPT binnen uw bedrijf of AI in het algemeen? Bent u op zoek naar praktisch advies voor een verantwoord gebruik van AI door uw organisatie? Neem contact op met Considerati voor ons gespecialiseerde advies en ondersteuning op maat.  

Meer lezen over AI en algoritmes? Check onze blog serie op onze website