ChatGPT - reconstructie van haar snelle opkomst en de politieke reacties in Europa

18/07/2023 - ChatGPT – waarschijnlijk het nieuwe woord van de verkiezingsprogramma’s 2023 - zou deze blog waarschijnlijk beter kunnen schrijven dan ik, maar ik heb het toch zelf geprobeerd.

Het houdt menig beleidsmaker, Kamerlid en wetenschapper in de ban – hoe gaan we om met deze ontwikkeling? Dit dreef mij om een tijdlijn te maken over de opkomst van ChatGPT.

Europees beleid bleek onvoorbereid. Landen volgden elkaar - eerst aarzelend, daarna daadkrachtiger - op in het instellen van onderzoek (iets met schapen en een dam), waarbij maar één land ChatGPT aan banden legt voordat het onderzoek is afgerond. En veel discussie gebaseerd op sentiment. Met de verkiezingen in zicht hoogtijd om de informatie op een rij te zetten.

Spelers en spelstrategie

De basisopstelling in Nederland bestaat uit staatssecretaris Van Huffelen, de Autoriteit Persoonsgegevens (AP), Consumentenbond, Nationaal Coördinator Terrorismebestrijding (NCTV), Wetenschappelijke Raad voor Regeringsbeleid (WRR) en Kamerleden Rajkowski (VVD), Dekker-Abdulaziz (D66), Leijten (SP), en als onverwachte speler Van Raan (PvdD). Autoriteit Consument en Markt (ACM) is op het veld getrokken door de Consumentenbond. Wat valt op aan deze lijst? Het Nederlandse bedrijfsleven en brancheverenigingen lijken voorlopig nog op de bank te willen zitten. Ook CEO Sam Altman van OpenAI (het bedrijf achter ChatGPT) laat zich niet zien in Nederland.

De spelstrategie is nog niet duidelijk. De AI Act was niet voorbereid op deze nieuwe technologie, dus generatieve AI is er a la minute ingefietst door het Europees Parlement. De discussie in Nederland is gestart in maart door een aangenomen motie van Kamerleden Rajkowski (VVD) en Dekker-Abdulaziz (D66), waarna Van Raan (PvdD) twee keer schriftelijke vragen heeft ingediend. In juni horen we pas van de AP en staatssecretaris Van Huffelen – eind dit jaar komt er een visie op generatieve AI. Verder zijn de AP en ACM opgeroepen om een onderzoek te starten, maar hier is nog niet over gecommuniceerd.

Voor het vervolg van het spel: laat een demissionair kabinet niet van in de weg staan van het formuleren van een spelstrategie, anders loopt Nederland wellicht achter de feiten aan. En maak beleid wat niet technologie specifiek is, maar kan inspelen op nieuwe ontwikkelingen – we willen niet weer overvallen worden door een nieuwe technologie of ontwikkeling. En hopelijk meldt het bedrijfsleven en branche zich voor een gebalanceerd spel. Wellicht zijn de verkiezingsprogramma’s en het regeerakkoord een mooi moment om hiermee te beginnen?  

Hieronder kunt u de volledige tijdlijn vinden.

Tijdlijn: de opkomst van ChatGPT in beeld

Onderstaande overzicht bevat berichtgeving over ChatGPT in voornamelijk Nederland en Europa. Het is een zeer breed thema, dus er zijn – bewust en onbewust – berichten uitgelaten om het overzichtelijk te houden. Dit is daarmee niet een compleet sluitend overzicht. Mist u zaken? Reageer dan hieronder.  

November 2022 – lancering ChatGPT

Op 30 november lanceert OpenAI haar product ChatGPT, een generatief model waar u mee kunt converseren, wat tekst kan samenvatten en vragen kan beantwoorden. Het model wordt gevoed door informatie van zoekmachines.

Januari 2023 – snelle groei

ChatGPT is de snelst groeiende consumenten software applicatie in de geschiedenis met 100 miljoen gebruikers in drie maanden. Hiermee verslaat het TikTok. Andere bedrijven hebben vergelijkbare modellen op de markt gebracht, maar ChatGPT was de eerste en heeft daardoor de meeste ogen op haar gericht.

Maart 2023 – Italië stelt een verbod in, Nederlandse Kamerleden dienen een motie in

Italië is de eerste om ChatGPT aan banden te leggen op basis van privacy gebreken. Na het verbod wordt een onderzoek gestart. 29 dagen later is ChatGPT weer online in Italië na het installeren van nieuwe waarschuwingen voor gebruikers en de optie om chats niet te gebruiken voor de training van ChatGPT.  

Lang voordat iemand zich in Nederland roert, wordt er een motie aangenomen van Rajkowski (VVD) en Dekker-Abdulaziz (D66), die de regering verzoekt om tot een integrale visie te komen over de inzet, het potentieel en de risico’s van nieuwe AI-producten, zoals generatieve AI. Deze motie is ingediend tijdens het tweeminutendebat Kunstmatige Intelligentie op 28 maart.

29 maart, techprominenten roepen op tot een tijdelijke rem op ‘risicovolle’ ontwikkeling van AI. Onder de ruim 1100 ondertekenaars zitten Elon Musk, Steve Wozniak en talloze wetenschappers. 30 maart dient Kamerlid Leijten (SP) schriftelijke vragen in over deze oproep. 

April 2023 – Meer landen volgen met onderzoek, Nederland blijft nog stil

10 april start Duitsland een onderzoek, waarna de Franse privacywaakhond CINL en de Spaanse privacy autoriteit AEPD volgen. Allen vanwege vermoedelijke schending van de regels voor gegevensbescherming. 13 april publiceert de European Data Protection Board (EDPB) bericht dat er een speciale task force is opgezet voor betere samenwerking en informatie-uitwisseling tussen alle nationale autoriteiten over ChatGPT (en vergelijkbare ontwikkelingen). 

Mei 2023 – Kamervragen, AI Act onderhandelingen in Brussel en de EU tour van Altman

De Partij voor de Dieren dient op 1 mei schriftelijke vragen in over het aan banden leggen van ChatGPT in Italië en de gevolgen hiervan voor Nederland. De partij lijkt het voorbeeld van Italië te willen volgen en ChatGPT in Nederland aan banden te leggen (ook al was ten tijde van indiening, ChatGPT alweer live in Italië). De vragen worden op 30 mei beantwoord, waarin de minister aangeeft dat die beslissing de bevoegdheid van de AP is. 

Op 1 mei komt ook de G7 naar buiten met een statement. “De snelle ontwikkeling van kunstmatige intelligentie maakt extra regelgeving noodzakelijk. De landen benadrukken dat de nieuwe regels ontworpen moeten worden zodat een ‘open en stimulerende omgeving’ behouden blijft. De ministers noemen het inlassen van een wereldwijde pauze rond AI niet het juiste antwoord, maar willen dat innovatie doorgaat ‘binnen bepaalde vangrails die democratieën moeten stellen’.”

In de tussentijd zit Brussel niet stil. De snelle opkomst en nieuwe mogelijkheden van ChatGPT creëert zorgen onder Europarlementariërs – de AI Act moet aangepast worden! Regulering voor generatieve AI modellen krijgt een plekje in de concept tekst. Generatieve AI (ook wel ‘foundation models’) moeten transparant zijn, fundamentele rechten respecteren en een publiekelijk overzicht geven van het gebruik van trainingsgegevens die beschermd zijn onder het auteursrecht. 11 mei stemt de commissie Interne Markt en Fundamentele Rechten in met de concept tekst AI Act van het Europees Parlement. Onder andere Europarlementariër Kim van Sparrentak publiceert een bericht dat haar partij deze toevoeging zeer ondersteunt.

Mei is ook de maand van het bedrijfsleven die alle kanten op gaat. 12 mei, FD publiceert een artikel dat ChatGPT de werkvloer overneemt. Terwijl beleidsmakers hun hoofd breken over regulering, past de private markt zich aan deze nieuwe ontwikkeling aan. IBM werft voorlopig geen personeel voor werk dat ook uitgevoerd kan worden door AI.

18 mei, Apple verbiedt het gebruik van ChatGPT omdat er mogelijk bedrijfsgeheimen door weglekken. Dit wordt gedeeld in een interne memo. Andere bedrijven en banken zoals Samsung, JPMorgan Chase, Bank of America, Citigroup en Deutsche Bank gingen Apple al voor.

Reden genoeg voor Altman, CEO van OpenAI (het bedrijf achter ChatGPT), om een Europese tour te beginnen, met onder andere een stop in de UK, Frankrijk, Spanje, Duitsland, Polen en Portugal. De eerste boodschap: de insteek is om te voldoen aan de regels en actief te zijn in Europa, maar als wetgeving echt te steng wordt, verlaat het bedrijf Europa. Na kritiek van Eurocommissaris Breton, publiceert Altman een Tweet dat het niet het idee is om weg te gaan uit Europa.

Frankrijk start de strijd voor het hoofdkantoor van ChatGPT, onder andere door met een statement naar buiten te komen dat de koers van de EU te strikt is. Hun rationale: we moeten hard optreden tegen bigtech (lees: bedrijven uit Amerika), maar de AI Act moet nou juist nieuwe Europese kampioenen stimuleren.

Juni 2023 – de discussie in Nederland komt op gang

De AP verschijnt op het toneel op 7 juni, met een publicatie dat de organisatie opheldering vraagt over ChatGPT. Ze maken zich zorgen over de omgang met persoonsgegevens “bij organisaties die gebruikmaken van zogeheten generatieve artificiële intelligentie (AI), zoals ChatGPT”. OpenAI is per brief gevraagd om opheldering over de omgang met persoonsgegevens bij het trainen van het onderliggende systeem.

8 juni dient Partij voor de Dieren een tweede set Kamervragen in, deze keer over een specifieke casus van mogelijk onrechtmatige verwerking van persoonsgegevens en inbreuk op auteursrecht, met wederom de vraag: “Deelt u de mening dat de Autoriteit Persoonsgegevens zo snel mogelijk met een spoedoordeel moet komen over ChatGPT en het blokkeren ervan geen taboe is? Kunt u de Autoriteit Persoonsgegevens daartoe aansporen?”. Deze schriftelijke vragen zijn nog niet beantwoord.

Intussen innoveert de markt vrolijk voort. Chat-GPT startup Watermelon, dat de AI achter ChatGPT volledig heeft geïntegreerd, lanceert een web scraper binnen hun klantenservice systeem. Met deze toevoeging kunt u met een websitelink alle informatie van een (bedrijfs)website toevoegen aan een chatbot.

Op 14 juni stemt het Europees Parlement in met de tekst voor de AI Act. Staatssecretaris Van Huffelen geeft aan in te zetten op een snelle invoering van de AI Act in Nederlandse wetgeving als deze door de triloog onderhandelingen is.

20 juni, de Tweede Kamer gaat in gesprek met de Wetenschappelijke Raad voor Regeringsbeleid (WRR) over huidige ontwikkelingen en regulering op het gebied van AI. De WRR geeft tijdens dit gesprek aan dat beleid zich meer moet richten op de lange termijn in plaats van de waan van de dag. De mythes die over ChatGPT in het nieuws komen, zijn een herhaling van hoe het ging met eerdere ontwikkelingen.

Op diezelfde dag mengt de Nederlandse consumentenbond zich in de strijd. “Consumentenorganisaties in de EU en de VS roepen op om consumentenrechten centraal te stellen bij de ontwikkeling en implementatie van AI en generatieve AI”, aldus de website van de Consumentenbond. Aanleiding is een publicatie van de Noordse consumentenbond over de risico’s van generatieve AI voor consumenten, en hoe deze manipulatie, discriminatie, fraude en desinformatie kan vergroten. De Consumentenbond richt zich in haar oproep aan ACM, AP en staatssecretaris Van Huffelen, en ze vragen om een onderzoek (uitgevoerd door ACM en AP).

27 juni reageert staatssecretaris Van Huffelen op vragen van Kamerlid Leijten (SP) over de zorgen van techprominenten over ontwikkelingen op het gebied van AI. “Enerzijds maakt het karakter van deze technologie het mogelijk om als zeer geavanceerd hulpmiddel taken uit handen te nemen of te vergemakkelijken en bij te dragen aan maatschappelijke opgaven, anderzijds heeft het de potentie om bij te dragen aan desinformatie of manipulatie. Deze ongewenste, en in sommige gevallen potentieel ontwrichtende, effecten zijn zorgwekkend. Het tempo waarin deze technologie zich ontwikkelt brengt daarnaast onzekerheden met zich mee en daarbij bestaan er nog vraagtekens.” In de beantwoording is er ook een korte verwijzing naar de kansen van AI, en dat we te midden van de aandacht voor de negatieve toepassingen ook de positieve kanten moeten blijven omarmen. Ook verwijst de staatssecretaris naar de motie, ingediend door Dekker (D66) en Rajkowski (VVD) eind maart - er wordt gewerkt aan een visie op generatieve AI. De Kamer wordt voor de zomer geïnformeerd over de vorderingen. Doel is om de visie voor eind 2023 af te ronden.

28 juni, ChatGPT kondigt aan haar Europese hoofdkantoor te openen in Engeland. De keuze viel op Londen door de beschikbaarheid van talent. Voornaamste doel is om het bedrijf om te zetten in een winstgevende onderneming.

29 juni, anonieme Amerikaanse consumenten starten een zaak tegen het bedrijf achter ChatGPT vanwege grootschalige datadiefstal. Volgens de aanklagers is ChatGPT zonder toestemming getraind met 300 miljard woorden waaronder e-books, nieuwsartikelen en Wikipedia. De Groene Amsterdammer deed zelf ook onderzoek en kwam tot dezelfde conclusie.

Juli 2023 – Gebruik ChatGPT loopt terug en Bard lanceert in Europa

3 juli, NCTV publiceert het Cybersecuritybeeld Nederland (CSBN) 2023. Dit rapport bevat de trends, nieuwste ontwikkelingen, incidenten en dreigingen op het gebied van cybersecurity. Eén van de nieuwe ontwikkelingen, in het rijtje naast het onrustige geopolitieke speelveld, is de opkomst van generatieve AI. Dit vormt volgens NCTV kansen, maar ook zeker bedreigingen zoals het manipuleren van data waarmee generatieve AI wordt gevoed, het delen van gevoelige informatie, en de inzet van generatieve AI voor cyberaanvallen. 

7 juli, AGConnect publiceert een bericht dat het gebruik van ChatGPT terugloopt. Dit is de eerste keer dat het aantal bezoeken en unieke bezoekers van de site terugloopt. Mogelijke oorzaken die worden genoemd is dat het nieuwtje eraf is en daarmee de interesse terugloopt, of de ervaring dat de chatbot niet altijd de gewenste of kloppende informatie geeft.

Op diezelfde dag publiceert staatssecretaris Van Huffelen de agenda ‘Coalities voor de digitale samenleving’, met een visie van het kabinet op doorsnijdende vraagstukken rond de toepassing van digitalisering voor maatschappelijke uitdagingen. ‘AI in actie’ is één van de drie centrale thema’s (naast digitale ethiek en verantwoord datagebruik voor maatschappelijke opgaven). Er is nog niet veel nieuws over de visie op generatieve AI, eind dit jaar komt de staatssecretaris met een eerste kabinetsvisie.

13 juli, Google mag haar Chatbot Bard lanceren in Europa. De lancering was verlaat door zorgen van Europese toezichthouders over het naleven van regels voor het veilig verwerken van persoonsgegevens, maar Google lijkt nu te voldoen aan de eisen.