19/05/2023 - Als thought leaders in privacy, gegevensbescherming en regulering van Artificial Intelligence (AI) lanceert Considerati een blogreeks rond het snijvlak van AI met andere disciplines zoals ethiek en privacy. Wij lanceren deze blogreeks in de aanloop naar de Conferentie: Artificial intelligence, impact & update 2023 die Considerati in samenwerking met Outvie organiseert op 16 juni. Op deze dag zal prof. dr. Bart Schermer, oprichter van Considerati, spreken over de status en ontwikkelingen van de AI Act. Daarnaast organiseren Responsible Tech consultants Marianne Schoenmakers en Jord Goudsmit een workshop over hoe u Responsible AI Governance binnen uw organisatie kunt meten en monitoren.
Als u aanwezig wilt zijn, kunt u uw tickets bestellen op deze website. We raden u aan onze code 70940_Considerati te gebruiken aan het einde onder de rubriek “Waardebon”. Door gebruik te maken van deze code maakt u kans om een leuke giveaway te winnen, namelijk een van de drie exemplaren van het boek 'De democratie crasht' van Kees Verhoeven.
Introductie
Deze blogreeks is gericht op het demystificeren en verkennen van enkele van de vele domeinen van AI, vooral in het licht van de EU AI Act die naar de triloogfase gaat. De blogs zullen ingaan op de nuances van AI, de gevolgen voor privacy, mensenrechten, ethische overwegingen en de juridische aspecten van het gebruik van AI.
Wat is een beter onderwerp om de serie af te trappen dan de veel gehypte ChatGPT, dat veel commotie heeft veroorzaakt in de (populaire) media, een nieuwe ratrace in Sillicon Valley en wijzigingen in de voorgestelde AI Act - specifiek daarop gericht. Vooral van veel organisaties krijgen we de vraag: wat moeten we hiermee?
In deze blog bespreken we de trend van 'Large Language Models' (LLM's), zoals ChatGPT, de kansen die dergelijke modellen bieden en de noodzakelijke ethische overwegingen voor organisaties die er gebruik van maken.
De ontwikkelingen rond ChatGPT en andere LLM's passen in een bredere ontwikkeling van wat 'general purpose AI' wordt genoemd. Deze AI voor algemene doeleinden wordt getraind op grote niet-gelabelde datasets en kan voor verschillende toepassingen worden gebruikt. Met andere woorden, deze onderliggende modellen worden gebruikt door een keten van ontwikkelaars in een grote verscheidenheid aan toepassingen, vandaar de term 'general purpose AI'.
Terwijl ChatGPT of GPT-4 wordt gebruikt voor tekstgeneratie, zijn er ook toepassingen voor tekstgebaseerde beeldgeneratie (Dall-E, Midjourney). Daarnaast zien we dat het wordt gebruikt voor tekstgebaseerde videogeneratie, audio, 3D en codering. In de praktijk kan het worden gebruikt voor het genereren van geautomatiseerde maar gepersonaliseerde klantenservice, het kan worden gebruikt als programmeerinstrument, voor het transcriberen en samenvatten van vergaderingen, persoonlijke therapiebots, ondersteuning bij klinische besluitvorming, maar ook voor het creëren van banen, het genereren van verkeerde en desinformatie, en nog veel meer.
Ethische overwegingen
Hoewel de potentiële toepassingen van general purpose AI legio zijn, geven de kenmerken van general purpose AI-modellen aanleiding tot bezorgdheid. Deze kenmerken omvatten hun enorme omvang, een gebrek aan transparantie (zowel wat betreft de opleidingsmethode als het outputproces), en de mogelijkheid om onbedoelde en potentieel ongewenste toepassingen te ontwikkelen.
LLM's hebben aangetoond dat zij discriminerend kunnen zijn (bv. meer begrip voor een man dan voor een vrouw na zwangerschapsverlof), een risico vormen voor persoonlijke en gevoelige informatie, en verkeerde informatie kunnen genereren.
General purpose AI-systemen worden getraind door informatie van het internet te verzamelen, te analyseren en te verwerken. Dit roept verschillende (privacy)vragen op: is er bijvoorbeeld sprake van plagiaat wanneer tekst wordt gegenereerd op basis van andermans werk? En was er toestemming en een wettelijke basis voor de verwerking van deze gegevens? Op grond van de onduidelijkheid in dat laatste is ChatGPT tijdelijk geschorst door de Italiaanse autoriteit voor gegevensbescherming.
Verantwoord gebruik van ChatGPT en andere AI voor algemene doeleinden
General purpose AI heeft veel potentiële toepassingen en kan door organisaties op verschillende manieren worden ingezet. Zorg er bij het gebruik van ChatGPT of andere general purpose AI voor dat dit ondersteund wordt door (ethische) reflectie en afweging.
Zorg er bijvoorbeeld altijd voor dat er een materiedeskundige bij betrokken is. Deze materiedeskundige kan de uitkomsten van ChatGPT wegen op verkeerde informatie en mogelijke biases en moet beoordelen of de uitkomst het risico op plagiaat heeft. Bedenk welke gevoelige en/of persoonlijke gegevens u in het AI-systeem wilt invoeren. Het is onduidelijk wat er met deze gegevens zal gebeuren, of ze zullen worden gebruikt voor training en op welke manier. En tot slot: wees altijd transparant over de manier waarop u ChatGPT of andere general purpose AI gebruikt tegenover degenen voor wie dit gebruik gevolgen heeft.
Conclusie
Nu we onze korte analyse van ChatGPT in deze eerste blog afronden, hopen we u achter te laten met de gedachte dat general purpose AI, waaronder LLM's zoals ChatGPT, weliswaar allerlei mogelijkheden biedt, maar dat de verantwoordelijkheden die aan het gebruik ervan verbonden zijn, niet mogen worden ondermijnd. Het faciliteren van een goede (ethische) reflectie op het gebruik van general purpose AI is dus noodzakelijk.
In onze volgende blog wagen we ons aan de wereld van AI en mensenrechten. De blog wordt gepubliceerd op woensdag 31 mei 2023. Stay tuned!
Wilt u meer weten?
Heeft u vragen over ChatGPT of AI in het algemeen? Bent u op zoek naar praktisch advies voor een verantwoord gebruik van AI? Neem contact op met Considerati voor ons gespecialiseerd advies en ondersteuning op maat.