Advies inwinnen bij chatbots: hoe verantwoord is dat?

21/08/2024 – Het zal u ongetwijfeld niet ontgaan zijn: in een recent vonnis heeft een Nederlandse rechter aangegeven ChatGPT als bron te hebben gebruikt. Dit leidde tot een stormvloed aan verbolgen reacties onder juristen en AI-experts. Dit praktijkvoorbeeld roept de vraag op hoe verantwoord de inzet van slimme chatbots eigenlijk is en waarmee organisaties in dat geval rekening dienen te houden. Maar is uit deze interessante keuze ook niet juist belangrijke lering te trekken?

Sinds de lancering van ChatGPT in november 2022 zijn AI en slimme chatbots hot topic. Alleen al in het eerste halfjaar van 2024 hebben de grootste techbedrijven (‘Big Tech’) samen 100 miljard in AI geïnvesteerd. Niemand lijkt achterop te willen raken in de race. Tegelijkertijd wordt er ook heel veel onderzoek gedaan naar de mogelijkheden en gevaren van AI. In een voorjaarsrapportage van de AP wordt geconcludeerd dat de beheersing van de risico’s van AI nog niet in hetzelfde tempo verloopt als de ontwikkeling van AI. In het juridische landschap is daarnaast de AI Act eindelijk officieel inwerking getreden, maar gaat het nog enige tijd duren voordat de bepalingen ten aanzien van hoog risico AI systemen daadwerkelijk van kracht worden en er gehandhaafd kan worden door toezichthouders op de naleving daarvan.

AI als informatiebron

Kortom: de grip op AI blijft voorlopig nog een uitdaging. Gek is het dan ook niet dat veel organisaties en experts terughoudend zijn om het gebruik van AI chatbots toe te staan binnen hun dagelijkse bedrijfsvoering. Wellicht dat experts daarom zo verwonderd hebben gereageerd op het gebruik van ChatGPT door de rechter in kwestie. In de eerdergenoemde rechtszaak ging het om een conflict tussen twee huiseigenaren over een dakopbouw die bepaalde zonnepanelen in de weg zou zitten. De rechter heeft vervolgens ChatGPT geraadpleegd voor het schatten van de gemiddelde levensduur van zonnepanelen en de actuele gemiddelde prijs per kilowattuur elektriciteit, zoals terug te lezen is in het vonnis. Deze informatie werd door de rechter gebruikt als hulpbron voor het vaststellen van de schadevergoeding. 

Bij deze keuze van de rechter zijn vraagtekens te plaatsen. Zo is de informatie die slimme chatbots produceren lang niet altijd actueel en soms heeft deze informatie zelfs nooit bestaan. The New York Times ontdekte dat slimme chatbots minstens 3% van hun antwoorden helemaal zelf verzinnen. In sommige gevallen is dit zelfs 27%. Het is ook niet altijd helemaal duidelijk waar slimme chatbots precies hun data vandaan halen. Reden genoeg om deze instrumenten met veel voorzichtigheid te gebruiken. Andere risico’s bij het gebruik van chatbots zijn het lekken van gevoelige gegevens of inbreuk maken op andermans auteursrecht.

Mogelijkheden

Moet er dan een verbod komen op het gebruik van chatbots in een juridische context? Die conclusie strekt waarschijnlijk te ver. Het gebruik van chatbots kan immers veel voordelen met zich meebrengen. Zo kan het tijdbesparend zijn voor het structureren van complexe informatie. Daarnaast zijn er inmiddels zelfs chatbots die gespecialiseerd zijn in het recht, zoals Harvey, die door verschillende advocatenkantoren wordt gebruikt. Veel juristen gaan er dan ook van uit dat het gebruik van dergelijke AI-middelen op termijn alleen maar zal toenemen. 

Verantwoord gebruik van chatbots

Wilt u gebruik gaan maken van een chatbot binnen uw organisatie, houdt dan rekening met het volgende:

• Stel beleid voor generatieve AI binnen uw organisatie op waarin wordt omschreven waar medewerkers wel of niet de chatbot voor mogen gebruiken.
• Train het personeel dat er veel mee werkt. De AI Act gaat dit namelijk ook verplichten.
• Krijgt de chatbot regelmatig persoonsgegevens als input? Laat een DPIA uitvoeren. Bent u niet zeker of de chatbot voldoende ethisch te werk gaat? Laat een IAMA uitvoeren.
• Wees transparant: informeer betrokkenen (zoals klanten) over het feit dat hun gegevens mogelijk verwerkt worden door een AI-gestuurde chatbot.

Bekijk ook deze eerdere blog over het verantwoord gebruik van ChatGPT binnen uw organisatie.