Chatbots en de mens

Op 2 oktober 2025 hebben de Autoriteit Persoonsgegevens (AP) en Autoriteit Consument en Markt (ACM) een oproep gedaan: ”Laat de mens bereikbaar blijven“. Zij plaatsten deze oproep op 2 oktober 2025 om bedrijven, ontwikkelaars en de wetgever op te roepen tot actie bij het gebruik van chatbots en om menselijk contact naast het gebruik van chatbots te motiveren. Maar waarom voelden zij de behoefte en noodzaak om dit te doen en wat kunt u als organisatie zelf doen?

Risico’s bij de inzet van chatbots

Steeds meer organisaties kiezen ervoor om hun eerstelijns klantenservice te laten ondersteunen (of zelfs vervangen) door chatbots. Dit heeft veel voordelen voor een organisatie, zoals minder kosten en betere bereikbaarheid. Ook klanten zien voordelen want ze krijgen sneller een reactie en kunnen deze ook buiten kantoortijden krijgen.

De keerzijde is dat de chatbot vaak niet de meer complexe vraagstukken kan beantwoorden en dat de klant verstrikt raakt in een conversatie met de chatbot zonder dat de klant een mens te spreken krijgt.

Het gebruik van chatbots brengt daarnaast privacyrisico's met zich mee, omdat zij vaak persoonsgegevens verwerken om klanten verder te helpen. Mensen delen daarbij sneller persoonlijke informatie wanneer een chatbot meerdere vragen stelt, inclusief sensitieve en bijzondere persoonsgegevens. In dit specifieke geval waarschuwt de AP dat de chatbot vaak geen complexe vragen kan beantwoorden, waardoor klanten blijven hangen in een gesprek zonder de mogelijkheid om een medewerker te spreken.

Chatbots gebruiken data voor trainingsdoeleinden, dit kan ook de data van mensen zijn die de chatbot gebruiken. Het is voor organisaties belangrijk om dit in kaart te brengen zodat een verzoek van verwijdering of inzage door de klant goed en adequaat kan worden uitgevoerd.

Een ander groot risico is vaak dat organisaties niet duidelijk aangeven wanneer er met een chatbot gecommuniceerd wordt. In het verleden was dat niet zo’n probleem, want de chatbots waren duidelijk herkenbaar door de manier van reageren. Maar met de opkomst van geavanceerde generatieve AI-systemen wordt het steeds moeilijker voor mensen om het verschil te herkennen. De chatbot past het taalgebruik aan de organisatie en klanten aan, wordt soms geprogrammeerd om even te wachten met reageren en kan zelfs grapjes maken.

Ook moet er soms een volledig gesprek worden gevoerd voordat er een optie wordt gegeven om een medewerker te spreken of krijgt de klant een telefoonnummer waarbij ze wederom een chatbot te spreken krijgen. Chatbots geven daarnaast vaker foutieve of onvolledige antwoorden, waardoor klanten soms op het verkeerde been worden gezet.

Bovenstaande punten geven vooral mensen in al bestaande kwetsbare posities een nog verdere achterstand. Dit komt doordat zij bijvoorbeeld minder vaardig zijn met computers en dus een chatbot niet meteen herkennen als een chatbot, doordat ze minder taalvaardig zijn waardoor de chatbot de vraag niet begrijpt en doordat sommige chatbots minder goed te gebruiken zijn met alleen het gebruik van een toetsenbord.

Wat te doen als organisatie?

De risico’s van het inzetten van chatbots zijn te beperken. Als organisatie is het dus slim om nu al voor te sorteren op (toekomstige) verplichtingen op het gebied van AI en data, zoals de EU AI Act, Digital Fairness Act en reeds bestane verplichtingen in Digital Services Act en Algemene Verordening Gegevensbescherming (AVG). De acties die een organisatie minstens moet nemen ten aanzien van chatbots, zijn:

• Zorg dat de chatbot altijd juiste en volledige informatie verstrekt. Onjuiste en onvolledige informatie kan ook het vertrouwen in uw organisatie of dienst aantasten.
• Maak duidelijk dat klanten met een chatbot communiceren en zorg dat deze meldingen zijn afgestemd op het publiek dat uw organisatie probeert te bereiken. Een volwassene zal bijvoorbeeld andere behoeften hebben dan een minderjarige. Dit kan door te werken met pop-up berichten of het delen van de privacy- en/of AI-verklaring en te zorgen dat het taalgebruik duidelijk is voor de doelgroep.
• Zorg dat er altijd menselijk contact mogelijk is en dat deze makkelijk te vinden is.
• Zorg voor een degelijk AI-beleid en goed opgeleide AI- en privacy-professionals in uw organisatie.
• Zorg bij het beoordelen van het AI-systeem dat meerdere disciplines samenwerken om de werking en bijbehorende risico’s goed te begrijpen, denk aan data engineers/scientists, IT, security, privacy, etc.