Chatbot mag klantenservice niet volledig overnemen

Bedrijven mogen chatbots in hun klantenservice inzetten, maar deze mogen niet volledig het menselijke contact vervangen, zo benadrukken de Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument & Markt (ACM). Organisaties moeten klanten altijd de mogelijkheid bieden om direct contact te hebben met een menselijke medewerker, en moeten duidelijk maken wanneer een geautomatiseerd systeem wordt gebruikt.

Belangrijke verplichtingen

De toezichthouders wijzen op de volgende vereisten:

Transparantie: wanneer iemand met een chatbot communiceert, moet dit herkenbaar zijn voor de klant. Hij of zij moet weten dat het om een geautomatiseerd systeem gaat.
Menselijke toegang: er moet een menselijk alternatief beschikbaar zijn: klanten moeten kunnen kiezen voor een gesprek met een medewerker. Chatbots mogen dus geen eindstation zijn.
Kwaliteitsbewaking: de chatbot mag geen onjuiste, ontwijkende of misleidende informatie geven. Organisaties moeten de regie houden op de output van de chatbot.
Privacy en dataveiligheid: organisaties moeten rekening houden met privacy- en beveiligingsrisico’s van chatbots, zeker als generatieve AI in het spel is en grote hoeveelheden gegevens worden verwerkt.

Waarom deze oproep?

De AP en ACM signaleren dat het aantal klachten over chatbots stijgt: klanten van organisaties die chatbots inzetten, geven aan dat ze vaak niet doorverbonden worden met een medewerker wanneer dat nodig is, of dat de chatbot hen onvoldoende helpt. Ook spelen er zorgen rondom dataveiligheid en privacy: generatieve AI-chatbots kunnen gevoelig zijn voor misbruik als zij getraind zijn met vertrouwelijke gegevens.

Vooruitblik

De AI-Verordening is inmiddels van kracht, maar veel verplichtingen gelden pas na een overgangsperiode. Zo moeten organisaties vanaf 2 augustus 2026 voldoen aan de transparantie-regels rond het gebruik van chatbots. Dat betekent dat klanten altijd duidelijk moeten worden geïnformeerd wanneer zij met een AI-systeem (chatbot) communiceren.

Daarnaast werkt de Europese Commissie aan de Digital Fairness Act (DFA). Deze nieuwe wetgeving richt zich specifiek op consumentenbescherming bij digitale en geautomatiseerde dienstverlening. De DFA moet ervoor zorgen dat digitale diensten eerlijk, transparant en begrijpelijk blijven, ook wanneer organisaties gebruikmaken van AI.

Wat betekent dit voor organisaties?

Met de AI-Verordening wordt transparantie dus een harde verplichting. Artikel 50 lid 1 bepaalt dat gebruikers altijd moeten weten wanneer ze met een chatbot communiceren. Organisaties doen er dus goed aan om dit duidelijk en herkenbaar te maken binnen hun digitale dienstverlening.

Daarnaast wijzen de AP en ACM erop dat klanten niet mogen vastlopen in een chatbot. Zij moeten altijd de mogelijkheid hebben om een menselijke medewerker te bereiken als dat nodig is. Ook mag de chatbot geen misleidende of onjuiste informatie geven.

Kortom:

maak duidelijk dat de gebruiker met een chatbot communiceert (AI-Verordening, artikel 50, lid 1);
bied een menselijke route voor wie meer of beter geholpen wil worden (AP/ACM);
controleer de kwaliteit van antwoorden en voorkom misleiding;
bescherm de privacy en gegevens van klanten.

Een tijdige inrichting van deze maatregelen zorgt ervoor dat organisaties straks niet alleen aan de AI-Verordening voldoen, maar ook het vertrouwen van klanten in hun dienstverlening vergroten.

Naar het overzicht