AI kan je een voorsprong geven - maar kun je het vertrouwen met je klantgegevens?

Een opmerkelijk voorbeeld is Klarna AB, dat veel van zijn bedrijfsfuncties, zoals marketing, klantenservice en juridische zaken, heeft getransformeerd met een brede introductie van genAI in zo ongeveer elk facet van zijn activiteiten. Bijna 90 procent van de werknemers van Klarna gebruikt tools zoals Klarna's eigen AI-assistent Kiki, die is gebaseerd op de grote taalmodellen van ChatGPT-maker OpenAI, om dagelijkse taken op het werk te helpen oplossen.

Maar zoals altijd houden toezichthouders de veiligheid van dergelijke oplossingen nauwlettend in de gaten. En terecht.

De Europese Unie is wereldwijd pionier op het gebied van gegevens- en privacyregulering. Het begon met de richtlijn gegevensbescherming in 1995, voordat de reikwijdte van haar regels werd uitgebreid met de veel gepubliceerde General Data Protection Regulations (GDPR) in 2016 en de NIS2-richtlijn in 2022. En de EU AI Act van dit jaar en de aankomende ePrivacy Act in 2025 zullen de regelgevingskaders van de Unie nog verder versterken.

En ook buiten de EU wachten bedrijven die hun verantwoordelijkheid om de gegevens van hun klanten te beschermen niet serieus nemen, of die gegevens op ongepaste wijze gebruiken, hoge boetes. Neem bijvoorbeeld het geval van ITutorGroup, dat zijn AI-wervingstool trainde om kandidaten boven een bepaalde leeftijd te discrimineren - en later een schikking trof voor een bedrag van 365.000 dollar nadat het was aangeklaagd door de Amerikaanse Equal Employment Opportunity Commision.

Maar minder opzettelijke incidenten hebben ook grote gevolgen gehad voor bedrijven. Air Canada werd bevolen een klantrestitutie te betalen die ten onrechte was beloofd door zijn chatbot. Samsung verbood ChatGPT onder zijn werknemers nadat een ingenieur er interne broncode naar had geüpload, intellectueel eigendom dat terecht kon komen op de servers van andere bedrijven die de software gebruikten. Amazon, JPMorgan Chase en vele andere Amerikaanse financiële instellingen hebben dit voorbeeld gevolgd door genAI-tools aan te pakken die het voor hen onmogelijk maken om de integriteit van hun interne gegevens te controleren.

GenAI brengt resultaten

Desondanks kan niet worden ontkend dat generatieve AI resultaten oplevert. Neem de investering van Klarna in het versterken van de klantenservice met AI, die in de eerste maand automatisch 66 procent van de chats van de fintech klantenservice afhandelde.

LeadDesk, de softwareleverancier voor contactcentra, rapporteert vergelijkbare resultaten in zijn AI-chatbot-casestudies. Bij een van zijn klanten werd 86 procent van de klantenservicevragen via chat beantwoord, wat resulteerde in 22 procent minder klantenservicevragen die agenten via alle kanalen moesten afhandelen. Een andere klant van LeadDesk rapporteerde 65 procent kortere wachttijden voordat klanten online konden chatten met een menselijke agent nadat ze de AI-chatbot hadden geïmplementeerd, van 104 seconden naar 36 seconden gemiddelde wachttijd.

Maar terwijl dergelijke resultaten de sterke punten van AI-technologie bij klantenservice duidelijk maken, hoe kunnen managers van contactcentra zowel aan de EU-regelgeving blijven voldoen als profiteren van genAI?

Compliant blijven met genAI

“Het kiezen van de juiste partner is de meest cruciale beslissing die je kunt nemen bij het implementeren van AI in je contactcentrum,” legt Miikka Haavisto uit, directeur bedrijfsontwikkeling in de AI-unit van LeadDesk.

Bedrijven die actief zijn in de EU hebben expertise op het gebied van gegevensbeveiliging en regelgeving hoog in het vaandel staan, en een leverancier van contactcentersoftware met AI-mogelijkheden moet laten zien dat hij de huidige en toekomstige regelgeving begrijpt en naleeft. Het zoeken naar een leverancier met beveiligingscertificaten die zijn afgegeven door externe auditors zou standaard moeten zijn voor elke besluitvormer die een tool voor klantcommunicatie koopt.

ISAE3000 SOC 2 en ISO27001 zijn minimumstandaarden waarnaar je moet zoeken bij elke contactcentreprovider. Als het gaat om AI-mogelijkheden, is het ook van cruciaal belang om te vragen hoe de AI is opgezet door de aanbieder. Aanbieders die om je gegevens geven, zullen deze niet gebruiken om andere taalmodellen te trainen, noch zullen ze deze delen met andere partijen om hun eigen modellen te trainen. Dit zijn het soort situaties waar bijvoorbeeld de privacy experts van Samsung zich zorgen over zouden hebben gemaakt.

Het is ook essentieel om op zoek te gaan naar een partner die prioriteit geeft aan je doelstellingen en die de noodzaak van menselijk toezicht benadrukt bij het implementeren van een AI-contactcentrumproject. “Voor onze AI-producten werken we altijd samen met klanten om te definiëren wat ze eigenlijk nodig hebben van de AI, zodat ze een oplossing kunnen bouwen die wordt gecontroleerd door mensen, zodat ze controle houden over hun gegevens en een hoog kwaliteitsniveau behouden in hun klantenservice”, zegt Haavisto. “Je kunt alleen het beste uit AI halen met voortdurende controle en regelmatige verbetering.”

GenAI met topresultaten

De chatbot-casestudies van LeadDesk laten zien dat generatieve AI een duidelijke efficiëntiegenerator is voor klantenserviceteams. Regelgevende kaders en pijnlijke nalatigheden door gebrek aan controle bedreigen echter bedrijven die geen partners kiezen met een sterke achtergrond in beveiliging en compliance.

Door samen te werken met leveranciers van contactcentersoftware met zowel SOC 2- als ISO 27001-certificeringen en sterke expertise met AI op het gebied van beveiliging en de bijbehorende regelgevingskaders, kunnen managers van klantenservice veilig genieten van de efficiëntie die AI zal brengen voor hun contactcenteractiviteiten.