(BTN/Twilio) – Individuelle und einmalige Kundenerlebnisse in Echtzeit zu erschaffen ist eine Aufgabe, für die Unternehmen zunehmend auf Anwendungen mit künstlicher Intelligenz setzen. Dies ist nur eine Erkenntnis aus dem aktuellen „State of Personalization Report 2023“ von Twilio.
Wer jedoch wirksame KI-Ergebnisse und ein erhöhtes Customer Engagement erwartet, muss zunächst in die Datenqualität investieren und sollte dazu verstärkt First-Party-Daten nutzen. In diesem Zusammenhang melden immerhin schon 97 Prozent der befragten Organisationen, dass sie die Bedenken der Verbraucher hinsichtlich des Datenschutzes ernst nehmen. Welche Anforderungen im Datenschutz sollten Unternehmen jedoch konkret beachten, wenn sie KI-Lösungen für eine individuelle Kundenansprache in Marketing, Vertrieb oder Service verwenden möchten? Der folgende Beitrag stellt mögliche Risiken und Best Practice-Ansätze vor.
Was bedeutet Datenschutz im Bereich der KI?
Der Datenschutz im KI-Umfeld betrifft den Umgang mit personenbezogenen und sensiblen Daten beim Einsatz von KI-Algorithmen. Um sicherzustellen, dass KI-Systeme die Rechte des Einzelnen auf Datenschutz respektieren, müssen Praktiken wie Datenanonymisierung, sichere Datenspeicherung und transparente Richtlinien zur Datennutzung eingeführt werden. Das Sammeln, Analysieren und Speichern von persönlichen Kundendaten ist jedoch grundsätzlich für die Effektivität von KI-Algorithmen unerlässlich. Der Umgang mit derartig sensiblen Daten beinhaltet jedoch ebenfalls Risiken. Beispielsweise könnte ein Fehler im Code dazu führen, dass ein Chatbot die Bestellhistorie eines Benutzers während eines Live-Chats einem anderen Benutzer anzeigt. Das wiederum wäre ein schwerwiegender Verstoß gegen den Datenschutz.
Voreingenommenheit
KI-Systeme werden anhand riesiger Datenmengen trainiert und zur Erstellung von Vorhersagen verwendet. Diese Vorhersagen werden dazu genutzt, die Interaktion mit dem Kunden zu steuern oder ihm Empfehlungen auszusprechen. Was würde jedoch passieren, wenn die Trainingsdaten Verzerrungen enthalten? Wie würde diese Unwucht das resultierende Modell falsch beeinflussen?
Beispiel: Ein KI-Chatbot wird im Kundendienst eingesetzt und ist hauptsächlich für die Bearbeitung von Produktanfragen entwickelt worden. Er wurde mehrheitlich auf Daten von Kunden trainiert, die hochwertige, teure Produkte gekauft haben. Erkundigt sich ein Kunde aber nach einem preisgünstigen Produkt, gibt der Chatbot weniger detaillierte Antworten oder leitet den Kunden auf eine Produktseite weiter, anstatt persönliche Hilfe anzubieten. Es zeigt sich, dass der Chatbot eine Voreingenommenheit gegenüber Käufern von High-End-Produkten entwickelt hat und ihnen mehr Aufmerksamkeit und personalisierten Service zukommen lässt. Diese Art von Voreingenommenheit wirkt sich negativ auf das Kundenerlebnis aus. Das Verhalten des Chatbots zeigt zudem, dass er Kunden je nach ihrer Kaufhistorie besser oder schlechter behandelt.
Sicherheit
Das gravierendste Datenschutzrisiko liegt jedoch in der grundlegenden IT-Sicherheit. Problematisch ist beispielsweise, wenn die gespeicherten Kundendaten nicht verschlüsselt sind oder keine Zugriffskontrolle für die Daten eingerichtet wurde. Es ist also kein Wunder, dass 42 Prozent der Marken sagen, dass die größte Herausforderung bei der Kundenbindung im Jahr 2023 darin besteht, ein Gleichgewicht zwischen Sicherheit und Kundenerlebnis zu finden.
Die folgenden Best Practices zeigen auf, wie ein sicherer und vertrauenswürdiger KI-gesteuerter Kundenservice aufzubauen ist.
1. Daten anonymisieren
Die Anonymisierung von Daten beinhaltet das Entfernen oder Ändern von persönlichen Identifikatoren in den Datensätzen. Dadurch wird verhindert, dass Personen identifiziert oder mit den Daten in Verbindung gebracht werden können. Wenn diese Daten für das Training von KI-Modellen verwendet werden, verfügen Anwender auch dann über nützliche Daten, ohne die Privatsphäre der Kunden zu gefährden. Selbst wenn es zu einem Verstoß kommt, können die durchgesickerten Daten nicht zu bestimmten Kunden zurückverfolgt werden.
So hat Twilio beispielsweise für den Umgang mit Daten innerhalb von KI-Modellen die Privacy Ladder etabliert. Für jedes KI-gesteuerte Produkt oder Feature, das Kunden verwenden möchten, zeigt diese Leiter (und ihre Stufen) die Art der vom Modell verwendeten Daten und ob das Modell ausschließlich für sie selbst oder für mehrere Kunden bestimmt ist. Während einige es vorziehen, nur isolierte Modelle zu verwenden, sind andere durchaus offen dafür, Daten zu teilen und von Modellen zu profitieren, die breitere, repräsentativere Datensätze verwenden.
2. Menschliche Aufsicht integrieren
Unternehmen müssen menschliche Faktoren in alle KI-Entscheidungsprozesse einbeziehen. Ein menschlicher Vorgesetzter sollte die von KI-Systemen getroffenen Entscheidungen überprüfen und validieren, um eine zusätzliche Kontrollebene zu schaffen. Auf diese Weise werden Fehler oder Verzerrungen erkannt, die die KI möglicherweise übersehen hat.
3. Richtlinien zur Datenaufbewahrung implementieren
Kundendaten haben ein Verfallsdatum und müssen nicht ewig vorgehalten werden. Anwender sollten sie daher nur so lange aufbewahren, wie sie für wichtige Prozesse notwendig sind, und sie dann löschen. Indem die Aufbewahrungsdauer von Kundendaten begrenzt wird, verringern Unternehmen das Risiko eines unbefugten Zugriffs oder von Datenschutzverletzungen. Richtlinien zur Datenaufbewahrung legen darüber hinaus fest, wie lange Daten zu speichern und wann sie zu löschen sind. Dadurch wird nicht nur der Datenschutz verbessert, sondern auch die Einhaltung verschiedener Datenschutzgesetze wie DSGVO, HIPAA, CCPA usw. sichergestellt.
Transparenz
Transparenz gegenüber Kunden ist wichtig, um deren Vertrauen zu gewinnen. Entsprechend haben Kunden ein Recht darauf zu erfahren, wie Unternehmen ihre Daten verwenden. Eine Möglichkeit besteht in der Verwendung einer KI-Nährwertkennzeichnung, wie beispielsweise von Twilio. Diese Etiketten bieten einen klaren und präzisen Überblick darüber, wie ein KI-Modell Daten verwendet, sowie über den Grad des Datenschutzes. Da ein Großteil der modernen KI-Nutzung eher undurchsichtig ist, ist ein hohes Maß an Transparenz für die Kunden eine vertrauensfördernde Maßnahme, die den Charakter eines Wettbewerbsvorteils bekommt.
KI-Modelle, die Vertrauen schaffen
Der Einsatz von KI im Kundenservice wird vielen Unternehmen auf lange Sicht wahrscheinlich große Vorteile bringen. Der erforderliche Umgang mit sensiblen Kundendaten bedeutet jedoch auch, dass dem Datenschutz hohe Relevanz zukommt. Falsch gehandhabte Daten, Modellverzerrungen oder unsichere Praktiken können den Ruf eines Unternehmens schädigen – oder schlimmer noch, es muss mit rechtlichen oder finanziellen Konsequenzen rechnen.
Über Twilio
Führende Unternehmen vertrauen auf die Customer Engagement Platform (CEP) von Twilio, um direkte und personalisierte Beziehungen zu ihren Kunden weltweit aufzubauen. In allen Schritten einer Customer Journey können Unternehmen Kommunikationskanäle und Daten nutzen, um die Kundenkommunikation durch mehr Intelligenz und Sicherheit zu verbessern. Anwendungsfälle für die flexibel und programmatisch zu realisierenden Lösungen sind unter anderem Vertrieb, Akquise, Marketing oder Kundenservice. In 180 Ländern nutzen Millionen von Entwicklern und Hunderttausende von Unternehmen Twilio, um nachhaltige Erlebnisse für ihre Kunden zu schaffen. Weitere Informationen über Twilio (NYSE: TWLO) finden Sie unter: www.twilio.com/de.
Pressekontakt:
Hill & Knowlton GmbH
Carolin Meyer
Darmstädter Landstr. 112
60598 Frankfurt
T: +49699736261
M: [email protected]
W: www.hillandknowlton.com
