Laut einer repräsentativen Umfrage nutzt fast die Hälfte (46 Prozent) der Berufstätigen in Deutschland ChatGPT im Arbeitsalltag [1]. Die Beliebtheit generativer KI-Dienste und Large Language Models (LLM) stellt Unternehmen vor die Frage, inwiefern sie Sprachmodellen sensible Unternehmensdaten anvertrauen können.
Die Kaspersky-Experten haben vier Datenschutzrisiken der beruflichen ChatGPT-Nutzung identifiziert [2]:
- Datenleck oder Hack seitens des Providers: Obwohl LLM-basierte Chatbots von großen Tech-Konzernen betrieben werden, sind sie nicht immun gegenüber Hackingangriffen oder unabsichtlichen Datenlecks. So gab es bereits einen Zwischenfall, bei dem ChatGPT-Nutzer Eingaben aus dem Nachrichtenverlauf anderer Nutzer sehen konnten.
- Datenleck durch Chatbots: Theoretisch können die Chats verwendet werden, um neue Chatbot-Modelle zu trainieren. Nutzer sollten bedenken, dass LLMs anfällig gegenüber „unabsichtlicher Speicherung“ sind; das heißt: sie können sich einzigartige Sequenzen wie Handynummern merken, die nicht die Modellqualität verbessern, aber die Privatsphäre gefährden. Alle Daten, die Nutzer in den Trainingskorpus eingegeben, können bewusst oder unabsichtlich von Anwendern desselben Sprachmodells aufgerufen werden.
- Hacking von Accounts: Angreifer können durch Phishing-Angriffe oder Credential Stuffing in Angestellten-Accounts eindringen und auf fremde Daten zugreifen. Außerdem findet die Kaspersky Digital Footprint Intelligence [3] regelmäßig Darknet-Beiträge, die Chatbot‑Accounts zum Verkauf anbieten.
Anna Larkina, Sicherheits- und Datenschutzexpertin bei Kaspersky kommentiert dazu:
„Das Risiko für den Verlust sensibler Daten ist am höchsten, wenn Angestellte persönliche Accounts am Arbeitsplatz verwenden. Unternehmen sollten daher ihr Hauptaugenmerk darauflegen, Mitarbeiter für die Risiken der Chatbot-Nutzung zu sensibilisieren. Einerseits müssen diese verstehen, welche Daten vertraulich oder persönlich sind, oder ein Geschäftsgeheimnis darstellen und nicht an Chatbots weitergeleitet werden dürfen. Andererseits sollten Unternehmen klare Regeln für die Verwendung dieser Dienste – wenn sie überhaupt zugelassen werden – aufstellen.“
Weitere Informationen zu den Datenschutzrisiken beim Einsatz von Chatbots sind verfügbar unter https://securelist.com/llm-based-chatbots-privacy/110733/
Kaspersky-Tipps zum Schutz der Privatsphäre im Unternehmen
- Sichere und eindeutige Passwörter für jeden einzelnen Online-Account verwenden und dabei leicht zu erratende Informationen wie Geburtstage oder Namen vermeiden.
- Vorsichtig sein bei unaufgeforderten E-Mails, Nachrichten oder Anrufen, in denen nach persönlichen Daten gefragt wird. Die Identität des Absenders überprüfen, bevor sensible Daten weitergeben werden.
- Mitarbeiter über die neuesten Online-Bedrohungen und Best Practices zum Schutz im Internet informieren.
- Regelmäßig Betriebssystem, Anwendungen und Antivirenprogramme durch Updates und Sicherheitspatches auf den neuesten Stand bringen.
- Sensible Informationen niemals mit Dritten über Social-Media-Kanäle teilen.
- Legitimität der URL-Adresse des Online-Händlers prüfen.
- Eine Sicherheitslösung mit Cloud-Service-Analytik, wie Kaspersky Endpoint Security Cloud [4] zur Verwaltung von Cloud-Diensten und zur Bewertung von Risiken bei deren Nutzung verwenden.
Über Kaspersky
Pressekontakt
Berkeley Kommunikation GmbH
Bettina Ktona
M: [email protected]
T: +49-89-7472-62-52
Landwehrstraße 61
80336 München
Kaspersky Labs GmbH
Sarah Grill
M: [email protected]
Despag-Straße 3
85055 Ingolstadt