KI-Chatbots im Unternehmen: Was die Datenschutzaufsicht jetzt empfiehlt

Ein Chatbot ist schnell eingerichtet – aber ist er auch sicher?

Ein Unternehmen möchte seinen Kundenservice verbessern. Ein KI-Chatbot soll häufige Fragen beantworten und Beschäftigte entlasten. Die passende Software ist schnell gefunden. Doch bevor der Chatbot auf der Internetseite erscheint, müssen wichtige Datenschutzfragen geklärt werden.

Der Bayerische Landesbeauftragte für den Datenschutz beschäftigt sich in seiner Veröffentlichung „AI in a Nutshell 3" mit dem Einsatz von KI-Chatbots auf Basis großer Sprachmodelle. Solche Systeme werden auch als LLM-Chatbots bezeichnet.

Die Orientierungshilfe richtet sich an öffentliche Stellen. Viele Hinweise lassen sich jedoch auf Unternehmen übertragen.

Die wichtigste Empfehlung lautet: Datenschutz muss bereits bei der Auswahl des Chatbots berücksichtigt werden.

Welche Daten verarbeitet ein KI-Chatbot?

Ein Chatbot verarbeitet zunächst die Fragen, die Nutzer eingeben. Darin können personenbezogene Daten enthalten sein, beispielsweise Namen, E-Mail-Adressen oder Informationen über Kunden und Beschäftigte.

Je nach Anbieter werden zusätzlich technische Nutzungsdaten, Gesprächsverläufe oder Benutzerkonten verarbeitet.

Unternehmen sollten deshalb prüfen, ob personenbezogene Daten für den geplanten Einsatz überhaupt erforderlich sind.

Auch die technische Lösung spielt eine wichtige Rolle. Wird der Chatbot über einen externen Cloudanbieter betrieben oder innerhalb einer geschützten Unternehmensumgebung?

Kann er auf interne Dokumente zugreifen? Werden Eingaben gespeichert oder zur Verbesserung des KI-Modells verwendet?

Diese Fragen sollten vor der Einführung beantwortet werden.

Datenschutz endet nicht mit der Auswahl des Anbieters

Die bayerische Datenschutzaufsicht empfiehlt, bereits vor der Beschaffung die technischen und rechtlichen Rahmenbedingungen zu prüfen.

Dazu gehören geeignete Verträge mit Dienstleistern und eine Bewertung möglicher Datenschutzrisiken.

Bei externen KI-Anbietern kann beispielsweise eine Vereinbarung zur Auftragsverarbeitung erforderlich sein.

Auch ein bereits vortrainiertes KI-Modell muss bewertet werden. Denn je nach Trainingsverfahren können Datenschutzrisiken bestehen, die beim späteren Einsatz berücksichtigt werden müssen.

Außerdem sollten Unternehmen prüfen, ob eine Datenschutz-Folgenabschätzung notwendig ist.

KI-Chatbots müssen richtig eingestellt werden

Besonders wichtig sind die technischen Einstellungen.

Die Datenschutzaufsicht empfiehlt unter anderem, das Nachtraining mit eingegebenen Daten zu deaktivieren und die Speicherung von Gesprächsverläufen möglichst einzuschränken.

Dadurch lässt sich das Risiko reduzieren, dass vertrauliche Informationen dauerhaft gespeichert oder für andere Zwecke verwendet werden.

Auch Beschäftigte benötigen klare Vorgaben. Sie sollten wissen, welche Daten sie eingeben dürfen und welche Informationen nicht in einen KI-Chatbot gehören.

Bei öffentlich zugänglichen Chatbots müssen Nutzer außerdem grundsätzlich erkennen können, dass sie mit einer KI kommunizieren. Hier sind insbesondere die Transparenzvorgaben der europäischen KI-Verordnung zu beachten.

Warum KI-Antworten kontrolliert werden müssen

Ein KI-Chatbot kann überzeugend formulieren und trotzdem falsche Informationen liefern.

Deshalb sollten Unternehmen die Antworten regelmäßig überprüfen. Besonders wichtig ist das bei rechtlichen, medizinischen oder anderen sensiblen Themen.

Auch diskriminierende oder unvollständige Antworten können problematisch sein.

Ein Chatbot sollte deshalb nicht ohne geeignete Kontrollen für wichtige Entscheidungen über Menschen eingesetzt werden.

Was Unternehmen jetzt tun sollten

Für einen datenschutzkonformen Einsatz empfehlen wir sechs Maßnahmen:

  1. Einsatzzweck festlegen: Bestimmen Sie, welche Aufgaben der Chatbot übernehmen soll.
  2. Datenverarbeitung prüfen: Klären Sie, welche personenbezogenen Daten verarbeitet werden.
  3. Anbieter bewerten: Prüfen Sie Verträge, Speicherorte und Sicherheitsmaßnahmen.
  4. Datenschutzfreundliche Einstellungen wählen: Deaktivieren Sie unnötige Speicher- und Trainingsfunktionen.
  5. Beschäftigte schulen: Legen Sie klare Regeln für die Nutzung fest.
  6. Ergebnisse kontrollieren: Überprüfen Sie regelmäßig Antworten, Risiken und Schutzmaßnahmen.

Zusätzlich sollten Unternehmen ihre Datenschutzdokumentation aktualisieren und gegebenenfalls eine Datenschutz-Folgenabschätzung durchführen.

Wie Datenschutz Prinz unterstützen kann

Datenschutz Prinz unterstützt Unternehmen bei der Auswahl und datenschutzkonformen Einführung von KI-Chatbots. Wir prüfen Anbieter, bewerten Risiken und helfen bei der Erstellung interner KI-Richtlinien.

Außerdem unterstützen wir bei der Schulung von Beschäftigten und der regelmäßigen Kontrolle eingesetzter KI-Systeme.

Fazit

KI-Chatbot Datenschutz beginnt nicht erst mit der ersten Nutzeranfrage. Entscheidend sind eine sorgfältige Planung, geeignete technische Einstellungen und klare Verantwortlichkeiten.

Wer diese Punkte berücksichtigt, kann die Vorteile von KI-Chatbots nutzen und gleichzeitig personenbezogene Daten besser schützen. 

Sie haben Fragen zu diesem Artikel? Rufen Sie uns gern unter 09122 6937302 an und vereinbaren Sie einen Gesprächstermin. Oder senden Sie uns einfach eine Nachricht. Wir freuen uns, Sie kennen zu lernen!

Ihr Team von Datenschutz Prinz


×
Bleiben Sie informiert!

Hier haben Sie die Möglichkeit, für alle Blog-Beiträge, die wir auf unserer Webseite veröffentlichen, Updates zu erhalten.

Damit verpassen Sie keine Neuigkeiten mehr in Sachen Datenschutz!

 
Datenschutz gemeinsam erklären: Warum Vernetzung u...
Medienerziehung in Familien: Datenschutz beginnt m...

Um hier diese Inhalte zu sehen, stimmen Sie bitte zu, dass diese in die Webseite von https://www.datenschutz-prinz.de/ geladen werden.