KI mit eigenen Unternehmensdaten: Was beim Datenschutz von RAG-Systemen wichtig ist

Wenn die KI auf interne Dokumente zugreift

Viele Unternehmen möchten künstliche Intelligenz nutzen, um schneller Informationen zu finden. Ein KI-Chatbot könnte beispielsweise Fragen zu internen Richtlinien beantworten, Produktunterlagen durchsuchen oder Beschäftigte bei täglichen Aufgaben unterstützen.

Dafür werden Sprachmodelle häufig mit eigenen Dokumenten und Datenbanken verbunden. Diese Technik heißt Retrieval Augmented Generation, kurz RAG. Das bedeutet vereinfacht: Die KI sucht zunächst passende Informationen in einer angeschlossenen Datenquelle und verwendet diese anschließend für ihre Antwort.

Der Bayerische Landesbeauftragte für den Datenschutz hat in seiner Veröffentlichung „AI in a Nutshell 1" wichtige Datenschutzfragen zu solchen RAG-Systemen erläutert. Die Hinweise richten sich vor allem an öffentliche Stellen, sind aber auch für Unternehmen interessant.

Ein RAG-System besteht nicht nur aus einem Sprachmodell. Hinzu kommen beispielsweise eine Dokumentensammlung, eine Suchfunktion und eine sogenannte Vektordatenbank. Dort werden Informationen in einer mathematischen Form gespeichert, damit passende Inhalte schnell gefunden werden können.

Diese technische Verarbeitung klingt zunächst unproblematisch. Doch sobald die angeschlossenen Dokumente personenbezogene Daten enthalten, muss die DSGVO beachtet werden.

Das betrifft nicht nur offensichtliche Angaben wie Namen oder Adressen. Auch versteckte Informationen können relevant sein. Beispielsweise enthalten Word- und PDF-Dateien häufig den Namen des Autors in ihren Dateieigenschaften.

Unternehmen sollten deshalb genau prüfen, welche Informationen sie einer KI zur Verfügung stellen.

Besonders wichtig ist ein Hinweis der bayerischen Datenschutzaufsicht: Die mathematischen Darstellungen der Dokumenteninhalte sind nicht automatisch anonym.

Aus diesen sogenannten Vektoren lassen sich unter Umständen Rückschlüsse auf die ursprünglichen Informationen ziehen. Deshalb können auch sie weiterhin personenbezogene Daten darstellen.

Das bedeutet: Eine Vektordatenbank muss genauso sorgfältig geschützt werden wie andere Systeme mit vertraulichen Informationen.

Unternehmen müssen insbesondere verhindern, dass unberechtigte Personen auf die gespeicherten Inhalte zugreifen oder Informationen daraus rekonstruieren können.

Außerdem sollten sie beachten, dass bei einem RAG-System häufig mehrere KI-Modelle zusammenarbeiten. Neben dem eigentlichen Sprachmodell wird beispielsweise ein weiteres Modell verwendet, um Dokumente für die Suche aufzubereiten.

Jede dieser Komponenten kann eigene Datenschutzrisiken mitbringen.

Bevor ein RAG-System eingesetzt wird, sollten Unternehmen folgende Maßnahmen umsetzen:

1. Datenquellen prüfen: Ermitteln Sie, welche Dokumente personenbezogene oder vertrauliche Informationen enthalten.
2. Daten reduzieren: Entfernen Sie unnötige Angaben und anonymisieren Sie Inhalte, soweit möglich.
3. Anbieter kontrollieren: Klären Sie, welche KI-Modelle eingesetzt werden und wo die Daten verarbeitet werden.
4. Zugriffe begrenzen: Stellen Sie sicher, dass Beschäftigte nur Informationen erhalten, für die sie berechtigt sind.
5. Vektordatenbank schützen: Sichern Sie die gespeicherten Informationen gegen unbefugte Zugriffe.
6. Betroffenenrechte ermöglichen: Organisieren Sie Auskunft, Berichtigung und Löschung personenbezogener Daten.

Zusätzlich müssen Unternehmen eine geeignete Rechtsgrundlage festlegen und prüfen, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Dabei handelt es sich um eine besondere Risikoprüfung für Datenverarbeitungen, die voraussichtlich ein hohes Risiko für betroffene Personen verursachen.

Datenschutz Prinz unterstützt Unternehmen bei der datenschutzkonformen Einführung von KI-Systemen. Wir prüfen Datenquellen, bewerten Risiken und helfen bei der Auswahl geeigneter technischer und organisatorischer Schutzmaßnahmen.

Dabei betrachten wir nicht nur das Sprachmodell, sondern auch die angeschlossenen Datenbanken, eingesetzten Dienstleister und internen Zugriffsrechte.

Datenschutz bei RAG-Systemen beginnt bereits bei der Auswahl der Dokumente. Auch technische Zwischenschritte können personenbezogene Daten verarbeiten.

Wer KI mit eigenen Unternehmensdaten verbinden möchte, sollte deshalb sämtliche Komponenten prüfen und den Schutz vertraulicher Informationen von Anfang an berücksichtigen. 

Sie haben Fragen zu diesem Artikel? Rufen Sie uns gern unter 09122 6937302 an und vereinbaren Sie einen Gesprächstermin. Oder senden Sie uns einfach eine Nachricht. Wir freuen uns, Sie kennenzulernen!

Ihr Team von Datenschutz Prinz

Quelle: BayLFD