KI im Unternehmen: Orientierungshilfe zeigt, worauf es beim Datenschutz ankommt

Künstliche Intelligenz braucht klare Regeln

Künstliche Intelligenz gehört in vielen Unternehmen bereits zum Arbeitsalltag. Beschäftigte nutzen KI, um Texte zu erstellen, Dokumente zusammenzufassen oder Informationen auszuwerten. Dabei werden häufig auch personenbezogene Daten verarbeitet. Doch welche Datenschutzregeln müssen Unternehmen beachten?

Der Bayerische Landesbeauftragte für den Datenschutz hat im März 2026 eine umfangreiche Orientierungshilfe zum Datenschutz bei KI-Projekten veröffentlicht. Das Dokument richtet sich vor allem an öffentliche Stellen in Bayern. Viele der beschriebenen Anforderungen ergeben sich jedoch aus der DSGVO und sind deshalb auch für Unternehmen relevant.

Die wichtigste Botschaft lautet: Datenschutz darf nicht erst geprüft werden, wenn ein KI-System bereits im Einsatz ist.

Wer ein KI-System einführen möchte, sollte zunächst festlegen, wofür es eingesetzt werden soll. Soll die KI Kundenanfragen beantworten, Bewerbungen unterstützen oder interne Dokumente durchsuchen? Je nach Anwendung entstehen unterschiedliche Risiken.

Besonders wichtig ist die Frage, welche personenbezogenen Daten verarbeitet werden. Dazu gehören beispielsweise Namen, Kontaktdaten, Beschäftigtendaten oder Gesundheitsinformationen.

Für jede Verarbeitung muss eine geeignete Rechtsgrundlage vorliegen. Außerdem dürfen grundsätzlich nur Daten verwendet werden, die für den jeweiligen Zweck erforderlich sind.

Unternehmen sollten deshalb vermeiden, vertrauliche Dokumente ungeprüft in öffentlich zugängliche KI-Anwendungen einzugeben.

Die Orientierungshilfe erläutert auch das Verhältnis zwischen der europäischen KI-Verordnung und der DSGVO. Beide Regelwerke verfolgen unterschiedliche Ziele und können gleichzeitig gelten.

Die KI-Verordnung enthält unter anderem Vorgaben für bestimmte KI-Systeme, Transparenzpflichten und Anforderungen an den sicheren Einsatz. Die DSGVO regelt dagegen den Schutz personenbezogener Daten.

Das bedeutet: Ein KI-System kann die Anforderungen der KI-Verordnung erfüllen und trotzdem datenschutzrechtliche Probleme verursachen.

Besondere Vorsicht ist erforderlich, wenn KI zur Bewertung von Menschen eingesetzt wird. Das betrifft beispielsweise bestimmte Anwendungen im Personalbereich. Hier können zusätzliche gesetzliche Anforderungen gelten.

Auch vollständig automatisierte Entscheidungen über einzelne Personen sind datenschutzrechtlich besonders sensibel.

Unternehmen können sich nicht allein darauf verlassen, dass ein KI-Anbieter seine Software als datenschutzkonform bezeichnet.

Sie müssen selbst prüfen, wie personenbezogene Daten verarbeitet werden. Dazu gehört die Frage, ob Eingaben gespeichert, für das Training verwendet oder an weitere Dienstleister übermittelt werden.

Ebenso wichtig sind sichere Zugriffsrechte, verständliche Informationen für betroffene Personen und geeignete Löschregeln.

Bei risikoreichen Anwendungen kann außerdem eine Datenschutz-Folgenabschätzung notwendig sein. Damit werden mögliche Gefahren für betroffene Personen systematisch untersucht.

Für den datenschutzkonformen KI-Einsatz empfehlen wir folgende Maßnahmen:

1. KI-Anwendungen erfassen: Dokumentieren Sie, welche Systeme im Unternehmen genutzt werden.
2. Einsatzzwecke festlegen: Bestimmen Sie, welche Aufgaben die KI übernehmen darf.
3. Datenverarbeitung prüfen: Klären Sie Rechtsgrundlagen, Speicherorte und mögliche Datenweitergaben.
4. Anbieter kontrollieren: Prüfen Sie Verträge, Sicherheitsmaßnahmen und Einstellungen zur Datennutzung.
5. Risiken bewerten: Untersuchen Sie, ob eine Datenschutz-Folgenabschätzung erforderlich ist.
6. Beschäftigte schulen: Legen Sie verständliche Regeln für den Umgang mit KI fest.

Die Prüfungen sollten regelmäßig wiederholt werden, insbesondere wenn sich Funktionen oder Einsatzzwecke ändern.

Datenschutz Prinz unterstützt Unternehmen bei der datenschutzkonformen Einführung und Nutzung künstlicher Intelligenz. Wir prüfen KI-Anwendungen, bewerten Datenschutzrisiken und helfen bei der Erstellung interner KI-Richtlinien.

Dabei achten wir auf verständliche und praktikable Lösungen für den Arbeitsalltag.

Die bayerische Orientierungshilfe zeigt, wie wichtig ein geplanter und kontrollierter KI-Einsatz ist. KI Datenschutz im Unternehmen bedeutet, Risiken frühzeitig zu erkennen, Verantwortlichkeiten festzulegen und personenbezogene Daten zuverlässig zu schützen.

Wer diese Anforderungen von Anfang an berücksichtigt, schafft eine sichere Grundlage für den Einsatz künstlicher Intelligenz. 

Sie haben Fragen zu diesem Artikel? Rufen Sie uns gern unter 09122 6937302 an und vereinbaren Sie einen Gesprächstermin. Oder senden Sie uns einfach eine Nachricht. Wir freuen uns, Sie kennenzulernen!

Ihr Team von Datenschutz Prinz