Was wir der KI nicht anvertrauen sollten

Vorsicht mit personenbezogenen Daten

Künstliche Intelligenz ist derzeit wohl einer der am meisten von Fachleuten und Experten beobachteten Trends. Ob wir es gutheißen oder nicht: Viele Technologien, die unter diesem Begriff zusammengefasst werden, haben längst in unseren Alltag Einzug gehalten – und sei es indirekt. Die Frage ist also nicht, ob wir künstliche Intelligenz nutzen wollen, sondern wie wir sie nutzen wollen und wie wir unsere Daten trotz des Einsatzes von KI-Tools wirkungsvoll schützen können.

Einsatz von KI nicht hundertprozentig sicher

KI-Expertinnen und -Experten bezweifeln, dass der Einsatz von KI-Tools hundertprozentig sicher sein kann. Der KI personenbezogene Daten zu überlassen, halten sie für kritisch. Wobei es natürlich besonders problembehaftet ist, wenn es sich dabei um sensible Daten wie Informationen über die individuelle Gesundheit oder um die persönlichen Finanzen handelt. Passworte, Bankdaten, Arztberichte sind nur wenige Beispiele solcher Daten, die uns aber verdeutlichen, wie oft auch mit sensiblen Daten allzu unbesorgt umgegangen wird.

Eingabe-Manipulationsangriffe

Ein nicht zu unterschätzendes Risiko stellen Prompt-Injection-Angriffe dar. Bei diesen Eingabe-Manipulationsangriffen werden nicht sichtbare Anweisungen in Dateien oder in Texte eingefügt und dann von der KI verarbeitet. So kann die KI dahingehend manipuliert werden, dass sie unerwünschte Aktionen ausführt oder Daten offenlegt. Dies geschieht meist von Nutzerinnen und Nutzer unbemerkt, denn die KI unterscheidet nicht zwischen gutartigen und bösartigen Anfragen. Insbesondere jüngere KI-Tools mit beispielsweise Gedächtnisfunktionen sollen hierfür anfällig sein, weil diese sich frühere Anfragen merken und auf deren Grundlage auch personenbezogene Daten weitergeben können. Eine Methode, mit der die KI angegriffen werden kann, wurde 2025 auf einer Konferenz zum Thema Sicherheit präsentiert: Ein Dokument, das in einer Cloud gespeichert wurde, reichte aus, um die KI dazu zu bringen, vertrauliche Zugangsdaten weiterzugeben.

Aufklärung und Achtsamkeit unverzichtbar

Das alles zeigt, wie wichtig es ist, dass man sich über die Risiken erstens informiert und dass man zweitens sehr genau auf die Sicherheit personenbezogener Daten achtet. Vertrauliche Informationen und personenbezogene Daten sollten der KI unter keinen Umständen anvertraut werden. Wie Sie dies in Ihrem Unternehmen umsetzen können, erklären wir Ihnen gern im Rahmen unserer Beratung. Sie erreichen uns unter unserer Telefonnummer 09122 6937302 und mit Ihrer digitalen Nachricht. Wir freuen uns auf das Gespräch mit Ihnen!

Ihr Team von Datenschutz Prinz