Was ist eigentlich ein KI-System im Sinne des AI Act?

Nicht jede intelligente Software ist automatisch KI

Im Unternehmensalltag begegnen uns zahlreiche Begriffe: Automatisierung, Machine Learning, intelligente Software, Algorithmen, Chatbots oder generative KI. Rechtlich entscheidend ist jedoch nicht, wie ein Anbieter sein Produkt bezeichnet. Entscheidend ist die tatsächliche Funktionsweise.

Die Einordnung ist der Ausgangspunkt für alle weiteren Schritte. Erst wenn klar ist, ob ein KI-System im Sinne des AI Act vorliegt, lassen sich Rolle, Risikoklasse und mögliche Pflichten belastbar bestimmen.

Ein KI-System arbeitet maschinengestützt und kann mit einem gewissen Grad an Autonomie funktionieren. Aus erhaltenen Eingaben werden Ergebnisse abgeleitet. Diese Ergebnisse können beispielsweise Vorhersagen, Inhalte, Empfehlungen, Bewertungen oder Entscheidungen sein.

Das System kann dadurch digitale oder reale Prozesse beeinflussen. Für die Praxis ist daher wichtig, nicht nur die Benutzeroberfläche zu betrachten, sondern den gesamten Verarbeitungsvorgang.

Klassische Software folgt häufig festen Regeln. Ein Programmierer gibt beispielsweise vor: Wenn Bedingung A erfüllt ist, soll Aktion B ausgeführt werden. Bei KI-Systemen können komplexere Ableitungen stattfinden. Das System erkennt beispielsweise Muster in Daten und erzeugt daraus Prognosen oder Empfehlungen.

Genau diese Fähigkeit zur Ableitung ist ein wichtiges Unterscheidungsmerkmal. Nicht jede Automatisierung ist daher automatisch KI.

Nicht zwingend. Viele Unternehmen setzen KI-Systeme ein, deren grundlegendes Modell nach der Einführung nicht ständig weitertrainiert wird. Entscheidend ist vielmehr, wie das System Ergebnisse erzeugt und welcher Grad an Autonomie besteht.

Bei jeder neuen Anwendung sollten Verantwortliche fragen: Welche Daten erhält das System? Wie verarbeitet es die Eingaben? Welche Ergebnisse erzeugt es? Wie autonom arbeitet es? Welche Auswirkungen haben die Ergebnisse?

Diese Fragen zwingen dazu, die technische Funktion konkret zu beschreiben. Sie verhindern, dass allein anhand von Produktnamen oder Marketingbegriffen klassifiziert wird.

Ein Produkt kann mit "AI powered" beworben werden, obwohl nur eine kleine Funktion tatsächlich KI verwendet. Umgekehrt kann Software KI-Funktionen enthalten, obwohl das Unternehmen sie bisher nur als gewöhnliche Software betrachtet hat. Deshalb sollte immer die konkrete Funktion geprüft werden.

Die Definition des KI-Systems ist der Ausgangspunkt jeder AI-Act-Prüfung. Erst wenn klar ist, ob tatsächlich ein KI-System vorliegt, können Risikoklasse, Rolle und Pflichten sinnvoll bewertet werden.

Sie haben Fragen zu diesem Artikel? Rufen Sie uns gern unter 09122 6937302 an und vereinbaren Sie einen Gesprächstermin. Oder senden Sie uns einfach eine Nachricht. Wir freuen uns, Sie kennenzulernen!

Ihr Team von Datenschutz Prinz