Am 12. Juli 2024 wurde die KI-Verordnung (KI-VO) im Amtsblatt der Europäischen Union veröffentlicht. Diese Verordnung tritt zwanzig Tage später, am 1. August 2024, in Kraft und markiert den Beginn der Umsetzungsfristen.

Ab dem 2. Februar 2025 werden bestimmte Praktiken der künstlichen Intelligenz verboten (Art. 5 KI-VO). Dazu gehört das Verbot biometrischer Echtzeit-Fernüberwachungssysteme in öffentlichen Räumen zur Strafverfolgung. Auch das Social Scoring, bei dem Verhaltensweisen KI-basiert bewertet und soziale Benachteiligungen wie der Ausschluss von öffentlichen Leistungen daraus abgeleitet werden, wird endgültig untersagt.

Zuständigkeiten der Datenschutzaufsichtsbehörden

Bereits jetzt steht fest, dass die Datenschutzaufsichtsbehörden für die Marktüberwachung eines Großteils der Hochrisiko-KI-Systeme zuständig sein werden. Die KI-Verordnung sieht vor, dass diese Behörden in den Bereichen Strafverfolgung, Justizverwaltung, Migrationskontrolle und bei KI-Systemen, die Wahlen beeinflussen, als Marktüberwachungsbehörden fungieren (Art. 74 Abs. 8 KI-VO). Diese Zuständigkeit umfasst nicht nur die Behörden, die solche Systeme einsetzen, sondern auch Softwareunternehmen, Cloud-Dienste und Sicherheitsunternehmen, die KI-Systeme für diese Sektoren anbieten, integrieren oder vertreiben. Die Marktüberwachung erstreckt sich auf die gesamte Wertschöpfungskette.

Durchführungsgesetz bis August 2025

Bis zum 2. August 2025 müssen die Mitgliedstaaten ein Durchführungsgesetz erlassen, das allgemeine Marktüberwachungsbehörden für die Durchsetzung der KI-VO benennt. Diese Behörden müssen unabhängig, unparteiisch und unvoreingenommen agieren, um die Objektivität ihrer Tätigkeiten sicherzustellen und die Anwendung der KI-VO zu gewährleisten.

Alle Marktüberwachungsbehörden müssen mit ausreichenden technischen, finanziellen und personellen Ressourcen sowie mit der notwendigen Infrastruktur ausgestattet werden, um ihre Aufgaben wirksam zu erfüllen. Die KI-VO verlangt, dass die zuständigen Behörden über eine ausreichende Zahl von Mitarbeitenden verfügen, deren Kompetenzen und Fachkenntnisse ein umfassendes Verständnis der KI-Technologien sowie der relevanten Vorgaben aus dem Daten- und Produktsicherheitsrecht umfassen.

Positionspapier der Datenschutzkonferenz

Die Datenschutzkonferenz (DSK) hat Anfang Mai 2024 ein Positionspapier veröffentlicht, das die wesentliche Rolle der Datenschutzbehörden in Deutschland bei der Marktüberwachung nach der KI-VO betont. Die DSK fordert, dass die deutschen Datenschutzbehörden zentral an der Überwachung und Durchsetzung der neuen Verordnung beteiligt werden.

Rufen Sie uns doch einfach unter 09122 6937302 an! Oder senden Sie uns Ihre Nachricht. Wir laden Sie sehr gern zu einem persönlichen Austausch ein!

Ihr Team von Datenschutz Prinz

Quelle:

Der Hamburgische Datenschutzbeauftragte für Datenschutz und Informationssicherheit / 12.07.2024

Positionspapier der DSK vom 03.05.2024