Die KI-Verordnung in der Praxis: Was jetzt zu beachten ist und wo Vorsicht geboten bleibt

Einleitung: Ein Regelwerk im Wandel

Seit dem 1. August 2024 ist die europäische KI-Verordnung (KI-VO, Verordnung (EU) 2024/1689) in Kraft. Doch was zunächst wie ein klar strukturierter, risikobasierter Rechtsrahmen klang, hat sich in der Praxis als ein bewegliches Ziel erwiesen. Der AI Omnibus (als Teil des Digital Omnibus Package, am 19. November 2025 vorgeschlagen) trat am 27. Juli 2026 in Kraft. Er hat Fristen verschoben, Pflichten abgeschwächt und neue Klarstellungen gebracht – und dabei nicht alle Unsicherheiten beseitigt.

Für Unternehmen, öffentliche Stellen und Anwender stellt sich damit eine drängende Frage: Was gilt jetzt, was kommt später, und wo lauern Fallstricke, die trotz aller Vereinfachungsbemühungen bestehen bleiben?

Dieser Artikel ordnet die aktuelle Rechtslage ein, identifiziert konkrete Handlungserfordernisse und benennt die Bereiche, in denen besondere Vorsicht geboten ist.

Der aktuelle Zeitplan: Was wann gilt

Die KI-VO folgt einem gestaffelten Anwendungsmodell. Durch den AI Omnibus haben sich die Fristen für die meisten Hochrisiko-Pflichten verschoben:

Diese Verschiebungen waren eine Reaktion auf erhebliche Verzögerungen bei der Ausarbeitung harmonisierter Normen sowie auf den Aufbau der nationalen Governance-Strukturen. Die neuen Fristen sind jedoch verbindlich – es handelt sich nicht um unverbindliche Zielmarken. Die Kommission kann zwar durch Beschluss die Anwendbarkeit vorziehen, wenn geeignete Konformitätsmaßnahmen vorliegen, doch ohne einen solchen Beschluss gelten die genannten Daten.

Was jetzt besonders zu beachten ist

1. Die Transparenzpflichten greifen bereits – und werden oft unterschätzt

Artikel 50 der KI-VO verpflichtet Anbieter und Betreiber, Nutzer darüber zu informieren, wenn sie mit einem KI-System interagieren, und KI-generierte oder manipulierte Inhalte (Deepfakes) zu kennzeichnen. Diese Pflichten gelten seit dem 2. August 2026 und erfassen einen breiten Kreis.

Besonders wichtig: Es gibt keine generelle Ausnahme für kleine Unternehmen oder Freiberufler im Anwendungsbereich des Art. 50. Die Verordnung enthält lediglich Ausnahmen für bestimmte Sachverhalte, etwa wenn der KI-Einsatz für den Nutzer offensichtlich ist oder wenn Inhalte lediglich unterstützend bearbeitet werden, ohne die Semantik wesentlich zu verändern.

Ebenso erfasst sind öffentliche Stellen: Eine Gemeinde mit einem KI-Chatbot auf ihrem Portal, eine Gesundheitsbehörde mit KI-gestützten Diagnosewerkzeugen, eine Schule mit KI-Lernsoftware – alle müssen ihre Systeme kartieren, die erforderlichen Hinweise umsetzen und gegebenenfalls eine Grundrechte-Folgenabschätzung (FRIA) durchführen.

Praktische Konsequenz: Für jedes KI-System, das mit Endnutzern interagiert oder Inhalte generiert, sollte eine Compliance-Akte angelegt werden, die Screenshots der Hinweise, die verwendeten Formulierungen, die Label-Konfigurationen und die technische Dokumentation enthält. Diese Akte entscheidet im Ernstfall darüber, ob eine Behördenanfrage in einem Tag oder in Wochen beantwortet werden kann.

2. Hochrisiko-KI: Die Frist ist länger, die Vorbereitung nicht einfacher

Die Verschiebung auf Dezember 2027 bzw. August 2028 bedeutet nicht, dass Unternehmen mit der Vorbereitung warten sollten. Im Gegenteil: Die Anforderungen an Hochrisiko-KI-Systeme sind umfangreich und betreffen nahezu alle Unternehmensbereiche.

Ein Hochrisiko-KI-System liegt vor, wenn es als Sicherheitskomponente in einem Produkt eingesetzt wird, das unter EU-Produktsicherheitsrecht fällt, oder wenn es für bestimmte in Anhang III genannte Zwecke bestimmt ist – darunter Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Strafverfolgung.

Gerade der Beschäftigungsbereich ist für viele Unternehmen relevant: Systeme zur automatisierten Bewerberauswahl, Leistungsbewertung oder Arbeitsplatzüberwachung fallen regelmäßig in die Hochrisiko-Kategorie. Die Anforderungen umfassen:

• Risikomanagementsystem über den gesamten Lebenszyklus
• Daten-Governance: Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein
• Technische Dokumentation gemäß Anhang IV
• Automatische Protokollierung relevanter Ereignisse
• Menschliche Aufsicht: Automatisierte Entscheidungen dürfen nicht ohne angemessene Überprüfung und menschlichen Einfluss erfolgen
• Genauigkeit, Robustheit und Cybersicherheit
• Qualitätsmanagementsystem
• Konformitätsbewertung, CE-Kennzeichnung und Registrierung in der EU-Datenbank
• Post-Market-Monitoring und Meldung schwerwiegender Vorfälle

Besonders zu beachten: Die Pflicht zur menschlichen Aufsicht ist nicht bloß ein formales Erfordernis. Betreiber müssen natürliche Personen mit der Aufsicht betrauen, die über die notwendige Kompetenz, Ausbildung und Autorität verfügen. Regelmäßige Schulungen sind unerlässlich. Wer glaubt, ein Hochrisiko-System „läuft schon irgendwie“, unterschätzt die organisatorischen Anforderungen erheblich.

3. Die Betreiberpflichten werden oft übersehen

Während die Pflichten der Anbieter (Provider) umfangreich und bekannt sind, werden die Pflichten der Betreiber (Deployer) häufig unterschätzt. Doch gerade für Unternehmen, die KI-Systeme einkaufen und einsetzen – also die Mehrheit der Anwender – sind diese Pflichten zentral.

Betreiber von Hochrisiko-KI-Systemen müssen gemäß Artikel 26 KI-VO:

• Das System gemäß der Gebrauchsanweisung verwenden
• Menschliche Aufsicht durch qualifiziertes Personal sicherstellen
• Eingabedaten auf Relevanz und Repräsentativität prüfen
• Protokolle mindestens sechs Monate aufbewahren
• Arbeitnehmervertreter und betroffene Arbeitnehmer vor der Verwendung am Arbeitsplatz informieren
• Bei Risiken oder schwerwiegenden Vorfällen Anbieter und Behörden informieren und die Verwendung aussetzen

Vorsicht geboten: Die Informationspflicht gegenüber Arbeitnehmervertretern (in Deutschland: Betriebsrat) ist nicht optional. Sie muss vor der Inbetriebnahme erfolgen und umfasst nicht nur die Tatsache der Verwendung, sondern auch relevante Informationen über das System und seine Funktionsweise.

4. Die Wertschöpfungskette: Verträge werden zum Compliance-Instrument

Eine der am wenigsten beachteten, aber praktisch bedeutsamsten Änderungen durch den AI Omnibus betrifft Artikel 25 und die Verantwortlichkeiten entlang der KI-Wertschöpfungskette. Wer ein KI-System mit eigenem Namen oder eigener Marke in Verkehr bringt, eine wesentliche Änderung vornimmt oder den Verwendungszweck so ändert, dass ein bislang nicht-hochriskanes System hochriskan wird, gilt fortan als Anbieter – mit allen damit verbundenen Pflichten.

Gleichzeitig verpflichtet die Verordnung Anbieter und Drittanbieter (Modelllieferanten, Cloud-Anbieter, Integratoren), durch schriftliche Vereinbarungen die notwendigen Informationen, Fähigkeiten, technischen Zugang und Unterstützung zu regeln, damit der Anbieter seine Compliance-Pflichten erfüllen kann.

Praktische Konsequenz: Ein Unternehmen, das eine KI-Lösung auf Basis eines Fremdmodells einsetzt und anpasst, kann sich nicht darauf verlassen, dass der Modellanbieter alle Compliance-Lasten trägt. Die Verträge müssen klar regeln, wer für Dokumentation, Tests, Protokollierung, Vorfallmeldungen, Modell-Updates und Audit-Rechte verantwortlich ist. Wer diese Vertragsgestaltung vernachlässigt, trägt ein Risiko, das er nicht bepreist hat.

5. Der Umgang mit sensiblen Daten zur Bias-Erkennung

Der AI Omnibus hat eine neue Rechtsgrundlage geschaffen, die die Verarbeitung besonderer Kategorien personenbezogener Daten (Art. 9 DSGVO) zur Erkennung und Korrektur von Bias in KI-Systemen erlaubt – unter strengen Bedingungen.

Die kumulativen Voraussetzungen sind anspruchsvoll: Das Ziel muss unbedingt erforderlich sein, andere Daten (synthetisch oder anonymisiert) dürfen nicht ausreichen, der Zugang muss kontrolliert und dokumentiert sein, die Daten dürfen nicht an Dritte übermittelt werden, und nach der Bias-Korrektur sind sie zu löschen.

Vorsicht geboten: Diese Regelung schafft keine allgemeine Pflicht zur Bias-Erkennung. Wer sie nutzt, muss die Notwendigkeit dokumentieren und die Datenschutz-Compliance sicherstellen. Die Versuchung, auf sensible Daten „einfach zuzugreifen“, ist groß – die rechtlichen Hürden bleiben hoch.

Wo Vorsicht geboten ist: Fünf Risikobereiche

Erstens: Die Annahme, dass die verlängerten Fristen Zeit zum Nichtstun bedeuten. Die Vorbereitung auf die Hochrisiko-Pflichten erfordert Monate, wenn nicht Jahre. Wer jetzt nicht mit der Klassifizierung seiner Systeme beginnt, wird 2027 in Zeitnot geraten.

Zweitens: Die Unterschätzung der Betreiberpflichten. Viele Unternehmen konzentrieren sich auf die Anbieterrolle, übersehen aber, dass sie als Betreiber umfangreiche Pflichten haben – von der menschlichen Aufsicht über die Protokollierung bis zur Arbeitnehmerinformation.

Drittens: Die Vernachlässigung der Vertragsgestaltung. In einer arbeitsteiligen KI-Wertschöpfungskette ist Compliance ohne vertragliche Absicherung kaum möglich. Wer glaubt, die Verantwortung auf den Lieferanten abwälzen zu können, irrt.

Viertens: Die Verwechslung von Vereinfachung und Abschwächung. Der AI Omnibus erleichtert die Compliance für KMU und kleine Midcaps durch vereinfachte Dokumentationsformulare – aber nicht durch niedrigere inhaltliche Standards. Die Anforderungen an Risikomanagement, Datenqualität und menschliche Aufsicht bleiben bestehen.

Fünftens: Die unklare Rechtslage bei GPAI-Modellen. Die Abgrenzung zwischen GPAI-Anbietern, Systemanbietern und Betreibern ist in der Praxis oft schwierig. Wer ein Foundation-Modell einsetzt und für einen spezifischen Zweck anpasst, kann schnell in die Anbieterrolle rutschen – mit allen Konsequenzen.

Fazit und Ausblick

Die KI-Verordnung ist kein statisches Regelwerk. Sie entwickelt sich weiter – durch den AI Omnibus, durch delegierte Rechtsakte, durch Leitlinien und durch die Rechtsprechung. Die Kernanforderungen bleiben jedoch bestehen: Risikomanagement, Transparenz, menschliche Aufsicht und Dokumentation.

Für Unternehmen und öffentliche Stellen bedeutet das: Die Zeit der Abwartens ist vorbei. Auch wenn die Hochrisiko-Fristen verschoben wurden, müssen die organisatorischen und technischen Grundlagen jetzt gelegt werden. Compliance ist kein Projekt, das man „irgendwann“ abschließt, sondern ein kontinuierlicher Prozess.

Und noch etwas: Die Verordnung mag komplex erscheinen, doch ihr Grundprinzip ist einfach. Es geht darum, dass KI-Systeme vertrauenswürdig sind – dass sie funktionieren, dass sie niemanden diskriminieren, dass Menschen die Kontrolle behalten. Wer dieses Prinzip ernst nimmt, ist auf dem richtigen Weg.

Quellen:

• Europäische Kommission: „AI Omnibus enters into force“, 27. Juli 2026
• EUR-Lex: Verordnung (EU) 2024/1689, Artikel 25 (Verantwortlichkeiten entlang der KI-Wertschöpfungskette)
• EUR-Lex: Verordnung (EU) 2024/1689, Artikel 26 (Betreiberpflichten)
• EUR-Lex: Verordnung (EU) 2024/1689, Artikel 50 (Transparenzpflichten)
• Bundesnetzagentur: „Transparenzpflichten“ (Übersicht zu Art. 50 KI-VO)
• Anwaltspraxis Magazin: „AI Act: KI-Omnibus verschiebt Hochrisiko-Pflichten und verbietet Nudifier-Apps“, Juli 2026