KI

AI Act: Wer bei KI-Systemen künftig welche Nachweise prüfen darf

Der aktualisierte EU-Rahmen zur AI-Act-Durchsetzung zeigt, welche Behörde KI-Systeme prüfen kann und welche Nachweise für Unternehmen wichtig werden.

Von Wolfgang

25. Aug. 20264 Min. Lesezeit

AI Act: Wer bei KI-Systemen künftig welche Nachweise prüfen darf

Der aktualisierte EU-Rahmen zur AI-Act-Durchsetzung zeigt, welche Behörde KI-Systeme prüfen kann und welche Nachweise für Unternehmen wichtig werden.

Wer ein KI-System anbietet oder einsetzt, muss beim AI Act nicht nur auf Kennzeichnungen schauen. Entscheidend ist auch, welche Stelle im Fall einer Prüfung zuständig wäre und welche Unterlagen oder Zugänge sie verlangen kann. Genau diese Zuständigkeitskette beschreibt die Europäische Kommission jetzt auf ihrer aktualisierten Übersichtsseite zum Durchsetzungsrahmen.

Die Seite wurde nach Angaben der Kommission zuletzt am 24. August 2026 aktualisiert. Ihr praktischer Wert liegt weniger in einer neuen Einzelpflicht als in der Zuordnung: Das AI Office der Kommission ist für General-Purpose-AI-Modelle (GPAI), damit verbundene Systeme und bestimmte KI-Systeme auf sehr großen Plattformen und Suchmaschinen vorgesehen. Nationale zuständige Behörden überwachen andere KI-Systeme. Für KI in EU-Institutionen ist der Europäische Datenschutzbeauftragte, der EDPS, zuständig.

Ein Rahmen, kein neuer Bußgeldfall

Das ist zunächst ein Verwaltungs- und Aufsichtsthema. Es wird aber konkret, sobald ein Anbieter oder ein Unternehmen erklären muss, welches System es betreibt, welche Rolle es dabei hat und welche Nachweise vorliegen. Die Kommission nennt für das AI Office Informationsanforderungen, Modell-Evaluierungen, Zugangsverlangen, Gespräche mit zustimmenden Personen und Inspektionen bei Anbietern. Außerdem kann das Office Maßnahmen vorbereiten, die bis zu einer Einschränkung der öffentlichen Verfügbarkeit reichen können.

Der Überblick belegt damit Befugnisse und Zuständigkeiten. Er belegt keine laufende Untersuchung, keine Entscheidung gegen ein bestimmtes Unternehmen und keine verhängte Geldbuße. Das ist kein bloßer Vorbehalt: Zwischen einem Instrument, das eine Behörde einsetzen darf, und einem tatsächlichen Verfahren liegen jeweils Systemtyp, Rolle, Sachverhalt und der im Einzelfall geltende Rechtsstand.

So läuft die Nachweiskette in der Praxis

Ein sinnvoller erster Schritt ist deshalb nicht, vorsorglich jede KI-Anwendung gleich zu behandeln. Zuerst muss das System eingeordnet werden. Handelt es sich um ein GPAI-Modell oder ein damit verbundenes System, kann das AI Office der relevante Ansprechpartner sein. Bei anderen KI-Systemen liegt die Aufsicht grundsätzlich bei nationalen zuständigen Behörden. Für Anwendungen innerhalb von EU-Institutionen greift die Zuständigkeit des EDPS.

Danach folgt die Dokumentationsfrage. Die offizielle Seite beschreibt, dass Informationen angefordert, Modelle bewertet und Zugänge verlangt werden können. Für Unternehmen bedeutet das vor allem: Die technische Dokumentation, Zuständigkeiten und Kontaktwege sollten nicht erst dann zusammengesucht werden, wenn eine Rückfrage kommt. Der Rahmen ersetzt keine Prüfung des Einzelfalls, macht aber sichtbar, welche Kette eine Aufsicht nachvollziehen können muss.

Originalgrafik zeigt Systemtyp und Rolle, zuständige Stelle, Dokumentation, Evaluation oder Inspektion und mögliche Korrekturmaßnahme
Die mögliche Nachweiskette beginnt bei Systemtyp und Rolle und endet nicht automatisch bei einer Sanktion – durch KI erzeugt

Diese Kette endet nicht zwingend bei einer Sanktion. Eine Evaluation oder Inspektion kann zu Korrekturmaßnahmen führen; je nach Fall sieht der gesetzliche Rahmen auch Sanktionen vor. Die Kommission nennt auf ihrer Übersichtsseite Sanktionsbefugnisse, doch die dort beschriebenen Höchstwerte sind keine Vorhersage für einzelne Unternehmen. Wer daraus einen unmittelbar bevorstehenden Bußgeldschub ableitet, liest mehr in die Seite hinein, als sie hergibt.

Transparenz ist ein eigener Nachweisstrang

Parallel dazu gelten seit dem 2. August 2026 für bestimmte Systeme Transparenzpflichten nach Artikel 50. Die Kommission erläutert dazu unter anderem Hinweise bei direkter Interaktion mit KI sowie maschinenlesbare Markierungen für erzeugte oder manipulierte Inhalte. Bei bestimmten Deepfakes, Emotionserkennungs- und biometrischen Systemen treffen auch Betreiber Informationspflichten, sofern die Voraussetzungen des Artikels erfüllt sind.

Das wird häufig zu einer einzigen Compliance-Frage zusammengezogen. Praktisch sind es aber zwei verbundene Ebenen. Kennzeichnungen und Maschinenlesbarkeit betreffen Transparenz. Zuständigkeit, Dokumentation, Informationsanforderungen und mögliche Aufsicht betreffen die Durchsetzung. Ein korrekt gesetztes Label ist daher kein Nachweis dafür, dass ein System insgesamt rechtskonform ist. Umgekehrt ersetzt eine ordentliche Dokumentation nicht jede Transparenzpflicht.

Originalgrafik trennt Artikel-50-Transparenzpflichten von Zuständigkeit, Dokumentation und möglicher Aufsicht
Kennzeichnung und Aufsicht gehören zusammen, sind aber kein pauschaler Rechtskonformitätsstempel – durch KI erzeugt

Was Organisationen jetzt festhalten sollten

Die aktualisierte Seite ist kein Gesetzestext und keine individuelle Rechtsberatung. Sie liefert jedoch eine brauchbare Arbeitsfrage für Anbieter, Plattformen, öffentliche Stellen und einsetzende Unternehmen: Welcher Systemtyp liegt vor, welche Rolle hat die Organisation, welche Pflichten sind betroffen und wer kann die dazugehörigen Nachweise erklären?

Wer diese Punkte für jedes relevante System festhält, reduziert vor allem Reibung im Ernstfall. Dazu gehören eine nachvollziehbare technische Dokumentation, klare Verantwortlichkeiten, der Umgang mit Transparenzhinweisen und ein belastbarer Kontaktweg. Die Kommission hat mit dem Update keine konkrete Sanktion sichtbar gemacht. Sie hat aber den Weg dorthin genauer beschrieben.

Quellen und weiterführende Informationen

Hinweis: Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde redaktionell geprüft. Stand: 2026-08-25.