AISI Deutschland bündelt KI-Tests von BSI und Bundesnetzagentur

AISI Deutschland ist gestartet. Für den Einsatz von KI in Verwaltung, Unternehmen und kritischen Prozessen entscheidet jedoch erst die Qualität seiner späteren Ergebnisse: Sie müssen zeigen, welches Modell unter welchen Bedingungen welches Risiko aufweist und was daraus folgt.

Am 31. August 2026 richteten das Bundesministerium für Digitales und Staatsmodernisierung und das Bundesinnenministerium AISI Deutschland in Berlin ein. Damit setzen sie den Beschluss des Nationalen Sicherheitsrates vom Juni um. Das Institut soll Chancen und Risiken fortschrittlicher KI-Modelle bewerten, Resilienz stärken, Wissen weitergeben und die Bundesregierung technisch beraten.

Der Start bündelt vorhandene Behörden

Zunächst bilden das Bundesamt für Sicherheit in der Informationstechnik und die Bundesnetzagentur einen virtuellen Nukleus. Der Aufbau erfolgt schrittweise. Das BSI übernimmt anfangs die Cybersecurity-Seite, die Bundesnetzagentur die Safety-Perspektive.

Ein virtueller Nukleus bündelt bestehende Kapazitäten. Er belegt weder ein eigenes Labor noch einen bestimmten Personalumfang oder Haushalt. Die Startmeldung nennt auch keine veröffentlichte Testreihe oder geprüfte Modellversion. Internationale Kooperationen mit Frankreich, dem Vereinigten Königreich, dem EU AI Office und dem Netzwerk von KI-Sicherheitsinstituten sind vorgesehen.

Security, Safety und Aufsicht bleiben getrennt

Security betrifft den Schutz von KI-Systemen und Daten vor Angriffen, Missbrauch und unbefugtem Zugriff. Safety meint unbeabsichtigte Fehler und gefährliche Folgen im Einsatz. Die organisatorische Trennung hilft beim Aufbau, löst aber Grenzfälle nicht automatisch: Manipulierte Werkzeuge, Datenabfluss oder unerwünschte Aktionen können beide Seiten berühren.

AISI Deutschland ist laut Bundesregierung ein analytisch-operatives Kompetenzzentrum und keine Regulierungsbehörde. Die Bundesnetzagentur beschreibt für den AI Act eigene Marktüberwachungsaufgaben, darunter Stichproben, technische Unterlagen, Beschwerden und Maßnahmen bei Verstößen. Das EU AI Office hat wiederum eigene Zuständigkeiten für General-Purpose-AI-Modelle und kann für Evaluierungen Zugang bei Anbietern anfordern. Technische Sicherheitsforschung, Marktaufsicht und EU-Durchsetzung ergänzen sich, sind aber keine gemeinsame Prüfstelle.

Belastbare Ergebnisse beginnen mit dem Zugang

Eine Modell-Evaluation ist kein allgemeines Sicherheitszertifikat. Sie prüft Fähigkeiten, Risiken oder Schutzmaßnahmen unter festgelegten Bedingungen. Dafür müssen Modell- und Systemversion, Zugang, Testumgebung, Aufgaben, Berechtigungen, Wiederholungen und Fehlersignale nachvollziehbar sein.

Dauerhafter Zugang zu aktuellen oder unveröffentlichten Modellen und sensiblen Testdaten ist noch nicht geklärt. Der BSI verweist darauf, dass führende Modelle oft restriktiv lizenziert oder nur als Cloud-Dienst verfügbar sind. Zudem können Benchmarks altern oder durch Trainingsdaten an Aussagekraft verlieren. Ein Chat ohne Werkzeuge testet etwas anderes als ein Agent mit Datei-, Netzwerk- oder Schreibrechten.

Bitkom fordert deshalb ein abgegrenztes Forschungsmandat, ein Lagebild zu Frontier-Modellen und eine Finanzierung auf britischem AISI-Niveau. Das bleibt eine Verbandsposition, keine Haushaltszusage. Das britische AI Security Institute zeigt mit Methodenbeiträgen, wiederholten Evaluierungen, Trendberichten und Fallstudien, wie Testbedingungen und Grenzen öffentlich dokumentiert werden können. Seine Ressourcen, Befugnisse und Zugangsvereinbarungen lassen sich jedoch nicht auf Deutschland übertragen.

Ein Dossier muss in Entscheidungen münden

Für den Betrieb reicht ein Benchmarkwert nicht. Der BSI-Kriterienkatalog für externe generative Modelle in der Bundesverwaltung behandelt Governance und technische Kriterien über den Lebenszyklus, schließt Forschung, Proofs of Concept und Laborbetrieb aber ausdrücklich aus. Zwischen einer Untersuchung und einem produktiven Einsatz liegt deshalb ein eigener Schritt.

Der nächste belastbare Nachweis für AISI Deutschland wäre ein öffentliches oder auditierbares Evaluationsdossier. Es müsste Modell- und Systemversion, Zugang, Testumgebung, Aufgaben, Wiederholungen, Fehlersignale, Schutzmaßnahmen, Unsicherheiten und die zuständige Anschlussentscheidung benennen. Erst dann wird erkennbar, ob aus dem virtuellen Aufbau ein Lagebild entsteht, das Freigaben, Monitoring, Beschaffung, Zugriffsbeschränkungen oder Notfallprozesse tatsächlich verändert.

Hinweis: Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde redaktionell geprüft. Stand: 2026-09-01.