US-Behörden und Llama: Aufbruch mit Auflagen

Überraschung mit Ansage: Das OMB schreibt US-Behörden vor, für risikoreiche KI Mindestpraktiken bis zum 01.12.2024 umzusetzen – sonst Nutzung stoppen oder Ausnahme beantragen (Quelle). Kontext: verbindliche Bundesvorgabe, Fristmanagement für Rechte-/Sicherheitsfälle. Parallel liefert NIST ein Profil, das generative KI handhabbar macht (Veröffentlichung Juli 2024; konkrete Actions zu TEVV, Red-Teaming, Provenance) (Quelle). Datenstand älter als 24 Monate. In dieser Landschaft suchen Teams nach Spielräumen: Darf Llama in den Staatsdienst – und wie sicher?

Die Schlagzeile „US-Behörden geben Llama grünes Licht“ klingt nach Blanket-Freigabe. Tatsächlich existiert kein öffentliches, modell-spezifisches Bundesmemo, das Llama pauschal autorisiert. Stattdessen gilt: Behörden dürfen offene Gewichte wie Llama nutzen – sofern sie die föderalen Leitplanken erfüllen. OMB M‑24‑10 setzt Governance, Fristen und Mindestpraktiken; NISTs Generative‑AI‑Profil übersetzt Risiken in konkrete Maßnahmen. Heißt: Es gibt grünes Licht – aber nur auf der Spur der Compliance.

„Freigabe ohne Risikoarchitektur ist keine Freigabe. Llama kann im Amt funktionieren – wenn Daten, Nutzungskontext und Kontrollen zusammenpassen.“

Wichtig: Llama ist kein „Open Source“ im strengen OSI-Sinn, sondern ein Open-Weight-Modell mit nutzbaren Gewichten unter eigener Lizenz. Für Behörden zählt weniger das Label als die Frage, ob Beschaffungs-, Datenschutz- und Sicherheitsauflagen eingehalten werden. Ein zusätzlicher Realitätstest kommt vom Rechnungshof: GAO beschreibt 2025 Transparenzlücken bei Modellen und fordert bessere Offenlegung zu Training, Energie und Risiken (Quelle). Stand: Q2 2025; Fokus auf generative KI allgemein.

Die Folge: Jede Behörde muss – Use Case für Use Case – herleiten, warum Llama angemessen ist. Ohne Impact‑Assessment, Testevidenz und Monitoring gibt es kein „Go“. Das ist nüchtern, aber gesund: Es verhindert Hype-Einführungen und priorisiert Nutzen bei beherrschbarem Risiko.

Tabellen sind nützlich, um Leitplanken zu ordnen:

Was verlangt Washington konkret? Erstens Governance: Behörden müssen innerhalb von 60 Tagen einen Chief AI Officer benennen und ein Governance‑Board etablieren (Quelle). Frist aus März 2024 abgeleitet; Datenstand älter als 24 Monate. Zweitens Transparenz: jährliche, öffentliche Use‑Case‑Inventare für nicht‑klassifizierte Anwendungen (Quelle). Pflicht für CFO‑Act‑Agenturen. Drittens Mindestpraktiken für rights/safety‑impacting KI bis 01.12.2024.

NISTs Profil macht das operabel: Suggested Actions adressieren Confabulation, Information Integrity, IP, Privacy, Security und Umweltfolgen – mit TEVV/Red‑Teaming und Content‑Provenance als Kern (Quelle). Veröffentlichung Juli 2024; Datenstand älter als 24 Monate. Wer Llama einsetzt, sollte deshalb ein Prüf-Set etablieren: Jailbreak‑Resistenz, Fakten‑Benchmarks, PII‑Lecks, toxische Outputs, Output‑Kennzeichnung.

Ein pragmatischer Hebel ist Beschaffung: M‑24‑10 empfiehlt Vertragsklauseln zu Modellkarten, Test‑/Monitoringpflichten, Datenrechten und Interoperabilität. So lassen sich offene Gewichte rechtssicher einbinden – und zur Not auch wieder ersetzen.

Warum Llama? Offene Gewichte ermöglichen On‑Prem‑Betrieb, volle Telemetriekontrolle und feinere Datenschutz-Policies. Für Aufgaben wie Wissenssuche in öffentlichen Dokumenten, Code‑Assist für interne Open‑Source‑Projekte oder Agents in isolierten Netzen ist das attraktiv. „Open-Source im Staatsdienst“ kann so Kosten senken und Abhängigkeiten mindern – ohne Cloud‑Abfluss sensibler Daten.

Grenzen bleiben: Modellhalluzinationen, urheberrechtliche Streitfragen und Missbrauchsrisiken. GAO warnt 2025 vor Daten‑ und Transparenzlücken bei generativer KI und plädiert für bessere Offenlegung von Training, Energie- und Wasserverbrauch (Quelle). Stand: Q2 2025; Modell‑übergreifende Bewertung. Wer Llama nutzt, muss diese Lücken durch eigene Tests, Dokumentation und Limits kompensieren.

Kurz zu Lizenzen: Die Llama‑Lizenz erlaubt breite Nutzung, ist aber keine OSI‑Open‑Source‑Lizenz. Behörden sollten daher rechtlich prüfen, wie Weitergaben, Feintuning‑Artefakte und Drittanbieter‑Zugriffe geregelt sind. Praktischer Tipp: Repositorien mit klaren SBOMs und reproduzierbaren Builds anlegen – und bei Upgrades Rollbacks ermöglichen.

Hinweis: Obige Balken visualisieren qualitative Einschätzungen, keine Messwerte.

1) Anwendungsfälle priorisieren: Beginnen Sie mit Low‑Risk‑Szenarien (interne Suche, Code‑Hilfen) und halten Sie sensible Felder (CUI, personenbezogene Daten) strikt getrennt. 2) Architektur wählen: Llama isoliert betreiben (On‑Prem/VPC), Logging und DLP aktivieren, menschliche Übersteuerung sicherstellen. 3) TEVV‑Plan umsetzen: Adversarial‑Tests, Halluzinations‑Benchmarks, PII‑Leck‑Scans, Content‑Provenance‑Strategie.

4) Governance nach M‑24‑10: Impact‑Assessments, unabhängige Evaluierungen und regelmäßige Reviews sind Pflicht für rights/safety‑impacting KI (Quelle). Stichtag 01.12.2024; Datenstand älter als 24 Monate. 5) Beschaffung härten: Klauseln zu Modell‑/Datenkarten, Red‑Team‑Nachweisen und Interoperabilität verankern; Exit‑Plan definieren.

6) Dokumentation & Veröffentlichung: Öffentliche Use‑Case‑Inventare pflegen, sensible Details redigieren. 7) Umwelt & Effizienz: Energie‑/Wasserverbrauch erfassen; GAO fordert mehr Transparenz – füllen Sie die Lücke mit eigenen Metriken und Berichten.

Llama erhält kein Blanko‑Okay – aber ein klares „Ja, wenn“. OMB M‑24‑10 und NISTs Profil liefern die Schienen, auf denen offene Gewichte sicher fahren können. Für Behörden heißt das: Open-Source im Staatsdienst ist ein Hebel für Tempo und Souveränität, solange Governance, Tests und saubere Verträge mitziehen. Wer jetzt strukturiert vorgeht, minimiert Risiken und maximiert Lernkurven.