Ein generatives System in einem Medizinprodukt kann auf dieselbe Frage unterschiedlich reagieren, mit neuen Daten gefüttert werden oder sich durch ein Update seines Modellanbieters verändern. Für die Zulassung und die Überwachung reicht es deshalb nicht, nur ein Sprachmodell im Labor gut aussehen zu lassen. Die US-Arzneimittelbehörde FDA diskutiert nun, wie Hersteller den Nachweis für das konkrete Gerät über seinen gesamten Lebenszyklus führen könnten.
Das ist noch keine neue Regel. Das am 18. August veröffentlichte Discussion Paper des FDA-Zentrums CDRH ist ausdrücklich weder ein Entwurf noch eine finale Leitlinie und ändert keine Policy. Bis zum 19. Oktober bittet die Behörde unter dem Docket FDA-2026-N-7874 um Rückmeldungen. Gerade deshalb ist das Papier interessant: Es macht sichtbar, wo die bisherigen Prüfverfahren bei offenen Eingaben, variablen Antworten und veränderlichen Modellbestandteilen an Grenzen geraten.
Das Problem liegt im ganzen System, nicht nur im Modell
Bei klassischer Medizinsoftware lässt sich eine Aufgabe oft relativ eng beschreiben. Ein Programm wertet etwa ein Bild aus oder berechnet einen Wert aus festgelegten Daten. Generative KI kann dagegen Informationen zusammenfassen, Rückfragen verarbeiten, Empfehlungen formulieren oder mehrere Schritte mit angeschlossenen Werkzeugen verknüpfen. Dabei beeinflussen nicht nur das Basismodell, sondern auch Prompt, Guardrails, Retrieval-System, Benutzeroberfläche und der klinische Ablauf das Ergebnis.
Die FDA lenkt den Blick deshalb auf die tatsächlich konfigurierte End-to-End-Anwendung. Ein Modellbenchmark kann nützlich sein. Er sagt aber für sich genommen wenig darüber aus, ob ein konkretes Gerät im vorgesehenen Umfeld zuverlässig, verständlich und sicher arbeitet. Ein System, das nur allgemeine Informationen anbietet, stellt andere Fragen als eines, das eine Therapieempfehlung formuliert oder einen klinischen Auftrag auslöst.
Zwei Fragen vor der Messzahl
Das Paper ordnet die Diskussion über eine unverbindliche Heuristik. Auf einer Achse steht, wie aktiv oder unabhängig ein Gerät arbeitet. Auf der anderen steht, wie schwer ein falscher Output wiegen könnte. Das ist keine neue FDA-Klassifikationsmatrix. Es ist ein Versuch, die Prüfintensität an Zweck und möglicher Schadensfolge auszurichten.
Der Unterschied wird im Ablauf greifbar. Eine Anwendung, die einem Patienten allgemein erklärt, wann ärztlicher Rat sinnvoll sein kann, ist etwas anderes als eine Funktion, die eine konkrete Dosis empfiehlt. Noch weiter geht ein System, das selbst eine Handlung in einer Versorgungskette anstößt. Auch die Wortwahl, der Zeitdruck, die Personalisierung und vorhandene Schutzschichten können verändern, wie handlungsleitend eine Antwort wirkt. Ein nachgeschobener Hinweis, einen Arzt zu konsultieren, neutralisiert eine riskante konkrete Anweisung nicht automatisch.
Damit verschiebt sich die Prüfaufgabe von der Frage, ob ein Modell im Mittel gut antwortet, zu einer konkreteren Frage: Was darf dieses Gerät für welche Nutzergruppe und in welchem Workflow tun, und was passiert, wenn es dabei falschliegt?
Benchmarking wäre nur die erste Stufe
Als mögliche Vorabprüfung diskutiert die FDA einen kompetenzbasierten Ansatz. Device Benchmarking soll das bereitgestellte Gerät mit vorab definierten Methoden, Bewertungsmaßstäben und Akzeptanzkriterien testen. Im Gespräch sind unter anderem Sicherheitsverhalten, Umgang mit Grenzen und Unsicherheit, klinische Kompetenz, Generalisierbarkeit sowie bei agentischen Funktionen Planung, Tool-Nutzung und menschliche Checkpoints.
Daneben steht die klinische Bestätigung. Je nach Risiko könnten dafür retrospektive Datenanalysen, ein Shadow Deployment ohne Einfluss auf Entscheidungen, standardisierte Patienteninteraktionen, unabhängige Fallbewertungen oder prospektive Studien in Betracht kommen. Das Paper schreibt keinen dieser Wege vor. Es fragt vielmehr, welche Evidenz für die jeweilige Zweckbestimmung ausreicht.
Diese Unterscheidung ist wichtig. Öffentliche Benchmarks können durch Trainingsdaten beeinflusst, für den klinischen Alltag zu eng oder für bestimmte Patientengruppen nicht repräsentativ sein. Eine hohe Punktzahl belegt weder klinischen Nutzen noch Sicherheit im Regelbetrieb. Die WHO verweist bei KI für Gesundheit ebenfalls darauf, dass Laborvergleiche für viele medizinische Anwendungen nicht genügen.
Nach dem Marktstart beginnt der Nachweis erneut
Die FDA diskutiert für geeignete Risikoprofile periodisches Re-Benchmarking, unabhängige klinische Stichprobenprüfungen und ein Monitoring von Leistungsabfall oder Drift. Das zielt auf ein Problem, das bei generativer KI besonders praktisch ist: Ein Gerät kann sich verändern, obwohl die Oberfläche gleich aussieht. Ursache können Updates, Retraining, Änderungen an Prompts oder Guardrails, neue Datenquellen oder ein Update eines externen Foundation Models sein.
Monitoring ist allerdings kein Ersatz für fehlende Evidenz vor dem Einsatz. Es würde nur tragen, wenn vorher klar ist, welche Signale beobachtet werden, wann eine Abweichung als relevant gilt, wer reagiert und wie eine Eskalation erfolgt. Sonst wird aus der laufenden Überwachung lediglich eine Sammlung von Protokollen.
Das Paper erwähnt auch Predetermined Change Control Plans, kurz PCCP, als mögliche Anknüpfung für geplante Änderungen. Bei schwer vorhersehbaren Änderungen von Drittanbieter-Modellen stellt sich gerade die Frage, wie weit solche Pläne reichen können. Ein ebenfalls diskutiertes freiwilliges Foundation-Model-Master-File könnte Informationen zu Architektur, Datenherkunft, bekannten Grenzen, Guardrails, Benchmarks und Updates bündeln. Es wäre keine Zulassung eines Foundation Models für eine medizinische Zweckbestimmung; verantwortlich bliebe der Hersteller des konkreten Geräts.
Eine Leselogik für die offene Regulierungsfrage
Aus dem FDA-Paper und den europäischen Quellen lässt sich eine einfache Prozesskette ableiten: Zweckbestimmung → Risikoachse → Kompetenznachweis → Lebenszyklus-Monitoring. Sie ist eine redaktionelle Leselogik, keine neue Rechtsklassifikation.
- Zweckbestimmung
- Was soll die Anwendung für Patienten oder medizinisches Fachpersonal konkret leisten: informieren, eine Entscheidung nahelegen oder selbst handeln?
- Risikoachse
- Wie aktiv arbeitet das Gerät, und welche Folge hätte ein falscher Output im jeweiligen Kontext?
- Kompetenznachweis
- Wie belegen Benchmarking und klinische Bestätigung die Leistung der finalen Konfiguration für Nutzer, Population und Workflow?
- Lebenszyklus-Monitoring
- Wie werden reale Fehler, Drift und Änderungen erkannt, bewertet und mit klaren Verantwortlichkeiten behandelt?
Dieses Modell hilft vor allem, zwei Dinge auseinanderzuhalten: Ein System kann technisch überzeugende Antworten erzeugen und trotzdem für einen bestimmten medizinischen Einsatz nicht ausreichend belegt sein. Umgekehrt ist eine CE-Kennzeichnung oder ein FDA-Verfahren kein Endpunkt, wenn sich Daten, Nutzung oder Modellbestandteile später verändern.
Die europäische Prüfung bleibt eigenständig
Für Deutschland und die EU ist das FDA-Paper ein Vergleichsfall, keine Vorgabe. Bei Medizinsoftware bleiben MDR oder IVDR, die Zweckbestimmung und die konkrete Konformitätsbewertung maßgeblich. Die MDCG-Leitlinie zur Softwareklassifizierung verweist dabei unter anderem auf Rule 11; ihre Anwendung hängt vom konkreten Produkt und von der möglichen Folge einer Fehlentscheidung ab.
Der AI Act kommt als eigener Rahmen hinzu. Nach der MDCG/AIB-Leitlinie können MDR/IVDR und der AI Act bei Medizinprodukten mit anwendbaren High-Risk-KI-Systemen gleichzeitig und ergänzend relevant sein. Daraus folgt aber nicht, dass jede generative Gesundheitsanwendung automatisch Medizinprodukt oder High-Risk-System ist. Die FDA-Heuristik und europäische Regeln lassen sich sinnvoll vergleichen, aber nicht in eine gemeinsame Tabelle mit derselben Rechtswirkung pressen.
Woran sich die Debatte später messen lassen muss
Die FDA eröffnet mit dem Paper keine Sonderzulassung für generative KI. Sie legt eine Lücke offen: Bei einem veränderlichen medizinischen System muss der Nachweis die konkrete Aufgabe, die Fehlerfolgen, die klinische Nutzung und spätere Änderungen zusammenbringen. Der nächste formale Termin ist die Feedbackfrist am 19. Oktober. Aussagekräftiger wird es erst, wenn daraus eine offizielle Guidance, eine Policy-Entscheidung oder produktbezogene Evidenz entsteht.
Für Hersteller ist das kein bloßes Dokumentationsproblem. Sie müssen zeigen können, wie Modell, Produktgestaltung und klinischer Ablauf zusammenwirken. Für Kliniken und Patienten ist das eine nüchterne Grenze gegen die naheliegende Abkürzung: Ein leistungsfähiges generatives Modell ist noch kein belastbarer Nachweis für ein sicheres Medizinprodukt im Alltag.
Quellen und weiterführende Informationen
- FDA: Discussion Paper and Request for Feedback, 18. August 2026
- FDA: Considerations for the Regulation of Generative AI-Enabled Medical Devices (PDF)
- Regulations.gov: Docket FDA-2026-N-7874
- MDCG 2025-6 / AIB 2025-1 zum Zusammenspiel von MDR/IVDR und AI Act
- Verordnung (EU) 2024/1689, AI Act
- WHO: Ethics and governance of AI for health
Hinweis: Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde redaktionell geprüft. Stand: 2026-08-24.
