Auf einen Blick
OpenAI Gesundheitsdaten landen schnell im Prompt: Diagnose, Medikation, Befunde, Kasseninfos. OpenAI bietet für Business/API EU-Optionen wie Datenresidenz und teils „Zero Data Retention“ – trotzdem bleiben Re‑Identifizierungs- und Haftungsrisiken. Wer in Deutschland ChatGPT & Co. im Praxisalltag nutzt, braucht klare Regeln, Verträge und technische Leitplanken.
Das Wichtigste
- OpenAI wirbt für Datenresidenz in Europa bei bestimmten API-/Enterprise‑Angeboten; für geeignete API‑Projekte nennt OpenAI „zero data retention“ (keine Speicherung „at rest“).
- OpenAI erklärt für API und Business‑Pläne, dass Kundendaten standardmäßig nicht zum Modelltraining genutzt werden – außer man opt‑int; Verbraucher‑Nutzung kann anders geregelt sein (Privacy Policy).
- Selbst „anonymisierte“ Gesundheitsdaten lassen sich in vielen Fällen re‑identifizieren; Rocher et al. zeigen, wie hoch die Erfolgswahrscheinlichkeit von Re‑Identifikationen auch bei unvollständigen Datensätzen sein kann.
Einleitung
Wenn du „nur schnell“ einen Arztbrief zusammenfassen, einen Laborwert erklären oder eine Formulierung für die Krankenkasse glätten willst, ist die Versuchung groß: Copy‑&‑Paste in einen Chatbot. Genau so rutschen OpenAI Gesundheitsdaten in Systeme, die nicht für deine Praxisprozesse gebaut wurden. Und die Rechnung kommt im Alltag: falsche Freigaben, Datenpannen, Stress mit Datenschutz und im schlimmsten Fall Ärger mit Versicherer, Arbeitgeber oder Ruf.
Was neu ist
OpenAI hat in öffentlichen Dokumenten und Produktinformationen klargestellt, dass es für bestimmte Geschäftsangebote Datenresidenz in Europa gibt. Laut OpenAI werden API‑Anfragen, die in einem entsprechend konfigurierten Europa‑Projekt laufen, in‑region verarbeitet und OpenAI spricht dabei von „zero data retention“ (keine Speicherung von Requests/Responses „at rest“). Gleichzeitig unterscheidet OpenAI deutlich zwischen Produktwelten: Für API und ChatGPT‑Business/Enterprise beschreibt OpenAI, dass Kundendaten nicht zum Training der Modelle genutzt werden, sofern Kund:innen nicht aktiv zustimmen (Opt‑in). In der allgemeinen Privacy Policy weist OpenAI außerdem darauf hin, dass Inhalte je nach Nutzungskontext zur Verbesserung von Services herangezogen werden können und dass Einstellungen/Produktvarianten relevant sind.
Was das für dich bedeutet
1) Welche Gesundheitsdaten überhaupt „drin“ sein können. OpenAI „fragt“ nicht automatisch deine Akte ab – aber die Systeme verarbeiten alles, was Nutzer:innen eingeben oder hochladen. In der Praxis sind das schnell Diagnosen, Symptome, Medikationspläne, Laborwerte, ICD‑Codes, Arztbriefe oder indirekte Identifikatoren wie Alter, PLZ, seltene Erkrankungen, Behandlungsdaten. Unter der DSGVO sind Gesundheitsdaten eine besondere Kategorie personenbezogener Daten (Art. 9) und damit besonders geschützt.
2) Warum „Pseudonymisieren“ oft nicht reicht. Viele Teams glauben: Namen raus, Problem gelöst. Die Forschung zeigt das Gegenteil: Selbst unvollständige oder „de‑identifizierte“ Datensätze können über Kombinationen von Merkmalen wieder einer Person zugeordnet werden (Re‑Identifikation). Rocher et al. quantifizieren, wie wahrscheinlich erfolgreiche Zuordnungen sein können – gerade bei reichhaltigen Datensätzen mit vielen Attributen.
3) Alltagsrisiken für Patient:innen in Deutschland. Wenn Gesundheitsdaten (oder re‑identifizierbare Ausschnitte) außerhalb des vorgesehenen Behandlungskontexts verarbeitet werden, entstehen reale Schäden – nicht automatisch, aber plausibel: Reputationsrisiko (z. B. sensible Diagnosen werden bekannt), Job‑Risiken (wenn Informationen im falschen Kanal landen), Versicherungsrisiken (wenn Dritte Rückschlüsse ziehen) und schlicht Fehlentscheidungen, wenn ein Modell einen Befund falsch interpretiert.
4) Risiken für Praxen und Kliniken (GDPR/BDSG & Betrieb). Wer als Praxis/Klinik Patientendaten in externe KI‑Dienste gibt, muss in Deutschland typischerweise mindestens drei Dinge sauber haben: Rechtsgrundlage und Art‑9‑Bedingung, einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO (inkl. Unterauftragsverarbeiter‑Prüfung) und bei hohem Risiko eine DPIA/Datenschutz‑Folgenabschätzung (Art. 35). Zusätzlich steht im Raum, was im Gesundheitswesen praktisch immer mitschwingt: ärztliche Schweigepflicht und der Umgang mit Geheimnissen in IT‑Systemen. Operativ kommen Technikrisiken dazu: Schatten‑IT, fehlende Protokollierung, unklare Löschpfade, und der Klassiker „Mitarbeiter nutzt Privat‑Account“.
Wie es weitergeht
Der Trend ist klar: Anbieter wie OpenAI bauen EU‑Residenz, Retention‑Kontrollen und Enterprise‑Verträge aus, weil Europa (zu Recht) hart nachfragt. Für Deutschland heißt das: KI im Gesundheitskontext wird nicht verschwinden, aber sie wird prozessualer – mit Freigaben, verbindlichen Tools, Audit‑Spuren.
Konkrete Schritte für Leser:innen (Patient:innen):
1) Teile in frei zugänglichen Chatbots keine identifizierenden Gesundheitsdetails (Name, Geburtsdatum, seltene Diagnosen, konkrete Termine).
2) Frage in der Praxis aktiv nach: „Nutzen Sie KI? Welche? Wo werden Daten verarbeitet? Wie wird protokolliert und gelöscht?“
3) Wenn du Texte prüfen lassen willst: Nutze möglichst lokale Tools oder lass Inhalte so umschreiben, dass sie dich nicht identifizierbar machen.
Konkrete Schritte für IT/Datenschutz in Kliniken:
1) Tool‑Policy: Private Accounts verbieten, nur freigegebene Tenants/Workspaces zulassen.
2) Verträge: DPA/AVV (Art. 28) abschließen, Sub‑Processor prüfen, Retention schriftlich fixieren, Opt‑in fürs Training deaktivieren (wenn verfügbar).
3) Technik: Datenminimierung, Pseudonymisierung mit getrennten Zuordnungstabellen, Rollen-/Rechtekonzept, DLP‑Regeln, Logging (wer sendet was wohin), und ein klarer Löschprozess.
4) DPIA: Re‑Identifikationsrisiken explizit bewerten (nicht nur „Namen entfernt“).
5) Notfallplan: Incident‑Runbook für Fehlversand/Prompt‑Leak, inkl. Meldeketten und Fristen.
Fazit
OpenAI Gesundheitsdaten sind kein abstraktes Datenschutz‑Thema, sondern ein Copy‑&‑Paste‑Risiko. OpenAI liefert für Business/API zwar Bausteine wie EU‑Datenresidenz und Aussagen zu Retention/Training – aber im deutschen Gesundheitsalltag entscheidet am Ende dein Setup: Prozesse, Verträge, Minimierung und saubere Trennung von Identitäten. Wer das nicht sauber aufzieht, handelt sich schnell echte Alltagsschäden ein.
