Auf einen Blick
Berichte über eine mögliche ChatGPT Gewaltandrohung im Vorfeld eines Schulangriffs in Kanada rücken die Frage in den Fokus, wann Plattformbetreiber Behörden informieren. OpenAI verweist auf Regeln für Auskünfte an Strafverfolger und eine enge Ausnahme für Notfälle. Für Schulen in Europa wird damit die Schnittstelle zwischen IT-Sicherheit, Schulrecht und Datenschutz relevanter.
Das Wichtigste
- Nach Medienberichten prüfte OpenAI Hinweise aus ChatGPT-Chats, die im Zusammenhang mit einem späteren Schulangriff in Kanada standen.
- OpenAI sieht Datenweitergaben an Strafverfolger grundsätzlich an ein gültiges rechtliches Verfahren gebunden und nennt eine Ausnahme für akute Gefahr von Tod oder schweren Verletzungen.
- Der Fall verstärkt die Diskussion über Meldeketten, wenn Schulen oder Minderjährige KI-Chatbots im Unterricht oder in schulnahen Systemen nutzen.
Warnhinweise vor kanadischem Schulangriff
OpenAI hat nach Medienberichten Monate vor einem Schulangriff in der kanadischen Provinz British Columbia interne Signale aus ChatGPT-Chats geprüft und ein Einschalten der Polizei erwogen. Der ChatGPT-Account des mutmaßlichen Täters sei später wegen eines Regelverstoßes gesperrt worden. Der Vorgang lenkt den Blick auf Schwellenwerte und Zuständigkeiten bei Gewaltandrohungen in KI-Systemen.
Was die Berichte konkret sagen
USNews berichtete unter Berufung auf Reuters, OpenAI habe im Vorfeld des Angriffs eine Meldung an kanadische Behörden in Betracht gezogen. Der Sender CTV News meldete, ein ChatGPT-Konto, das dem mutmaßlichen Täter zugeordnet werde, sei wegen Verstößen gegen Nutzungsregeln gesperrt worden. Details dazu, welche Inhalte die internen Prüfungen auslösten und welche Faktoren für oder gegen eine Meldung ausschlaggebend waren, sind derzeit nicht bekannt.
Folgen für Schulen und Behörden in Europa
Für europäische Schulen, die KI-Chatbots in Pilotprojekten oder über private Geräte von Schülerinnen und Schülern sehen, stellt sich vor allem eine organisatorische Frage: Wer bewertet eine mögliche Drohung, und über welchen Kanal geht die Information weiter. OpenAI beschreibt in seiner Richtlinie für Behördenanfragen, dass Nutzerdaten in der Regel nur auf Grundlage eines gültigen rechtlichen Verfahrens herausgegeben werden. Eine Weitergabe ohne vorherige Rechtsanordnung kommt demnach nur in eng gefassten Notfällen in Betracht, wenn eine Gefahr von Tod oder schweren körperlichen Verletzungen angenommen wird.
Wie es weitergeht
Der konkrete Fall dürfte die Abstimmung zwischen Plattformbetreibern, Schulträgern und Strafverfolgungsbehörden weiter prägen, insbesondere bei Minderjährigen als Nutzergruppe. Unternehmen verweisen dabei auf interne Prüfprozesse und die Anforderungen an Notfall- und Auskunftsersuchen. Ob OpenAI seine Schwellenwerte oder Abläufe für Eskalationen an Behörden anpasst, ist bislang offen.
Fazit
Die Berichte über eine mögliche ChatGPT-Gewaltandrohung im Vorfeld eines Schulangriffs zeigen, dass Moderation, Risikoabwägung und rechtliche Meldewege zusammenlaufen. OpenAI nennt als Maßstab für Datenweitergaben an Behörden grundsätzlich ein rechtliches Verfahren und nur seltene Notfallausnahmen. Für den Schulbereich in Europa rückt damit die Frage nach klaren Zuständigkeiten bei Sicherheitsvorfällen in den Vordergrund.
