OpenAI will ChatGPT für Jugendliche bei Fragen zu Waffen stärker einschränken. Künftig sollen Minderjährige auch dann weniger praktische Informationen über Waffen und Sicherheitssysteme erhalten, wenn eine Frage für sich genommen harmlos wirkt. Die neuen Schutzmaßnahmen sollen laut Unternehmen in den kommenden Wochen schrittweise eingeführt werden.
Die Ankündigung vom 30. Oktober betrifft mehr als Antworten auf eindeutige Gewaltabsichten. OpenAI will Informationen begrenzen, die sich zur Vorbereitung von Gewalt missbrauchen lassen könnten. Zugleich sollen Jugendliche weiterhin Unterstützung suchen und Fragen zur Deeskalation oder zur Verhinderung von Gewalt stellen können.
Was ändert sich bei Waffenfragen?
Schon bisher untersagen OpenAIs Regeln, Menschen bei der Planung oder Durchführung von Gewalt zu helfen. Für Jugendliche galten außerdem Einschränkungen bei der Suche nach Waffen oder deren Beschaffung. Die angekündigte Erweiterung setzt früher an: Praktische Informationen über Waffen und Sicherheitssysteme sollen bei unter 18-Jährigen auch ohne erkennbare Gewaltabsicht stärker begrenzt werden.
Eine harmlose Formulierung allein entscheidet damit nicht mehr darüber, ob ChatGPT bestimmte Details ausgibt. Wie das Unternehmen die Grenze im Einzelfall zieht und wie häufig erlaubte Fragen versehentlich eingeschränkt werden, geht aus der Ankündigung nicht hervor. Der Schritt beschreibt zunächst eine Produktregel; über ihre tatsächliche Wirkung liegen dort noch keine unabhängigen Ergebnisse vor.
Wie ChatGPT das Alter einschätzt
Welche Schutzregeln greifen, hängt unter anderem von der Alterszuordnung des Kontos ab. Wer bei der Anmeldung ein Alter zwischen 13 und 17 Jahren angibt, wird laut OpenAI in die Jugendversion eingeordnet. Das Unternehmen setzt zusätzlich eine Altersschätzung ein, die erkennen soll, ob ein Konto wahrscheinlich einer minderjährigen Person gehört.
Dafür betrachtet das Modell nach OpenAIs Beschreibung mehrere Signale, darunter die Nutzungszeiten, Nutzungsmuster, das Alter des Kontos und ein angegebenes Alter. Die jüngste Ankündigung besagt, dass neue Signale fortlaufend berücksichtigt werden sollen. Die Einführung der Altersschätzung in der EU begann laut OpenAI im August 2026.
Eine Schätzung ist keine sichere Altersfeststellung. Erwachsene, die falsch eingeordnet werden, können ihr Alter nach Angaben des Unternehmens über den externen Anbieter Persona bestätigen lassen. OpenAI beschreibt dafür eine Bestätigung per Selfie. Auch bei unvollständigen Informationen soll zunächst die stärker geschützte Ansicht gelten.
Neue Grenzen gelten teils für alle
Unabhängig vom Alter will OpenAI Antworten über frühere Massengewalttaten einschränken. ChatGPT soll weniger detaillierte Rekonstruktionen liefern, etwa zu verwendeter Ausrüstung oder ihrer Beschaffung. Fragen zu den Folgen für Betroffene und zur Prävention sollen weiterhin möglich bleiben. Diese Regel soll laut Unternehmen für alle Nutzer gelten, unabhängig vom Grund ihrer Frage.
Darüber hinaus arbeitet OpenAI daran, Hinweise aus mehreren Gesprächen zu berücksichtigen. Eine einzelne Frage kann anders wirken, wenn zuvor Warnzeichen für mögliche Gewalt aufgetreten sind. Bereits im Mai hatte das Unternehmen kurze Sicherheitszusammenfassungen beschrieben: Sie sollen in seltenen Fällen relevanten Kontext aus früheren Chats bereitstellen und nur begrenzt aufbewahrt werden. Für die neue Gewaltregel kündigt OpenAI an, Antworten bei entsprechenden Anzeichen vorsichtiger zu gestalten.
Bericht und weitere Eingriffe sind noch geplant
OpenAI entwickelt außerdem eine Funktion, die Gespräche bei Anzeichen einer Fixierung auf schwere Gewalt automatisch beenden soll. Werden mehrere Chats aus diesem Grund beendet, könnte das Konto vorübergehend pausiert werden. Für verknüpfte Elternkonten stellt das Unternehmen zudem eine Benachrichtigung über solche Kontopausen in Aussicht. Diese Maßnahmen sind laut Ankündigung noch in Arbeit.
Mehr Einblick verspricht der geplante Sicherheitsbericht. Die erste Ausgabe soll Anfang 2027 erscheinen und die zweite Hälfte des Jahres 2026 behandeln; danach sind halbjährliche Aktualisierungen vorgesehen. Sie soll unter anderem anonymisierte Beispiele, Änderungen der Schutzmaßnahmen und relevante Daten enthalten. Bis dahin lässt sich aus der aktuellen Mitteilung vor allem ablesen, was OpenAI vorhat, nicht wie zuverlässig die neuen Regeln im Alltag funktionieren.
Quellen
- OpenAI: Community safety report and new protections for teens, 30. Oktober 2026.
- OpenAI: Our approach to age prediction, 20. Januar 2026, aktualisiert am 25. August 2026.
- OpenAI: Helping ChatGPT better recognize context in sensitive conversations, 14. Mai 2026.
Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde redaktionell geprüft.
