OpenAI verschärft in ChatGPT die Regeln bei Gewaltthemen, für alle Konten und noch einmal für Jugendliche. Zeigt ein Gespräch, dass sich jemand auf Gewalt oder auf den Gedanken fixiert, einem anderen Menschen schweren Schaden zuzufügen, soll ChatGPT den Chat künftig automatisch beenden. Die Schutzmaßnahmen will OpenAI in den nächsten Wochen einführen; eine Länderliste nennt das Unternehmen in seiner Ankündigung nicht.
Was ändert sich bei Gewaltthemen für alle Konten?
Enthalten frühere Chats Warnzeichen für mögliche Gewalt, antwortet ChatGPT vorsichtiger auf Fragen, deren Antworten sich missbrauchen ließen. Grundlage sind kurze Notizen zu Warnzeichen aus früheren Chats; das Verfahren hatte OpenAI im Mai vorgestellt. Beendet ChatGPT mehrere Chats wegen einer Fixierung auf Gewalt, kann OpenAI das Konto vorübergehend sperren.
Wie ChatGPT bei Warnzeichen eingreift
Diese Stufen will OpenAI in den nächsten Wochen für alle Konten einführen
- Warnzeichen im Gesprächsverlauf
- Vorsichtigere Antworten
- Chat endet automatisch
- Konto vorübergehend gesperrt
Für verknüpfte Konten von Jugendlichen plant OpenAI zusätzlich eine Nachricht an die Eltern
Quellen: OpenAI, OpenAI Hilfe-Center
Fragen zu vergangenen Amoktaten und Anschlägen beantwortet ChatGPT künftig knapper, unabhängig von Alter und Anlass. Erklären, wie eine Tat Opfer, Angehörige und das Umfeld getroffen hat und an welchen Warnzeichen sich Gewalt erkennen lässt, soll das Modell weiterhin. Rekonstruktionen solcher Taten schränkt OpenAI dagegen ein, ebenso Angaben zu Waffen und deren Beschaffung sowie Vergleiche des Ausmaßes, die einem Täter Bekanntheit verschaffen könnten. Ab Anfang 2027 will das Unternehmen alle sechs Monate einen Bericht dazu veröffentlichen, wie gut diese Schutzmaßnahmen wirken.
Was ändert sich für Jugendliche?
Im Modus ChatGPT für Teens, der für Jugendliche unter 18 Jahren gilt, liefert ChatGPT konkrete Angaben zu Waffen und Sicherheitssystemen, die sich missbrauchen ließen, künftig auch dann nicht mehr, wenn nichts auf eine Gewaltabsicht hindeutet. Hilfe beim Entschärfen von Konflikten und den Weg zu einer Vertrauensperson finden Jugendliche dort weiterhin.
Ob ein Konto in diesen Jugendmodus fällt, hängt neben dem angegebenen Geburtsdatum von einer Altersschätzung ab. OpenAI hat die Schätzung so erweitert, dass sie laufend neue Anhaltspunkte auswertet. Als Beispiele nennt das Hilfe-Center die Themen der Gespräche, die Tageszeit der Nutzung und das Alter des Kontos. Eltern mit verknüpftem Konto werden seit Juli benachrichtigt, wenn OpenAI das Konto ihres Kindes wegen Verstößen gegen die Regeln zu Gewalt deaktiviert; eine Nachricht bei einer vorübergehenden Sperre ist geplant.
Was passiert, wenn ChatGPT dich für minderjährig hält?
Dein Konto bleibt aktiv, wechselt aber in den Jugendmodus, und OpenAI schickt dir eine E-Mail. Unter Einstellungen > Konto > Alter siehst du, welcher Alterskategorie dein Konto zugeordnet ist.
Bist du volljährig, kannst du dein Alter über den Dienstleister Persona bestätigen lassen, je nach Land per Live-Selfie, amtlichem Ausweis oder beidem. Persona löscht Ausweisfoto und Selfie innerhalb von sieben Tagen. Ob die Prüfung für dein Konto freigeschaltet ist, zeigt die Seite zur Altersverifizierung im Web; in den Apps erscheint die Option wegen eines Fehlers derzeit auch bei Konten ohne Berechtigung.
Was das für dich bedeutet
Nutzt du ChatGPT oft spät abends oder vor allem für Lernthemen, lohnt ein Blick in die Kontoeinstellungen, denn Tageszeit und Gesprächsthemen fließen in die Altersschätzung ein. Steht dort die falsche Kategorie, wäg am besten ab, ob dir die Bestätigung den Upload von Selfie oder Ausweis bei einem Drittanbieter wert ist.
Recherchierst du für ein Referat oder eine Reportage über ein vergangenes Attentat, rechne mit knapperen Antworten zu Tatablauf und Waffen. Belastbare Details liefern ohnehin Gerichtsurteile, Behördenberichte und Pressearchive.
Hast du Kinder im Teenageralter, findest du die Kindersicherung unter Einstellungen > Elternaufsicht. Nach dem Verknüpfen der Konten legst du dort etwa Ruhezeiten fest; die Gespräche selbst liest du nicht mit. Wie selbstverständlich KI im Schulalltag schon ist, zeigt die Schülerbefragung aus Hessen: 64 Prozent der Befragten lassen sich den Stoff von KI erklären.
Möchtest du ChatGPT erst selbst kennenlernen, bevor du Regeln für dein Kind oder deine Klasse festlegst, hilft dir die ChatGPT-Masterclass beim Einstieg.
OpenAI hat die Neuerungen am 30. Oktober 2026 vorgestellt.
Quellen
