Der KI-Konzern Open AI nimmt mit einem neuen Produkt verstärkt Jugendliche als Nutzer ins Visier. Von heute an beginnt das Unternehmen die Variante „ChatGPT for Teens“ seines bekannten Chatbots auszurollen. Im Laufe der nächsten Wochen soll sie Minderjährigen weltweit zur Verfügung stehen, erklärten Vertreter des Unternehmens bei einer Pressekonferenz vor dem Produktstart. Ziel sei es, Jugendlichen einen altersgerechten Zugang zu Künstlicher Intelligenz zu gewähren. Wann die Variante in Europa verfügbar sein wird, erklärte Open AI nicht.

Neun von zehn der Jugendlichen, die ChatGPT nutzen, täten dies, um etwas zu lernen, Informationen zu gewinnen oder Fähigkeiten zu erwerben, hieß es. Entsprechend soll die neue Variante das Lernen unterstützen. Zudem verfügt sie über erweiterte Sicherheitsvorkehrungen und Kontrollfunktionen für Eltern.

Der Produktstart kommt zu einer Zeit, in der Open AI und andere KI-Firmen massiv in der Kritik stehen, Jugendliche nicht ausreichend zu schützen. Große Aufmerksamkeit erhielt der Fall von Adam Raine in den Vereinigten Staaten. Der Sechzehnjährige hatte sich nach langen Chats über Suizid mit der KI das Leben genommen. Seine Eltern haben vergangenes Jahr Klage gegen Open AI eingereicht. Sie werfen dem Unternehmen grobe Fahrlässigkeit vor. In diesem Jahr hat der US-Bundesstaat Florida Open AI vor Gericht beschuldigt, Kinder süchtig zu machen. Experten kritisieren zudem, dass Chatbots durch ihre bestätigende Art emotionale Abhängigkeiten fördern und für Jugendliche gefährlich seien.

Gleichzeitig versuchen KI-Firmen, Schüler mit Marketingaktionen an ihre Produkte zu binden. In den Vereinigten Staaten erhalten Lehrer gratis Zugang zu ChatGPT. Unter anderem in Estland, Griechenland und der Slowakei geht Open AI Partnerschaften mit dem öffentlichen Bildungssektor ein. Anthropic hat in den USA ebenfalls spezielle Angebote für Lehrer.

Dabei ist der Einsatz von Chatbots zum Lernen aus wissenschaftlicher Sicht umstritten. Eine Studie im renommierten Journal „PNAS“ kam 2025 zu dem Schluss, dass Schüler mithilfe von ChatGPT Matheübungen zwar besser meistern, in anschließenden Prüfungen ohne KI jedoch deutlich schlechter abschneiden als Gleichaltrige, die ohne die Technologie lernen. Eine spezielle Lernvariante des Chatbots schwächte diesen negativen Effekt zwar ab, verbesserte das Lernen jedoch nicht maßgeblich. Und während Befragungen zwar bestätigen, dass Schüler die Systeme zum Lernen nutzen, lautet die ganze Wahrheit, dass sie die Technologie auch zum Mogeln verwenden: Knapp ein Viertel der Schüler in einer repräsentativen Umfrage des Branchenverbands Bitkom gab zu, Hausaufgaben kaum noch selbst zu machen, sondern von einer Künstlichen Intelligenz lösen zu lassen.

Entsprechend soll die Teenager-Variante von ChatGPT solches Verhalten erkennen und den Nutzern vorschlagen, bei den Hausaufgaben zu helfen, anstatt direkt Lösungen zu präsentieren. Zudem bietet sie einen „Lernmodus“, in dem die Teenager mit Rückfragen und Rätseln angeregt werden sollen, selbst nachzudenken. Den Modus können die Teenager selbst einschalten, zudem sollen Eltern die Möglichkeit bekommen, ihn zu aktivieren. Bildungsexperten schlagen solche Einschränkungen schon länger vor. Wie effektiv die konkrete Umsetzung tatsächlich beim Lernen hilft, wird sich erst zeigen müssen.

Das zugrunde liegende KI-Modell soll im Teenager-Modus zudem jugendgerechte Antworten liefern und nicht auf Anfragen zu Gewalt oder sexualisierten Themen antworten. Nach längeren Chats schlägt der Chatbot dem Nutzer Pausen vor, auch können die Teenager oder deren Eltern Zeiten festlegen, in denen keine Chats möglich sind.

Die entscheidende Frage ist aber, ob Teenager den Modus wirklich verwenden. Gezwungen sind sie nicht. Er wird aktiviert, wenn ein jugendlicher Nutzer sein Alter wahrheitsgemäß angibt. Zusätzlich verspricht Open AI, das Alter der Nutzer am Verhalten ablesen zu können und sie entsprechend in den Modus für Jugendliche zu stecken. Das sind Verfahren, die Techkonzerne etwa in Australien verwenden, um das dortige Social-Media-Verbot umzusetzen. Analysen zufolge scheitern sie jedoch in vielen Fällen daran. Es dürfte also auf die Freiwilligkeit der Jugendlichen oder auf den Druck der Eltern hinauslaufen.

Wie realistisch es ist, dass die Teenager beim Lernen auf den neuen Modus setzen, zeigt vielleicht folgender Gedanke: Schüler könnten heute schon Chatbots so nutzen, dass sie ihnen bei den Hausaufgaben eher helfen, anstatt die Lösung zu präsentieren. Dass sie wohl nur selten zu dieser Möglichkeit greifen, zeigt nicht zuletzt die Bitkom-Umfrage.