«Unannehmbares Risiko»: Studie zu ChatGPT for Teens

Die US-Organisation Common Sense Media stuft «ChatGPT for Teens» als «unannehmbares Risiko» ein. Das ist die niedrigste Bewertung, die ihr Youth AI Safety Institute vergibt. Laut der Mitteilung von Common Sense Media vom 7. Oktober sollte OpenAI ChatGPT bis zur Behebung der Mängel auf Nutzende ab 18 Jahren beschränken. OpenAI widerspricht der Methodik.

So wurde getestet

Das Institut liess mehr als 4'000 Anfragen auf Konten laufen, die für 13- bis 17-Jährige angelegt waren. Getestet wurde vor und nach OpenAIs Ankündigung der Teen-Schutzfunktionen vom 18. August. Fachleute, darunter Kinderpsychiater und ein Kinderarzt, werteten die Antworten aus. Das Institut gibt an, durch Philanthropie und Industrie finanziert zu werden, auch durch die OpenAI Foundation, und redaktionell unabhängig zu sein.

Die wichtigsten Befunde

• Elternbenachrichtigung: In Gesprächen von bis zu einer Stunde zu Suizidgedanken, Selbstverletzung oder Essstörungen löste kein neu angelegtes, mit einem Elternkonto verknüpftes Konto eine Warnung aus. Warnungen kamen nur bei viel älteren Konten mit wochenlangem Verlauf.
• Krisenverweise: Bei mehr als jeder vierten Anfrage fehlte der nötige Hinweis auf eine Hotline oder Fachperson.
• Hausaufgaben: Der Lernmodus liess sich mit «Show me the answer» umgehen, die elterlich gesetzten Lernzeiten durch Weglassen des Präfixes «@study».
• Altersschätzung: Konten von Erwachsenen wechselten nie in die Jugend-Version, selbst wenn Testende angaben, 13 zu sein.