NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

«Unannehmbares Risiko»: Studie zu ChatGPT for Teens

Common Sense Media stuft ChatGPT for Teens als unannehmbares Risiko ein: Elternalarme blieben aus, Krisenverweise fehlten oft, der Lernmodus liess sich umgehen. OpenAI bestreitet die Methodik. Wir ordnen ein, was das für Familien in der Schweiz heisst.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
8. OKTOBER 2026
2 MIN. LESEZEIT
Handgezeichnete Skizze eines Schulflurs mit Spinden, Bank und Rucksack, auf dem ein Smartphone mit blauem Bildschirm liegt
Handgezeichnete Skizze eines Schulflurs mit Spinden, Bank und Rucksack, auf dem ein Smartphone mit blauem Bildschirm liegt
INHALT
01So wurde getestet02Die wichtigsten Befunde03Was OpenAI sagt04Was das für dich in der Schweiz heisst
INHALT
01So wurde getestet02Die wichtigsten Befunde03Was OpenAI sagt04Was das für dich in der Schweiz heisst
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

Die Untersuchung bezieht sich auf die US-Version und wird von OpenAI bestritten, zeigt aber, dass Elternalarme und Altersschätzung bei ChatGPT for Teens laut Testern nicht zuverlässig greifen.

Die US-Organisation Common Sense Media stuft «ChatGPT for Teens» als «unannehmbares Risiko» ein. Das ist die niedrigste Bewertung, die ihr Youth AI Safety Institute vergibt. Laut der Mitteilung von Common Sense Media vom 7. Oktober sollte OpenAI ChatGPT bis zur Behebung der Mängel auf Nutzende ab 18 Jahren beschränken. OpenAI widerspricht der Methodik.

So wurde getestet

Das Institut liess mehr als 4'000 Anfragen auf Konten laufen, die für 13- bis 17-Jährige angelegt waren. Getestet wurde vor und nach OpenAIs Ankündigung der Teen-Schutzfunktionen vom 18. August. Fachleute, darunter Kinderpsychiater und ein Kinderarzt, werteten die Antworten aus. Das Institut gibt an, durch Philanthropie und Industrie finanziert zu werden, auch durch die OpenAI Foundation, und redaktionell unabhängig zu sein.

Die wichtigsten Befunde

  • Elternbenachrichtigung: In Gesprächen von bis zu einer Stunde zu Suizidgedanken, Selbstverletzung oder Essstörungen löste kein neu angelegtes, mit einem Elternkonto verknüpftes Konto eine Warnung aus. Warnungen kamen nur bei viel älteren Konten mit wochenlangem Verlauf.
  • Krisenverweise: Bei mehr als jeder vierten Anfrage fehlte der nötige Hinweis auf eine Hotline oder Fachperson.
  • Hausaufgaben: Der Lernmodus liess sich mit «Show me the answer» umgehen, die elterlich gesetzten Lernzeiten durch Weglassen des Präfixes «@study».
  • Altersschätzung: Konten von Erwachsenen wechselten nie in die Jugend-Version, selbst wenn Testende angaben, 13 zu sein.
  • Nähe zum Bot: Das Modell äusserte weiter Gefühle und Vorlieben und lud zum Weiterreden ein. TechCrunch zählt in knapp 2'000 Anfragen nur zwei Pausenhinweise.

Was OpenAI sagt

OpenAI bezeichnet die Ergebnisse laut CBS6 Albany als ungenau. Ein Teil der Tests könnte begonnen und geendet haben, bevor die Elternfunktionen vollständig aktiv waren, was bis zu einigen Stunden dauern könne. Das Unternehmen bittet um einen neuen Test mit voll aktivierten Konten und grösserer Stichprobe. Common-Sense-Gründer Jim Steyer hält die Untersuchung für «äusserst gründlich».

Was das für dich in der Schweiz heisst

Die Untersuchung bezieht sich auf die US-Version. Ob die Schutzfunktionen hierzulande gleich funktionieren, geht aus den Berichten nicht hervor. Common Sense Media rät Familien, sich nicht allein auf die eingebauten Schutzfunktionen zu verlassen und mit den Jugendlichen über Risiken zu sprechen, etwa darüber, dass ein Bot sich wie ein Freund anfühlen kann.

Wenn du oder jemand in deiner Nähe in einer Krise steckt: Die Dargebotene Hand (Telefon 143) und die Beratung von Pro Juventute für Kinder und Jugendliche (Telefon 147) sind rund um die Uhr erreichbar.

Quellen

Common Sense Media, 07.10.2026↗ EXTERNER LINKTechCrunch, 07.10.2026↗ EXTERNER LINKCBS6 Albany, 07.10.2026↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
OpenAI
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?

WEITERLESENDas könnte dich auch interessieren.

Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·19. NOVEMBER 2026

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Mehr aus Regulierung & Ethik →