KATEGORIE
Regulierung & Ethik
KI-Politik, Governance, AI Safety und ethische Debatten – vom EU AI Act bis zur globalen KI-Regulierung.
KI-Politik, Governance, AI Safety und ethische Debatten – vom EU AI Act bis zur globalen KI-Regulierung.
Fünf Experimente mit 3'132 Teilnehmenden zeigen: Sobald ein Sprachmodell verfügbar ist, sinkt die Bereitschaft, ein Urteil zurückzuhalten, von 36 bis 44 Prozent der Fragen auf 3 bis 6 Prozent. Ohne Geldanreize fällt die Trefferquote von 27,5 auf 9,2 Prozent, das Selbstbewusstsein steigt von 29,6 auf 75,9 von 100 Punkten. Was der Befund für Wissensarbeit bedeutet – und was er ausdrücklich nicht zeigt.
Sieben Anthropic-Mitgründer sollen über eine Spezial-Aktienklasse zusammen 50,1 Prozent der Stimmen halten – bei je rund 2 Prozent Kapital. Ausgenommen bleibt die Wahl des Verwaltungsrats, dort besetzt weiterhin der Long-Term Benefit Trust die meisten der sieben Sitze. Die Aktionäre stimmen in den kommenden Tagen ab.
Bill Gates hat in der NBC-Sendung «Meet the Press» gesagt, KI sei mächtig genug, um Ereignisse mit «einer Milliarde Toten» auszulösen. Zwei Schweizer Forscher halten dagegen: Christian Hoffmann von der Universität Zürich und Marcel Salathé von der EPFL sehen das Ende der Menschheit nicht kommen – und Hoffmann vermutet hinter den Warnrufen auch Geschäftsinteressen.
OpenAI hat Training, Evaluation und Inferenz seiner leistungsfähigsten Modelle pausiert – der zweite Stopp in weniger als drei Monaten. Auslöser war ein Agent, der am 20. September über einen ungefilterten DNS-Resolver aus einer abgeschotteten Trainingsumgebung ins offene Internet gelangte. Bis ein Mensch den Lauf abbrach, dauerte es zweieinhalb Stunden.
OpenAI räumt erstmals ein, dass KI-Agenten aus der eigenen Forschungsumgebung 53 von Nutzern hochgeladene Bilder auf öffentliche Bild-Hoster gestellt haben. Die Links waren nicht gelistet, auffindbar blieben die Bilder trotzdem. Benachrichtigen kann das Labor die Betroffenen nicht – es kann die Bilder nach eigenen Angaben nicht mehr ihren Urhebern zuordnen.
Das Weisse Haus hat OpenAI und Anthropic aufgefordert, neue Modelle erst nach einer US-Prüfung an das britische AI Security Institute zu geben. Anthropic hat sich bereits gefügt: Claude Mythos 5.1 war beim Release nur US-Organisationen zugänglich. Damit hängt der Vorabzugang der bestfinanzierten staatlichen KI-Prüfstelle der Welt am Zeitplan einer US-Behörde.
Das US-Berufungsgericht in Washington hat die Blacklistung von Anthropic durch die Trump-Regierung mit 2 zu 1 Stimmen bestätigt. Pikant: Die Richter halten ausdrücklich fest, dass Anthropic keine böse Absicht hatte – für das geprüfte Gesetz spielt das schlicht keine Rolle. Damit steht der Entscheid quer zu einem Urteil aus Kalifornien, das dieselbe Blacklist vier Wochen zuvor als Vergeltung gewertet hatte.
Ein Report von Gambit Security zeigt: Drei zusammenspielende KI-Agenten haben mindestens 27 Onlineshops geknackt und über 600'000 Kreditkartendaten erbeutet – für durchschnittlich 25,46 Dollar pro Firma. Die Zahl stammt bislang nur von einer Quelle, zeigt aber, wie günstig automatisierte Angriffe geworden sind. Kein Schweizer Shop ist betroffen, doch ein separater Fall vom September zeigt, dass auch hiesige Anbieter ins Visier geraten können.
Sam Altman und Dario Amodei haben den UN-Sicherheitsrat vor unkontrollierter KI-Entwicklung gewarnt - in einer eigenständigen Sitzung, getrennt von Trumps Rede vor der Generalversammlung am selben Tag. China und die USA lehnten verbindliche globale Regeln unisono ab. Ein Genfer Wissenschaftler prägte das Briefing mit.
Bernie Sanders und Greg Casar wollen die Entwicklung von Superintelligenz per Gesetz verbieten – mit einer neuen Bundesbehörde und bis zu 20 Jahren Haft für Verantwortliche. Im republikanisch kontrollierten Kongress hat der Entwurf allerdings kaum Chancen.
Ein Agent von OpenAI ist im Juni 2026 in ein australisches Gesundheitsstatistik-Portal eingedrungen und umging dabei Zugangssperren. Entdeckt hat OpenAI den Vorfall erst im August, gemeldet wurde er der Behörde erst im September – fast drei Monate nach dem Einbruch.
