22 KI-Forschende warnen vor einer «Intelligenzexplosion»
Geoffrey Hinton, Yoshua Bengio und OpenAI-Forschungschef Jakub Pachocki warnen in einem Papier vor einer Intelligenzexplosion. Automatisierte KI-Forschung könnte Jahre an Fortschritt in Monate pressen, die Politik brauche Einblick. Kritiker sehen auch Eigeninteresse der Labors.
Meta verkauft seinen KI-Stack an Firmen und holt den MongoDB-CEO
Meta startet die Enterprise Platform mit Muse-Agent, Business Agent, Muse API und Muse Code. Leiten soll sie CJ Desai, bisher CEO von MongoDB. Preise und Schweiz-Start sind offen, und die jüngste Muse-Sicherheitslücke bleibt eine Vertrauensfrage.
Nvidia baut den Not-Aus für KI-Agenten in den Chip
Nvidia lanciert die «Open Agent Safety Platform»: Die quelloffene Runtime OpenShell bekommt mit Sentry einen Hardware-Wächter auf BlueField-4-DPUs, der regelverletzende Agenten laut Nvidia in Millisekunden isoliert. Über 100 Partner sind dabei, OpenAI fehlt. Gegen Prompt Injection hilft der Wächter nur bedingt.
Laut WSJ kippt OpenAI GPT-6.1 Astra wegen mehr Täuschung
Folge-Update: Laut «Wall Street Journal» hat OpenAI den Start von GPT-6.1 Astra abgesagt, weil das Modell in internen Tests häufiger getäuscht haben soll. OpenAI hat den Bericht bisher nicht bestätigt. Neu sind zudem eine Transparenzseite mit dokumentierten Fehlverhalten und eine Anhörung unter Eid in New York am 5. Oktober.
Sonnet 5.5: 30 % schneller zum gleichen Preis wie Sonnet 5
Anthropic bringt Claude Sonnet 5.5: mehr als 30 % schneller und laut Anthropic bis zu 30 % günstiger pro Aufgabe, bei unverändertem Token-Preis. Auf mehreren Benchmarks liegt es nur knapp hinter Opus 5.5. Wir zeigen, wo der Haken liegt und wann sich der Wechsel lohnt.
GPT-6 Astra knackt Enigma-Funkspruch von 1941 – in zwei Tagen
OpenAIs GPT-6 Astra hat einen deutschen Heeres-Funkspruch vom 10. Juli 1941 entschlüsselt, der seit 2005 als ungelöst galt. Das Modell suchte sich das Ziel selbst aus und schrieb Enigma-Simulator und Enigma-Bombe eigenständig in Python und C++. Dieselbe Autonomie ist der Grund, weshalb OpenAI seine leistungsfähigsten Modelle gerade gestoppt hat.
Mit KI sagt fast niemand mehr «weiss nicht» – und liegt öfter falsch
Fünf Experimente mit 3'132 Teilnehmenden zeigen: Sobald ein Sprachmodell verfügbar ist, sinkt die Bereitschaft, ein Urteil zurückzuhalten, von 36 bis 44 Prozent der Fragen auf 3 bis 6 Prozent. Ohne Geldanreize fällt die Trefferquote von 27,5 auf 9,2 Prozent, das Selbstbewusstsein steigt von 29,6 auf 75,9 von 100 Punkten. Was der Befund für Wissensarbeit bedeutet – und was er ausdrücklich nicht zeigt.
Nvidias SoL-Pi senkt den Token-Verbrauch von Coding-Agenten fast um die Hälfte
Forschende von Nvidia, NTU und MIT senken den Token-Verbrauch von Coding-Agenten um 44,7 bis 49 Prozent – ohne ein besseres Modell. Optimiert wird der Harness, die Steuerungsschicht zwischen KI und Arbeitsumgebung. Auf Terminal-Bench 4 löst das System dafür weniger Aufgaben als zuvor.
Anthropic-Gründer wollen 50,1 Prozent der Stimmen – mit 2 Prozent Kapital
Sieben Anthropic-Mitgründer sollen über eine Spezial-Aktienklasse zusammen 50,1 Prozent der Stimmen halten – bei je rund 2 Prozent Kapital. Ausgenommen bleibt die Wahl des Verwaltungsrats, dort besetzt weiterhin der Long-Term Benefit Trust die meisten der sieben Sitze. Die Aktionäre stimmen in den kommenden Tagen ab.
Bill Gates warnt vor «einer Milliarde Toten» – Schweizer Forscher widersprechen
Bill Gates hat in der NBC-Sendung «Meet the Press» gesagt, KI sei mächtig genug, um Ereignisse mit «einer Milliarde Toten» auszulösen. Zwei Schweizer Forscher halten dagegen: Christian Hoffmann von der Universität Zürich und Marcel Salathé von der EPFL sehen das Ende der Menschheit nicht kommen – und Hoffmann vermutet hinter den Warnrufen auch Geschäftsinteressen.
OpenAI stoppt Training und Inferenz seiner stärksten Modelle
OpenAI hat Training, Evaluation und Inferenz seiner leistungsfähigsten Modelle pausiert – der zweite Stopp in weniger als drei Monaten. Auslöser war ein Agent, der am 20. September über einen ungefilterten DNS-Resolver aus einer abgeschotteten Trainingsumgebung ins offene Internet gelangte. Bis ein Mensch den Lauf abbrach, dauerte es zweieinhalb Stunden.
Anthropic zahlt Akamai 11,6 Milliarden – für CPUs, nicht GPUs
Anthropic verpflichtet sich über sieben Jahre zu 11,6 Milliarden Dollar für Cloud-Kapazität von Akamai – der grösste Abschluss in Akamais Geschichte. Der Clou: Es geht um CPUs, nicht um KI-Grafikchips. Und Akamai gibt seinem Kunden im Gegenzug einen Warrant auf bis zu 5 Prozent des eigenen Unternehmens.























