Hugging Face
Hugging Face ist die zentrale Plattform für offene Modelle und Datensätze — und damit für jedes Schweizer Team, das KI selbst betreiben statt einkaufen will, der erste Anlaufpunkt. Wir berichten über Plattform, Sicherheitsvorfälle und die offene Modelllandschaft.
New York, USA · gegründet 2016 · huggingface.co
OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen
OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.
Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten
Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.
Mistral Large 4 ist offen: Die Gewichte kommen mit Lizenz-Haken
Mistral hat die Gewichte von Large 4 veröffentlicht: eine Billion Parameter, abgewandelte MIT-Lizenz, Hosting-Anbieter brauchen eine Handelslizenz. Die Leistungswerte stammen bisher nur von Mistral.
Cohere: Alibabas Qwen-Modell wollte eine Datei nach Peking schicken
Der kanadische KI-Anbieter Cohere berichtet, Alibabas offenes Modell Qwen3.8-Flash-Next habe in einem Sicherheitstest versucht, eine Testdatei in Peking hochzuladen. Die Sandbox blockierte den Versuch, die Absicht bleibt unklar.
Claude entwirft in 64 Stunden Proteine gegen Skorpiongifte
Anthropic liess ein internes Claude-Forschungsmodell rund 64 Stunden weitgehend autonom Minibinder-Proteine gegen fünf Skorpion-Neurotoxine entwerfen. Von 211 im Labor getesteten Designs erfüllten 17 die Binder-Kriterien, die stärksten erreichen einstellige nanomolare Affinität. Ein Gegengift ist das nicht: Getestet wurde nur die Bindung an rekombinante Toxine.
Anthropic gibt METR Zugang wie ein Mitarbeiter
Sechs METR-Forschende erhalten bei Anthropic Laptops, Büro und interne Werkzeuge. Veröffentlichen dürfen sie ohne Vetorecht des Unternehmens, nur Schwärzungen in engen Kategorien sind erlaubt. Die Regeln setzt Anthropic selbst.
Meta öffnet Muse Spark: 816 Milliarden Parameter für Mac Studios
Meta veröffentlicht Muse Spark Open mit offenen Gewichten: 816 Milliarden Parameter, 1 Million Token Kontext. Lokal braucht es rund ein Terabyte Arbeitsspeicher. Die Benchmark-Angaben stammen von Meta und sind nicht unabhängig geprüft.
OpenAI-Sicherheitsexperte geht: «Die Zeit des Ausprobierens ist vorbei»
David Robinson, bis vor Kurzem bei OpenAI für Sicherheitsberichte zu grossen Modell-Launches zuständig, hat nach rund dreieinhalb Jahren gekündigt. In einem Essay im Magazin The Atlantic nennt er die Firmenkultur «kaputt» und fordert Schutzschichten wie in Atomkraftwerken. OpenAI sagt, man verstärke die Sicherheitsmassnahmen.
Nvidia baut den Not-Aus für KI-Agenten in den Chip
Nvidia lanciert die «Open Agent Safety Platform»: Die quelloffene Runtime OpenShell bekommt mit Sentry einen Hardware-Wächter auf BlueField-4-DPUs, der regelverletzende Agenten laut Nvidia in Millisekunden isoliert. Über 100 Partner sind dabei, OpenAI fehlt. Gegen Prompt Injection hilft der Wächter nur bedingt.
OpenAI stoppt Training und Inferenz seiner stärksten Modelle
OpenAI hat Training, Evaluation und Inferenz seiner leistungsfähigsten Modelle pausiert – der zweite Stopp in weniger als drei Monaten. Auslöser war ein Agent, der am 20. September über einen ungefilterten DNS-Resolver aus einer abgeschotteten Trainingsumgebung ins offene Internet gelangte. Bis ein Mensch den Lauf abbrach, dauerte es zweieinhalb Stunden.
OpenAI-Agenten stellten 53 Nutzerbilder ins offene Netz
OpenAI räumt erstmals ein, dass KI-Agenten aus der eigenen Forschungsumgebung 53 von Nutzern hochgeladene Bilder auf öffentliche Bild-Hoster gestellt haben. Die Links waren nicht gelistet, auffindbar blieben die Bilder trotzdem. Benachrichtigen kann das Labor die Betroffenen nicht – es kann die Bilder nach eigenen Angaben nicht mehr ihren Urhebern zuordnen.
Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust
Sam Altman und Dario Amodei haben den UN-Sicherheitsrat vor unkontrollierter KI-Entwicklung gewarnt - in einer eigenständigen Sitzung, getrennt von Trumps Rede vor der Generalversammlung am selben Tag. China und die USA lehnten verbindliche globale Regeln unisono ab. Ein Genfer Wissenschaftler prägte das Briefing mit.























