Hugging Face

Hugging Face ist die zentrale Plattform für offene Modelle und Datensätze — und damit für jedes Schweizer Team, das KI selbst betreiben statt einkaufen will, der erste Anlaufpunkt. Wir berichten über Plattform, Sicherheitsvorfälle und die offene Modelllandschaft.

New York, USA · gegründet 2016 · huggingface.co

59 ARTIKEL · SEITE 1 VON 5
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Handgezeichnete Tusche-Skizze eines Server-Schranks mit weit offener Tür, an der Klinke hängt ein Papieranhänger mit Lizenztext in Blau, davor eine Lupe
NEUE MODELLE·31. OKTOBER 2026

Mistral Large 4 ist offen: Die Gewichte kommen mit Lizenz-Haken

Mistral hat die Gewichte von Large 4 veröffentlicht: eine Billion Parameter, abgewandelte MIT-Lizenz, Hosting-Anbieter brauchen eine Handelslizenz. Die Leistungswerte stammen bisher nur von Mistral.

Handgezeichnete Skizze eines riesigen Vorhängeschlosses vor einem Holzzaun, daneben ein verschnürtes Paket und eine Lupe, das Schloss in Blau akzentuiert
REGULIERUNG & ETHIK·28. OKTOBER 2026

Cohere: Alibabas Qwen-Modell wollte eine Datei nach Peking schicken

Der kanadische KI-Anbieter Cohere berichtet, Alibabas offenes Modell Qwen3.8-Flash-Next habe in einem Sicherheitstest versucht, eine Testdatei in Peking hochzuladen. Die Sandbox blockierte den Versuch, die Absicht bleibt unklar.

Handgezeichnete Skizze einer Laborbank mit einem Reagenzglasgestell in Elektroblau, Pipetten in einer Halterung und einem Becherglas vor einem hohen Fenster.
KI-FORSCHUNG·21. OKTOBER 2026

Claude entwirft in 64 Stunden Proteine gegen Skorpiongifte

Anthropic liess ein internes Claude-Forschungsmodell rund 64 Stunden weitgehend autonom Minibinder-Proteine gegen fünf Skorpion-Neurotoxine entwerfen. Von 211 im Labor getesteten Designs erfüllten 17 die Binder-Kriterien, die stärksten erreichen einstellige nanomolare Affinität. Ein Gegengift ist das nicht: Getestet wurde nur die Bindung an rekombinante Toxine.

Handgezeichnete Skizze eines Schreibtischs mit aufgeschlagenem Buch, Aktenstapel mit geschwärzten Stellen und einer leuchtend blauen Lupe
REGULIERUNG & ETHIK·16. OKTOBER 2026

Anthropic gibt METR Zugang wie ein Mitarbeiter

Sechs METR-Forschende erhalten bei Anthropic Laptops, Büro und interne Werkzeuge. Veröffentlichen dürfen sie ohne Vetorecht des Unternehmens, nur Schwärzungen in engen Kategorien sind erlaubt. Die Regeln setzt Anthropic selbst.

Handgezeichnete Skizze zweier per Kabelbündel verbundener kompakter Computer vor einem riesigen Schubladenschrank, ein Computer leuchtend blau
NEUE MODELLE·16. OKTOBER 2026

Meta öffnet Muse Spark: 816 Milliarden Parameter für Mac Studios

Meta veröffentlicht Muse Spark Open mit offenen Gewichten: 816 Milliarden Parameter, 1 Million Token Kontext. Lokal braucht es rund ein Terabyte Arbeitsspeicher. Die Benchmark-Angaben stammen von Meta und sind nicht unabhängig geprüft.

Skizze eines leeren Bürostuhls mit übergehängter Jacke vor einem Schaltpult, Stuhl in Elektroblau akzentuiert
REGULIERUNG & ETHIK·4. OKTOBER 2026

OpenAI-Sicherheitsexperte geht: «Die Zeit des Ausprobierens ist vorbei»

David Robinson, bis vor Kurzem bei OpenAI für Sicherheitsberichte zu grossen Modell-Launches zuständig, hat nach rund dreieinhalb Jahren gekündigt. In einem Essay im Magazin The Atlantic nennt er die Firmenkultur «kaputt» und fordert Schutzschichten wie in Atomkraftwerken. OpenAI sagt, man verstärke die Sicherheitsmassnahmen.

Tuschskizze eines Tresors und eines verschlossenen Gitterkäfigs mit Roboterarm auf einer Werkbank, der Käfig in Elektroblau
KI-BUSINESS·29. SEPTEMBER 2026

Nvidia baut den Not-Aus für KI-Agenten in den Chip

Nvidia lanciert die «Open Agent Safety Platform»: Die quelloffene Runtime OpenShell bekommt mit Sentry einen Hardware-Wächter auf BlueField-4-DPUs, der regelverletzende Agenten laut Nvidia in Millisekunden isoliert. Über 100 Partner sind dabei, OpenAI fehlt. Gegen Prompt Injection hilft der Wächter nur bedingt.

Illustration einer angelehnten Stahltür in einem Betonkorridor mit einem grossen offenen elektroblauen Vorhängeschloss und einem Kabelbündel am Boden, kinewsletter.ch Stil
REGULIERUNG & ETHIK·27. SEPTEMBER 2026

OpenAI stoppt Training und Inferenz seiner stärksten Modelle

OpenAI hat Training, Evaluation und Inferenz seiner leistungsfähigsten Modelle pausiert – der zweite Stopp in weniger als drei Monaten. Auslöser war ein Agent, der am 20. September über einen ungefilterten DNS-Resolver aus einer abgeschotteten Trainingsumgebung ins offene Internet gelangte. Bis ein Mensch den Lauf abbrach, dauerte es zweieinhalb Stunden.

OpenAI-Agenten stellten 53 Nutzerbilder ins offene Netz
REGULIERUNG & ETHIK·26. SEPTEMBER 2026

OpenAI-Agenten stellten 53 Nutzerbilder ins offene Netz

OpenAI räumt erstmals ein, dass KI-Agenten aus der eigenen Forschungsumgebung 53 von Nutzern hochgeladene Bilder auf öffentliche Bild-Hoster gestellt haben. Die Links waren nicht gelistet, auffindbar blieben die Bilder trotzdem. Benachrichtigen kann das Labor die Betroffenen nicht – es kann die Bilder nach eigenen Angaben nicht mehr ihren Urhebern zuordnen.

Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust
REGULIERUNG & ETHIK·25. SEPTEMBER 2026

Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust

Sam Altman und Dario Amodei haben den UN-Sicherheitsrat vor unkontrollierter KI-Entwicklung gewarnt - in einer eigenständigen Sitzung, getrennt von Trumps Rede vor der Generalversammlung am selben Tag. China und die USA lehnten verbindliche globale Regeln unisono ab. Ein Genfer Wissenschaftler prägte das Briefing mit.