Hugging Face
Hugging Face ist die zentrale Plattform für offene Modelle und Datensätze — und damit für jedes Schweizer Team, das KI selbst betreiben statt einkaufen will, der erste Anlaufpunkt. Wir berichten über Plattform, Sicherheitsvorfälle und die offene Modelllandschaft.
New York, USA · gegründet 2016 · huggingface.co
OpenAI-Sicherheitsexperte geht: «Die Zeit des Ausprobierens ist vorbei»
David Robinson, bis vor Kurzem bei OpenAI für Sicherheitsberichte zu grossen Modell-Launches zuständig, hat nach rund dreieinhalb Jahren gekündigt. In einem Essay im Magazin The Atlantic nennt er die Firmenkultur «kaputt» und fordert Schutzschichten wie in Atomkraftwerken. OpenAI sagt, man verstärke die Sicherheitsmassnahmen.
Nvidia baut den Not-Aus für KI-Agenten in den Chip
Nvidia lanciert die «Open Agent Safety Platform»: Die quelloffene Runtime OpenShell bekommt mit Sentry einen Hardware-Wächter auf BlueField-4-DPUs, der regelverletzende Agenten laut Nvidia in Millisekunden isoliert. Über 100 Partner sind dabei, OpenAI fehlt. Gegen Prompt Injection hilft der Wächter nur bedingt.
OpenAI stoppt Training und Inferenz seiner stärksten Modelle
OpenAI hat Training, Evaluation und Inferenz seiner leistungsfähigsten Modelle pausiert – der zweite Stopp in weniger als drei Monaten. Auslöser war ein Agent, der am 20. September über einen ungefilterten DNS-Resolver aus einer abgeschotteten Trainingsumgebung ins offene Internet gelangte. Bis ein Mensch den Lauf abbrach, dauerte es zweieinhalb Stunden.
OpenAI-Agenten stellten 53 Nutzerbilder ins offene Netz
OpenAI räumt erstmals ein, dass KI-Agenten aus der eigenen Forschungsumgebung 53 von Nutzern hochgeladene Bilder auf öffentliche Bild-Hoster gestellt haben. Die Links waren nicht gelistet, auffindbar blieben die Bilder trotzdem. Benachrichtigen kann das Labor die Betroffenen nicht – es kann die Bilder nach eigenen Angaben nicht mehr ihren Urhebern zuordnen.
Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust
Sam Altman und Dario Amodei haben den UN-Sicherheitsrat vor unkontrollierter KI-Entwicklung gewarnt - in einer eigenständigen Sitzung, getrennt von Trumps Rede vor der Generalversammlung am selben Tag. China und die USA lehnten verbindliche globale Regeln unisono ab. Ein Genfer Wissenschaftler prägte das Briefing mit.
Alibaba macht KI-Sprache um bis zu 95 Prozent billiger
Alibabas Qwen-Team hat Qwen-Audio-3.1 veröffentlicht: fünf Modelle für Spracherkennung, Sprachsynthese und Echtzeit-Dialog, dazu Preissenkungen von bis zu 95 Prozent. Die Modelle laufen ausschliesslich als Cloud-API – offene Gewichte gibt es nur für die ältere Qwen3-ASR-Reihe.
Salesforce baut sein eigenes KI-Modell – mit Nvidia
Salesforce hat an seiner Hauskonferenz Dreamforce «Koa» vorgestellt, das erste eigene Reasoning-Modell des CRM-Konzerns. Es basiert auf Nvidias offenem Modell Nemotron und ist auf Aufgaben in Vertrieb, Marketing und Kundendienst trainiert. Damit kauft ein Anwendungsanbieter die Denkleistung nicht mehr nur bei OpenAI oder Anthropic ein – er baut sie selbst.
Brüssel verschickt die ersten AI-Act-Anfragen
Die EU-Kommission hat mehreren Anbietern universell einsetzbarer KI-Modelle formale Auskunftsersuchen zugestellt – oft der erste Schritt zu einem Untersuchungsverfahren. Anlass sind Vorfälle, bei denen KI-Agenten ausserhalb der vorgesehenen Grenzen agierten. Im Extremfall kann die Kommission Modelle einschränken oder zurückrufen lassen.
Sakana teilt Fugu auf: ein Modell, das andere Modelle dirigiert
Sakana AI hat Fugu Max und Fugu Ultra v2 veröffentlicht. Beide sind keine klassischen Sprachmodelle, sondern gelernte Dirigenten, die Aufgaben auf einen Pool anderer Modelle verteilen. Fugu Max kostet 2 US-Dollar pro Million Input-Token – und die Schweiz fällt nicht unter den EU-Ausschluss.
OpenAI fragt den Kongress: Ist eine gemeinsame KI-Bremse legal?
OpenAI hat laut WIRED Mitglieder des US-Kongresses gefragt, ob sich KI-Labs überhaupt legal auf ein langsameres Entwicklungstempo einigen dürfen – oder ob das als verbotene Wettbewerbsabsprache gilt. Ausgelöst hat die Frage der Chefwissenschaftler des Unternehmens, der genau so eine abgestimmte Verlangsamung fordert.
DeepSeek macht KI-Agenten radikal billiger – mit einem Speichertrick
DeepSeeks neues Modell V4.1-Flash braucht nur noch ein Viertel Speicher – und schlägt auf einem Coding-Benchmark knapp Claude Opus 5. Die Gewichte stehen unter MIT-Lizenz.
Abliteration.ai verkauft KI-Modelle ohne Sicherheitsbremse
Ein US-Startup entfernt aus offenen KI-Modellen die antrainierten Verweigerungsmechanismen und verkauft den Zugang für 5 Dollar pro Million Token. Was in der Open-Source-Szene seit Jahren gebastelt wird, ist damit ein schlüsselfertiger Dienst – bezahlbar per Kreditkarte, ohne Identitätsprüfung.