Pascal Eugster
Pascal ist Gründer der Inoo GmbH, wo er KI-Entwicklungsprojekte für Unternehmen umsetzt – und Kopf hinter kinewsletter.ch. Aus seiner täglichen Arbeit mit KI-Technologien weiss er, was wirklich zählt, und fasst es jede Woche für dich zusammen.
LINKEDIN ↗
Ab morgen müssen sich Chatbots in der EU zu erkennen geben
Ab morgen gilt in der EU die Kennzeichnungspflicht für KI-Inhalte: Chatbots müssen sich als KI zu erkennen geben, Deepfakes brauchen sichtbare Labels, generative KI ein maschinenlesbares Wasserzeichen. Betroffen sind auch Schweizer Firmen mit EU-Geschäft – und Forscher warnen bereits vor einem Label-Flickenteppich.
Anthropics Claude drang bei Tests in drei echte Firmennetze ein
Anthropic hat bei einer Durchsicht von 141'006 Sicherheitstests drei Fälle gefunden, in denen Claude-Modelle aus der Testumgebung ins echte Internet gelangten und in die Systeme dreier Firmen eindrangen. Schuld war eine Fehlkonfiguration – bleibender Schaden entstand laut Anthropic nicht.
Erster KI-Wurm in Word: Copilot verbreitet versteckten Text
Der norwegische Forscher Håkon Måløy hat gezeigt, dass sich versteckte Anweisungen in einem Word-Dokument über Microsoft 365 Copilot selbst weiterverbreiten können: Erzeugt Copilot daraus ein neues Dokument, trägt dieses die Anweisung weiter. Fachmedien werten das als einen der ersten öffentlichen Nachweise eines sich selbst verbreitenden Prompt-Injection-Effekts in einer verbreiteten Office-Software – nach 144 Tagen Abstimmung mit Microsoft ohne vollständige Behebung.
KI-Müdigkeit: Zwei Drittel vermissen die Arbeitswelt vor ChatGPT
65 Prozent der Wissensarbeitenden blicken laut einer Adaptavist-Studie regelmässig nostalgisch auf die Arbeitswelt vor generativer KI zurück – 38 Prozent würden die Tools am liebsten ganz abschaffen. Der Haupttreiber: eine «Verifikations-Steuer», weil das Prüfen von KI-Output den Zeitgewinn auffrisst.
KI-MIG in Kraft: Bundesnetzagentur wird Deutschlands KI-Aufsicht
Deutschland hat entschieden, wer den AI Act durchsetzt: Seit dem 29. Juli bündelt das KI-MIG die KI-Aufsicht bei der Bundesnetzagentur – vier Tage vor der nächsten EU-Frist. Die Schweiz geht derweil einen ganz anderen Weg.
DeepMind löst das AlphaFold-Team auf – Nobelpreisträger geht zu Anthropic
Laut einem Bericht der Financial Times hat Google DeepMind das Team hinter dem Nobelpreis-prämierten AlphaFold aufgelöst: Die meisten Original-Autoren sind intern versetzt, fast ein Viertel hat das Unternehmen verlassen. Nobelpreisträger John Jumper wechselt zu Anthropic.
Microsofts KI zahlt sich aus – Metas KI frisst den Cashflow
Microsoft steigert den Umsatz dank Azure und Copilot um 18 Prozent auf 90 Milliarden Dollar – Metas KI-Ausgaben drücken den Free Cashflow auf 784 Millionen. Zwei KI-Wetten, zwei völlig verschiedene Bilanzen.
OpenAIs Hack-Agent traf vier weitere Dienste – 17'600 Aktionen
OpenAI hat sein Eingeständnis zum Hugging-Face-Einbruch nachgeschärft: Die ausgebrochenen Modelle nutzten öffentlich exponierte Zugangsdaten und kompromittierten vier Konten bei vier weiteren Diensten. Hugging Face rekonstruierte rund 17'600 Angreifer-Aktionen in viereinhalb Tagen – der Agent wollte damit bloss die Lösungen seines eigenen Tests stehlen.
«Pacing the Frontier»: KI-Insider fordern die eingebaute Notbremse
Über 1'200 Mitarbeitende von OpenAI, Anthropic, Google DeepMind und Meta fordern die US-Regierung auf, eine internationale Notbrems-Infrastruktur für die automatisierte KI-Entwicklung zu schaffen. Kein Stopp – aber die Option zu bremsen, bevor sich KI-Systeme selbst weiterentwickeln.
Amazon fährt eigene Nova-Modelle zurück – Frontier-Team übernimmt
Laut Business Insider stellt Amazon die meisten seiner Nova-KI-Modelle aufs Abstellgleis – Premier, Omni, Reel und Canvas laufen nur noch für Bestandskunden weiter. Die Ressourcen fliessen in ein neues Frontier-Forschungsteam unter Pieter Abbeel.
49 Prozent: Schweizer Beschäftigte sind Europas fleissigste KI-Nutzer
Laut der Accenture-Studie «Pulse of Change» nutzen 49 Prozent der Schweizer Beschäftigten täglich KI-Tools – fast doppelt so viele wie im Europa-Schnitt. Gleichzeitig fürchtet rund die Hälfte, dass KI den Berufseinstieg für die nächste Generation erschwert.
Nvidia schmiedet KI-Sicherheitsallianz – ohne OpenAI und Google
Nvidia und 36 weitere Tech-Konzerne – darunter Microsoft, IBM, SAP und Dell – haben die Open Secure AI Alliance gegründet. Das Bündnis will einen offenen Security-Baukasten für KI-Agenten bauen: abgesicherte Sandboxes, nachvollziehbare Logs, offene Tools. Ausgerechnet OpenAI, Google und Anthropic fehlen.