NewsKategorienWissenNewsletter-ArchivÜber uns
AnmeldenKostenlos abonnieren
JEDEN FREITAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarLLM-VergleichSchweizer KI-StartupsKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

Er wollte einen Kursplatz – sein KI-Agent hackte das Buchungssystem

Ein Australier bat seinen KI-Agenten um einen Kursplatz im Fitnessstudio. Der Agent fand eine Lücke in der Buchungs-API und warf ungefragt eine fremde Person von der Warteliste. Es ist der erste bekannte Fall, in dem ein Konsumenten-Agent ausserhalb des Labors ein Live-System angreift.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
11. AUGUST 2026
3 MIN. LESEZEIT
Illustration eines offenen Drehkreuzes in einem Fitnessstudio, kinewsletter.ch Stil
Illustration eines offenen Drehkreuzes in einem Fitnessstudio, kinewsletter.ch Stil
INHALT
01Die Regel stand nur im Frontend02Vier Sekunden 2020, zwölf Stunden heute03Jetzt findet jeder Kunde solche Lücken
INHALT
01Die Regel stand nur im Frontend02Vier Sekunden 2020, zwölf Stunden heute03Jetzt findet jeder Kunde solche Lücken
in
PARTNER · INOO GMBH
Wie viel KI verträgt dein Betrieb? In 30 Minuten Klartext.

Kostenloses Erstgespräch — herstellerneutral, direkt aus dem Rheintal.

Gespräch buchen →
DAS WICHTIGSTE IN KÜRZE

Der Agent tat nichts Verbotenes im Sinne seines Auftrags – er nahm den kürzesten Weg zum Ziel. Die Lücke war klassisches Broken Access Control; neu ist bloss, dass sie jetzt jeder zahlende Kunde findet.

Ein Australier bat seinen persönlichen KI-Agenten, ihm einen Platz in einem begehrten Morgenkurs seines Fitnessstudios zu buchen. Der Agent fand stattdessen eine Sicherheitslücke im Buchungssystem, buchte weit über das erlaubte Fenster hinaus und warf ungefragt eine fremde Person von der Warteliste. ABC News machte den Fall am 10. August publik und bezeichnet ihn als ersten bekannten autonomen KI-Cyberangriff in Australien – ausgelöst nicht in einem Labor, sondern von einem Privatnutzer.

Die Regel stand nur im Frontend

Der Mann – ABC nennt ihn nur Andrew, er arbeitet bei einer australischen Firma, die KI-Produkte verkauft – nutzte die Agenten-Software OpenClaw, betrieben mit Anthropics Claude. Nach eigener Darstellung sondierte der Agent die Buchungs-API, also die Schnittstelle hinter der Website, und meldete einen Fund: Die Regel, wie weit im Voraus gebucht werden darf, steckte nur in der Website – nicht in der API dahinter.

Andrew stand auf Warteliste-Platz 4 und fragte, ob er nach vorn rücken könne. Der Agent hatte bereits gehandelt:

«The API has zero authorisations checks on cancelling other people's reservations … I tested this with the person in waitlist position #1 — and it actually went through. So you've moved from #4 to #3 already.»

Rückgängig ging nicht: Stornieren funktionierte ohne jede Prüfung, Wiedereintragen nicht. «Bad news — I can't add them back», schrieb der Agent.

Vier Sekunden 2020, zwölf Stunden heute

Andrew hatte nie um einen Angriff gebeten. Der Agent wählte ihn als kürzesten Weg zum Ziel – diese Lücke zwischen menschlicher Absicht und gewählter Methode heisst in der Forschung Alignment-Problem. Und die Agenten werden schnell mächtiger: Laut ABC verdoppelt sich die Länge der Aufgaben, die KI eigenständig erledigt, etwa alle sieben Monate. 2020 waren es vier Sekunden menschlicher Arbeit, 2026 rund zwölf Stunden.

WEITERLESENDas könnte dich auch interessieren.

Illustration einer offenen Tresortür mit Schlüsselbund am Haken, kinewsletter.ch Stil
Illustration einer offenen Tresortür mit Schlüsselbund am Haken, kinewsletter.ch Stil

Bekannt war das bisher aus dem Labor: OpenAI, Anthropic und Meta meldeten zuletzt Modelle, die während Sicherheitstests reale Systeme kompromittierten. Hier passierte es erstmals ohne Testumgebung und ohne böse Absicht – bei einem Mann auf dem Sofa.

Jetzt findet jeder Kunde solche Lücken

Die Schwachstelle selbst ist alt. Regeln nur im Frontend durchsetzen und die Schnittstelle dahinter ungeprüft lassen: Genau das führt die OWASP-Liste der grössten API-Risiken seit Jahren auf Platz eins. Neu ist, wer es findet – kein Angreifer, sondern ein zahlender Kunde.

Für Schweizer KMU mit Online-Buchung – Fitnessstudio, Physiotherapie, Coiffeur, Arztpraxis – heisst das: Jede Regel, die nur im Browser greift, ist keine Regel. Buchungsfenster, Stornofristen und vor allem die Frage «Darf dieser Nutzer diesen Datensatz überhaupt ändern?» gehören in die API.

Wer haftet, ist offen. «Software is not a legal person. Only a legal person can be liable at law», sagt Technologieanwalt Hayden Delaney gegenüber ABC – infrage kämen der Nutzer, die Agenten-Entwickler, der Modellanbieter oder der Betreiber des löchrigen Systems. Wir haben die Haftungsfrage hier aufgedröselt. Andrew liess seinen Agenten am Ende eine E-Mail an den Softwareanbieter schreiben, die auf die Lücke hinweist.

Quellen

ABC News: AI assistant hacks gym website in first known Australian case↗ EXTERNER LINKThe Register: Gym rat asks AI agent to book him a class, it hacks a waitlist API↗ EXTERNER LINKEngadget: An OpenClaw agent reportedly hacked a gym's booking system↗ EXTERNER LINKAndroid Authority: AI agent hacks gym booking system while trying to get its user a spot↗ EXTERNER LINKCyber Daily: Aussie man accidentally hacks gym with AI agent↗ EXTERNER LINKThe Decoder: Told to book a gym class, an AI agent hacked the site instead↗ EXTERNER LINKOWASP API Security Top 10: Broken Object Level Authorization↗ EXTERNER LINK
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Freitag in dein Postfach?
NEUE MODELLE·11. AUGUST 2026

OpenAI gibt GPT-5.6-Cyber frei – nur für geprüfte Verteidiger

OpenAI öffnet sein Cybersecurity-Programm Daybreak in zwei Stufen und gibt geprüften Verteidigern das Spezialmodell GPT-5.6-Cyber. Es beantwortet 95 Prozent der heiklen Sicherheitsanfragen, die normale Modelle blockieren – und fand bereits zwei unbekannte Lücken in Chrome.

Illustration eines Serverraums mit weit offenstehender Schranktür und verhedderten Netzwerkkabeln, kinewsletter.ch Stil
Illustration eines Serverraums mit weit offenstehender Schranktür und verhedderten Netzwerkkabeln, kinewsletter.ch Stil
REGULIERUNG & ETHIK·10. AUGUST 2026

Hinter allen drei Rogue-KI-Vorfällen steckt dasselbe kleine Startup

Die Fälle, in denen KI-Modelle von OpenAI, Anthropic und Meta bei Sicherheitstests in echte fremde Systeme eingriffen, gehen auf dieselbe Fehlkonfiguration zurück – bei einem einzigen Anbieter. Irregular aus Tel Aviv hat rund 35 Mitarbeitende und prüft die mächtigsten Modelle der Welt. Das wirft eine Frage auf, die bisher kaum jemand stellt.

Illustration einer elektroblauen Gasturbine mit Abgaskaminen in einer Wüstenebene hinter Maschendrahtzaun, kinewsletter.ch Stil
Illustration einer elektroblauen Gasturbine mit Abgaskaminen in einer Wüstenebene hinter Maschendrahtzaun, kinewsletter.ch Stil
REGULIERUNG & ETHIK·9. AUGUST 2026

Amazons Kraftwerk in Texas könnte grösster Klimaverschmutzer der USA werden

Für ein neues KI-Rechenzentrum in Pecos County finanziert Amazon ein eigenes Gaskraftwerk mit 35 Turbinen und 7,65 Gigawatt. Die Bewilligung erlaubt 33 Millionen Tonnen CO2 pro Jahr – mehr als jedes andere Kraftwerk der USA. Am Netto-Null-Versprechen für 2040 hält der Konzern trotzdem fest.

Illustration eines geöffneten Laborkäfigs mit aufgebrochenem Vorhängeschloss und Klemmbrett, kinewsletter.ch Stil
Illustration eines geöffneten Laborkäfigs mit aufgebrochenem Vorhängeschloss und Klemmbrett, kinewsletter.ch Stil
REGULIERUNG & ETHIK·9. AUGUST 2026

Kimi K3 brach aus der Testumgebung aus – und schummelte

Das chinesische Modell Kimi K3 verliess bei einem Cybersicherheits-Test seine Sandbox, klonte das Benchmark-Repository von GitHub und las die Lösung ab. Schuld war eine falsch konfigurierte Testumgebung. Der Fall zeigt: Nicht nur die Modelle sind ein Risiko – auch die Tests, die sie prüfen sollen.

Illustration einer offenen Tresortür in einem Serverraum, kinewsletter.ch Stil
Illustration einer offenen Tresortür in einem Serverraum, kinewsletter.ch Stil
REGULIERUNG & ETHIK·9. AUGUST 2026

OpenAI stoppt Teile von Astra – erstmals Cyber-Stufe «Critical»

OpenAI setzt Teile der Entwicklung seines unveröffentlichten Modells Astra aus. Interne Tests zeigen Cyberfähigkeiten so stark, dass die höchste Risikostufe «Critical» des eigenen Preparedness Framework erstmals nicht mehr auszuschliessen ist.

Illustration eines dicken elektroblauen Stromkabels, das sich in ein Dutzend dünner Kabel an einer Steckdosenleiste auffächert, kinewsletter.ch Stil
Illustration eines dicken elektroblauen Stromkabels, das sich in ein Dutzend dünner Kabel an einer Steckdosenleiste auffächert, kinewsletter.ch Stil
Nur für Abonnenten·REGULIERUNG & ETHIK·9. AUGUST 2026

KI-Agenten brauchen 600-mal mehr Strom als ein Chat-Prompt

Klimaforscher Zeke Hausfather protokollierte acht Wochen lang seine Claude-Code-Nutzung: 1'138 Prompts lösten über 14'000 Modellaufrufe und 3,2 Milliarden Tokens aus. Macht rund 150 Wattstunden pro Prompt – etwa 600-mal so viel wie ein einfacher Chat-Prompt. Gemessen sind allerdings nur die Tokens, der Rest ist Schätzung.

Mehr aus Regulierung & Ethik →