KI-Training aussperren: So schützt du deine Website-Inhalte

Du erfährst, welche KI-Crawler es gibt, wie du das Training mit deinen Inhalten per robots.txt untersagst und wo diese Bitte endet. Dazu: Cloudflare-Optionen, der neue IETF-Token und was das Schweizer Urheberrecht dazu sagt.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
2. NOVEMBER 2026
6 MIN. LESEZEIT

Ja, du kannst KI-Training auf deiner Website untersagen, aber nur als Bitte und nicht als technische Sperre. Mit einer robots.txt-Regel wie «Disallow: /» für GPTBot (OpenAI), ClaudeBot (Anthropic) oder Google-Extended sagst du den Anbietern, dass sie deine Inhalte nicht für das Training ihrer Modelle verwenden sollen. Erzwingen lässt sich das nicht: Der Standard RFC 9309 hält fest, die Regeln seien «not a form of access authorization», also keine Zugriffskontrolle. Verbreitet ist die Sperre trotzdem, denn laut einer Auswertung von Buzzstream, über die Press Gazette im Januar 2026 berichtete, blockieren 79 Prozent von knapp 100 grossen britischen und US-Nachrichtenseiten mindestens einen Trainings-Bot.

Training, Suche, Abruf: drei Arten von Bots

Die Anbieter schicken nicht einen Crawler los, sondern mehrere mit unterschiedlichen Aufgaben. Das ist wichtig, weil du Training sperren und trotzdem in KI-Antworten auftauchen kannst. Stand November 2026 beschreiben die Hersteller in ihrer Dokumentation:

  • OpenAI: GPTBot sammelt Inhalte, die für das Training der Foundation Models (grosse Basismodelle hinter Chatbots) verwendet werden können. OAI-SearchBot blendet Seiten in der ChatGPT-Suche ein. ChatGPT-User läuft nur bei Aktionen, die Nutzer anstossen; robots.txt-Regeln gelten dafür laut OpenAI möglicherweise nicht.
  • Anthropic: ClaudeBot sammelt Material, das für das Training generativer KI-Modelle genutzt werden kann. Claude-SearchBot verbessert die Suchantworten, Claude-User ruft Seiten ab, wenn ein Nutzer danach fragt. Alle drei respektieren laut Anthropic robots.txt.
  • Google: Google-Extended ist ein reines robots.txt-Token ohne eigenen Crawler. Es steuert, ob gecrawlte Inhalte für das Training künftiger Gemini-Generationen und für Grounding (Antworten mit Live-Quellen) genutzt werden. Auf die Aufnahme in die Google-Suche hat es laut Google keinen Einfluss.
  • Common Crawl: Die gemeinnützige Stiftung betreibt den Crawler CCBot und pflegt ein offenes Archiv von Web-Crawls. Gesperrt wird er mit «User-agent: CCBot» und «Disallow: /».
  • Meta: Meta-ExternalAgent crawlt laut Meta, um Foundation Models zu trainieren oder Produkte zu verbessern. Meta-ExternalFetcher holt einzelne Links auf Nutzerwunsch und kann robots.txt umgehen.

Der Zielkonflikt: Wer OAI-SearchBot sperrt, erscheint laut OpenAI nicht in den Suchantworten von ChatGPT. Bei Anthropic gilt Ähnliches für Claude-SearchBot und Claude-User. Für ein reines Trainingsverbot sperrst du deshalb nur GPTBot, ClaudeBot, Google-Extended, CCBot und Meta-ExternalAgent.

robots.txt in fünf Schritten anpassen

  1. Datei finden: Sie liegt im Hauptverzeichnis, also unter deine-domain.ch/robots.txt. Jede Subdomain braucht ihre eigene Datei, wie Anthropic ausdrücklich festhält.
  2. Entscheiden: Willst du Training sperren, aber in KI-Suchen sichtbar bleiben? Dann lässt du die Such-Bots aus der Liste oben unangetastet.
  3. Regeln eintragen: Für jeden Trainings-Bot ein eigener Block, wie in diesem Beispiel.
  4. Teilbereiche steuern: Statt der ganzen Seite sperrst du nur einen Pfad, etwa «Disallow: /archiv/». Google zeigt dieses Muster in seiner Dokumentation mit einem Archiv-Verzeichnis.
  5. Prüfen: Rufe die Datei im Browser auf und schau nach ein paar Tagen in deine Server-Logs, ob die Bots wegbleiben.

User-agent: GPTBot
Disallow: /

User-agent: ClaudeBot
Disallow: /

User-agent: Google-Extended
Disallow: /

User-agent: CCBot
Disallow: /

User-agent: Meta-ExternalAgent
Disallow: /

Rechne mit Verzögerung: Meta schreibt, Änderungen könnten bis zu 24 Stunden dauern, weil Crawler die Datei zwischenspeichern. RFC 9309 sagt dasselbe: Crawler sollen eine zwischengespeicherte Version nicht länger als 24 Stunden verwenden. Beachte ausserdem, dass eine Sperre nur nach vorne wirkt. Anthropic formuliert es so, dass künftige Inhalte aus den Trainingsdaten ausgeschlossen werden sollen.

Wenn die Bitte nicht reicht

Auch Cloudflare schreibt in seiner Dokumentation: «robots.txt compliance is voluntary». Manche Betreiber könnten die Regeln ignorieren. Wer das nicht hinnehmen will, hat zwei Hebel.

Die erste Stufe ist die verwaltete robots.txt von Cloudflare («Bot Preference Sync»). Sie ergänzt Disallow-Regeln für bekannte KI-Crawler, darunter GPTBot, ClaudeBot, Google-Extended, CCBot und meta-externalagent, sowie eine Content-Signals-Policy mit dem Eintrag «ai-train=no». Das bleibt eine Willenserklärung. Durchsetzen kannst du es mit Cloudflare AI Crawl Control: Dort blockierst du einzelne Crawler und siehst, welche sich an deine robots.txt halten. Laut Dokumentation ist das Werkzeug auf allen Plänen verfügbar.

Die zweite Stufe ist deine eigene Firewall (WAF). Anthropic veröffentlicht eine Liste seiner IP-Adressen, rät aber davon ab, IP-Sperren als Opt-out-Methode zu nutzen: Sie könnten verhindern, dass der Bot deine robots.txt überhaupt lesen kann. Sinnvoll ist eine harte Sperre deshalb nur für Bots, die sich nachweislich nicht an die Datei halten. Rechne mit Pflegeaufwand, denn Meta weist darauf hin, dass sich seine IP-Bereiche häufig ändern.

Ein Token für alle? Der IETF-Entwurf

Statt jeden Bot einzeln zu nennen, soll künftig ein gemeinsames Signal reichen. Der Internet-Draft draft-kelley-aipref-training-preference-signal-00 vom 30. Oktober 2026 beschreibt dafür den Token __usage_ai-training. Autor ist Kevin Kelley von Anthropic. Du schreibst ihn wie einen User-Agent, mit den bekannten Regeln Allow und Disallow:

User-Agent: __usage_ai-training
Disallow: /
Allow: /press-kit/

Das heisst: Training ist unerwünscht, ausser im Pressebereich. Eine allgemeine Gruppe mit «User-Agent: *» gilt für diesen Token nicht, er braucht eine eigene Gruppe. Der Entwurf hat laut IETF-Datenbank keinen offiziellen Status und läuft am 3. Mai 2027 ab, falls er nicht erneuert wird. Google schreibt in seiner Dokumentation, man wolle das Signal Anfang 2027 unterstützen. Heute schützt der Eintrag also noch nichts, kostet aber auch nichts. Behalte deine bestehenden Bot-Regeln bei; der Entwurf lässt sie ausdrücklich unberührt.

Schweizer Urheberrecht: Vieles ist offen

Eine ausdrückliche Regel zum KI-Training kennt das Schweizer Recht nicht. Das Urheberrechtsgesetz (URG) erlaubt in Art. 24d Abs. 1 das Vervielfältigen eines Werks «zum Zweck der wissenschaftlichen Forschung», wenn es durch ein technisches Verfahren bedingt ist und ein rechtmässiger Zugang besteht. Diese Text-und-Data-Mining-Schranke gilt also nur für die Forschung. Laut dem Eidgenössischen Institut für Geistiges Eigentum (IGE) wurde sie nicht im Hinblick auf KI-Training eingeführt; ob sie dafür gilt, müssten Gerichte klären. Ob KI-Training das Vervielfältigungsrecht überhaupt berührt, bezeichnet das IGE als «noch umstritten».

Politisch ist Bewegung drin, aber noch nichts entschieden. Nach der Annahme der Motion 24.4596 (Gössi) erarbeitet das IGE eine Regelung für KI und Urheberrecht, die zuerst dem Bundesrat vorgelegt wird; er entscheidet dann, ob eine Vernehmlassung eröffnet wird. Laut einem Bericht über einen IGE-Vortrag vom 26. Oktober 2026 stehen die Arbeiten noch am Anfang, eine Vernehmlassung könnte im Frühling 2027 stattfinden. Für dich heisst das: Ein robots.txt-Eintrag dokumentiert deinen Willen, ersetzt aber keine rechtliche Einschätzung. Bei einem konkreten Streitfall brauchst du juristische Beratung.

Was SRF und Verleger vormachen

Ein Schweizer Beispiel liefert die SRG. Die robots.txt von srf.ch enthält einen Abschnitt «AI Training» mit 22 Bots auf «Disallow: /», darunter GPTBot, ClaudeBot, CCBot und Meta-ExternalAgent. Bemerkenswert ist die Ausnahme: Das Verbot gilt nicht für den Zugriff allein zum Zweck von RAG (Retrieval-Augmented Generation, also das Abrufen von Quellen im Moment der Frage), sofern die Inhalte der Quelle zugeordnet werden. SRF trennt damit wie die Hersteller zwischen Training und Abruf.

Der Verlegerverband Schweizer Medien (VSM) geht politisch weiter. Laut Inside IT mit Keystone-SDA fordert er verbindliche Schutzregeln und eine angemessene Vergütung für die Nutzung von Verlagsinhalten und unterstützt die Motion Gössi. Für Firmen-Websites und Blogs ist der Schluss pragmatisch: Sperre das Training per robots.txt, halte Suche und Abruf offen, wenn du Reichweite willst, und prüfe die Sperre alle paar Monate. Die Bot-Namen und Zusagen der Anbieter ändern sich.

Häufige Fragen

Fragen zu KI-Training aussperren: So schützt du deine Website-Inhalte.

Kann ich KI-Training auf meiner Website verbieten?

Du kannst es untersagen, aber nicht technisch erzwingen. Mit «Disallow: /» in der robots.txt für Bots wie GPTBot, ClaudeBot oder Google-Extended teilst du den Anbietern deinen Willen mit, und OpenAI, Anthropic und Google beschreiben das als Weg, Training auszuschliessen. Laut RFC 9309 ist robots.txt jedoch «not a form of access authorization»; wer sich nicht daran hält, wird dadurch nicht gestoppt.

Verschwinde ich aus ChatGPT und Google, wenn ich GPTBot oder Google-Extended sperre?

Nein, nicht allein dadurch. Google-Extended hat laut Google keinen Einfluss auf die Aufnahme in die Google-Suche. Bei OpenAI sind Training (GPTBot) und Suche (OAI-SearchBot) getrennte Einstellungen; nur wer OAI-SearchBot sperrt, erscheint laut OpenAI nicht in den Suchantworten von ChatGPT.

Ist KI-Training mit fremden Webtexten in der Schweiz erlaubt?

Das ist rechtlich nicht geklärt. Laut dem Eidgenössischen Institut für Geistiges Eigentum (IGE) ist umstritten, ob KI-Training das Vervielfältigungsrecht berührt. Die Schranke für wissenschaftliche Forschung in Art. 24d URG wurde laut IGE nicht im Hinblick auf KI-Training eingeführt, und Gerichte müssten klären, ob sie dafür greift.

Wie schnell wirkt eine Änderung an der robots.txt?

Meist innerhalb eines Tages, aber nicht sofort. Meta nennt bis zu 24 Stunden, OpenAI rechnet für die Suche mit rund 24 Stunden, und RFC 9309 empfiehlt, eine zwischengespeicherte Datei nicht länger als 24 Stunden zu verwenden. Bereits gesammelte Inhalte betrifft die Änderung nicht, Anthropic spricht ausdrücklich von künftigen Inhalten.

Brauche ich Cloudflare, um KI-Crawler auszusperren?

Nein, für die Bitte reicht die robots.txt. Cloudflare lohnt sich, wenn du die Sperre durchsetzen willst: Mit AI Crawl Control blockierst du einzelne Crawler und siehst, welche sich an deine robots.txt halten. Laut Cloudflare ist das Werkzeug auf allen Plänen verfügbar.