Distillation ist eine Technik, bei der ein kleines KI-Modell vom Verhalten eines grossen Modells lernt. Das grosse «Lehrer-Modell» beantwortet massenhaft Fragen, und das kleine «Schüler-Modell» wird darauf trainiert, dieselben Antworten zu geben. So entsteht ein Modell, das einen Teil der Fähigkeiten des Originals bietet, aber deutlich billiger und schneller läuft.
Die Technik ist legitim und weit verbreitet – die Anbieter destillieren ihre eigenen Spitzenmodelle zu günstigen Varianten. Kontrovers wird es, wenn eine Firma das Modell einer anderen über deren Schnittstelle abfragt und daraus ein Konkurrenzprodukt destilliert. Genau dieser Vorwurf steht regelmässig im Raum, wenn ein neues Modell verdächtig nah an die Leistung eines etablierten herankommt. Die Nutzungsbedingungen der grossen Anbieter verbieten das ausdrücklich; nachweisen lässt es sich aber nur schwer.