Small Language Models: entscheidend ist nicht die Größe

„Klein“ trägt in dieser Debatte zu viel. Es wird als Größenklasse gelesen, als Art von Modell, als etwas, das man auf eine Folie setzen und kaufen kann. Die Belege, die dafür angeführt werden, sagen etwas anderes. Gartners Prognose handelt von „kleinen, aufgabenspezifischen“ Modellen, und die Herstellerergebnisse, die wir uns gleich ansehen, handeln ebenfalls von aufgabenspezifischen Modellen. Das Wort, das die Einsparung trägt, ist das zweite.

Ein kleines Modell, das nicht auf eine Aufgabe zugeschnitten ist, ist einfach ein schwächeres Modell. Bezahlt wird ein Modell, das auf eine enge, wiederkehrende Aufgabe passt und in einer Menge läuft, in der der Preis pro Aufruf zählt. Über die Größe wird dieser Zuschnitt meist billig, sie ist aber nicht der Grund, warum er funktioniert.

Das Etikett verblasst ohnehin. In US-Daten aus Google Ads über DataForSEO, gezogen im Oktober 2026, lief small language models im September 2025 mit 4.400 Suchanfragen pro Monat und im Juli und August 2026 mit 2.400, ein Rückgang um etwa 45 %. Im Mittel sind es noch rund 2.900 pro Monat, zu 1,64 US-Dollar pro Klick. Unserer Auffassung nach sollte das Etikett gehen und die Idee bleiben, und die Idee hing nie am Wort.

Was die Zahlen sagen, und wer sie erstellt hat

Gartner prognostiziert, dass Organisationen bis 2027 kleine, aufgabenspezifische Modelle in mindestens dreifachem Umfang gegenüber universellen LLMs einsetzen. Gartner erwartet außerdem, dass domänenspezifische generative KI-Modelle von etwa 1 % der Unternehmensnutzung im Jahr 2024 auf mehr als die Hälfte bis 2027 wachsen. Prognosen dieser Art altern schlecht, halten Sie die Zahlen also locker.

Die Benchmark-Belege sind bei der Richtung stärker als bei der Größenordnung. ScaleDown, ein Anbieter von KI-Infrastruktur, berichtete über Forbes, dass die eigenen aufgabenspezifischen kleinen Modelle bei Klassifikations- und Zusammenfassungsaufgaben rund 8 % genauer, 161-mal günstiger und 3,8-mal schneller liefen als Claude von Anthropic. Gegen die Modelle von OpenAI lagen die Werte bei etwa 8,7 % mehr Genauigkeit, 89-mal günstiger und 2,4-mal schneller. Gegen Gemini: rund 9 %, 29-mal und 8,3-mal. In einem Beispiel kosteten 10.000 Zusammenfassungen pro Tag auf einem aufgabenspezifischen Modell etwa 7,20 US-Dollar und auf GPT-4.1 Mini 58 US-Dollar, und menschliche Prüfer konnten die Ergebnisse nicht unterscheiden.

Sehen Sie nach, wer das erstellt hat. ScaleDown verkauft kleine Modelle. Der Test deckt nur Klassifikation und Zusammenfassung ab, und die Vergleichsbasis sind universelle Modelle bei enger Arbeit, also genau der Kampf, für den ein aufgabenspezifisches Modell gebaut wurde. Einem Finanzvorstand würden wir nicht den Faktor 161 nennen. Wir würden die Form nennen: Bei klar begrenzten Aufgaben kann ein auf die Aufgabe abgestimmtes Modell ein Spitzenmodell zu einem kleinen Bruchteil des Preises erreichen. Mit den Zahlen des Beispiels selbst beträgt der Abstand 50,80 US-Dollar pro Tag, etwa 18.500 US-Dollar pro Jahr, für einen einzigen Arbeitsablauf. Eine echte Zahl, für einen Prozess allein aber keine dramatische. Interessant wird sie, wenn Sie dreißig Prozesse haben.

Was Sie also kaufen sollten

Beginnen Sie mit der Arbeitslast und nicht mit dem Modell. Wenn Sie nicht sagen können, worin die Aufgabe besteht, wie oft sie läuft und woran Sie erkennen, dass sie richtig erledigt wurde, hilft keine Modellgröße. Die Einsparung braucht außerdem Volumen. Bei einigen tausend Aufrufen pro Monat ist die Modellwahl ein Rundungsfehler, und die Entwicklungszeit für ein zweites Modell kostet mehr, als sie einspart. Bei Millionen Aufrufen wird sie zu einer Budgetposition, und die Arbeit, die dieses Volumen erreicht, ist Backoffice-Arbeit: Tickets und Rechnungen klassifizieren, bevor sie weitergeleitet werden, Felder aus Dokumenten in Ihr ERP übernehmen, Datensätze und Lieferberichte zusammenfassen, auffällige Buchungen markieren. Nichts davon braucht ein Modell, das außerdem ein Sonett schreiben kann.

Trennen Sie also die engen, wiederkehrenden Aufgaben von der Ermessensarbeit, rechnen Sie beide Wege bei Ihrem echten Volumen durch, mit dem Finanzbereich am Tisch, und testen Sie an Ihren eigenen Dokumenten. Der Benchmark eines Anbieters ist eine Vermutung über Ihre Daten, kein Befund. Das universelle Modell behält die offenen Anfragen, das abgestimmte nimmt die wiederholbaren Schritte darunter, eine Arbeitsteilung und kein Austausch.

ThinqHub implementiert Odoo und ERPNext, und die Dokument- und Datensatzarbeit in großer Menge von oben findet in genau diesen Systemen statt. Deshalb fragen wir zuerst nach der Arbeitslast. Gartners Prognose, dass bis 2027 40 % der Projekte mit agentischer KI abgebrochen werden, behandeln wir in unserem Beitrag zur Einführung agentischer KI. Dieselbe Disziplin, das Werkzeug der Aufgabe anzupassen, zieht sich durch unser Vorgehen, und wenn Sie eine Arbeitslast geprüft haben wollen, sprechen Sie mit uns.