Warum dein Prompt kostet, was er kostet

In der letzten Lektion hast du gelernt, dass Modelle Tokens sehen, keine Wörter. Jetzt folgen wir dem Geld — denn jedes einzelne Token wird abgerechnet, und zwar doppelt: einmal hinein (dein Prompt), einmal heraus (die Antwort). Und Ausgabetokens kosten typischerweise 3–5× mehr als Eingabetokens.

Diese Preislücke ist keine Gier. Sie ist Physik, und sie ist das Nützlichste, was man über LLM-Kosten verstehen kann. Sehen wir sie zuerst, erklären wir sie danach.

Die Pause und das Tröpfeln: Prefill vs. Decode

Hast du die zwei Phasen bemerkt?

Phase 1 — die Pause (Prefill). Das Modell liest deinen gesamten Prompt in einem parallelen Schluck. Tausend Eingabetokens können gleichzeitig verarbeitet werden, wie ein Scanner, der eine ganze Seite einsaugt. Das ist billig pro Token. Deshalb ist Eingabe der Wühltisch.

Phase 2 — das Tröpfeln (Decode). Generierung lässt sich nicht parallelisieren, wegen einer brutalen Abhängigkeit: Um Token #2 zu erzeugen, muss das Modell wissen, was Token #1 war. Jedes Ausgabetoken braucht einen vollen Durchlauf durch das gesamte Netz — Milliarden Berechnungen — für ein Stück. Dann wieder. Dann wieder. Das Wort-für-Wort-Erscheinen, das du immer gesehen hast, ist keine Ladeanimation und war es nie: Du siehst das Modell in Echtzeit denken, und jedes Tröpfeln ist ein Rechnungsposten.

Eine Maschine, zwei Modi: Fotokopierer auf dem Weg hinein, Kalligraf auf dem Weg hinaus. Jetzt ergibt die Preistabelle jedes KI-Anbieters der Welt Sinn — und ebenso eine Strategie: sei großzügig mit Eingabe, geizig mit Ausgabe. Ein längerer Prompt, der eine kürzere Antwort erzeugt, ist oft der günstigere Prompt.

Experiment 1: Die Höflichkeitssteuer

Höflich zu sein verbessert die Antwort nicht — das Modell hat keine Gefühle, denen man schmeicheln könnte — aber beachte den hinterhältigen zweiten Effekt: Ein plaudernder Prompt löst oft eine plaudernde Antwort aus, und die Antwort ist der teure Teil. (Wichtige Unterscheidung für spätere Module: Zusätzlicher Kontext macht Antworten oft besser. Zusätzliche Füllung nie. In diesem Kurs geht es großenteils darum, beides auseinanderzuhalten.)

Experiment 2: Das teure Ende knebeln

Da Ausgabe 3–5× mehr kostet, ist die wirksamste Kostenkontrolle, die Antwort zu kontrollieren. Zwei Knebel im Vergleich:

Es gibt auch einen harten Knebel: Die Einstellung max_tokens schneidet das Modell mitten im Satz ab, wenn das Budget aufgebraucht ist. Schau auf dem Beleg nach einem Feld namens finish_reason — es sagt stop, wenn das Modell natürlich fertig war, und length, wenn die Guillotine fiel. Jede rätselhaft abgehackte KI-Antwort, die du je gesehen hast, war ein finish_reason: length — und jetzt wirst du nie wieder von einer verwirrt sein.

Experiment 3: Deutsch kostet extra

Die Deutsch-Steuer aus der letzten Lektion, jetzt mit Preisschild:

Das ist nicht nur eine Kuriosität; es ist ein Fairness-Problem, das in der Technik steckt. Ein Nutzer in Yangon kann ein Vielfaches dessen zahlen, was ein Nutzer in Ohio zahlt — für dieselbe Frage, weil das Kompressionsspiel des Tokenizers hauptsächlich auf englischem Text gespielt wurde. Wenn du für deutsche Nutzer baust, sind deine echten Kosten pro Anfrage höher als jede englischbasierte Schätzung — messbar, und jetzt kannst du es messen.

Zwei Überraschungen auf der Rechnung

Überraschung 1: Du kannst für Tokens zahlen, die du nie siehst. Moderne „Reasoning“-Modelle denken vor dem Antworten — sie erzeugen interne Gedankenketten, die dir verborgen bleiben, aber als Ausgabetokens abgerechnet werden, die teure Sorte. Stell ein schwieriges Rätsel, bekomme eine einzeilige Antwort, werde für 2.000 Tokens abgerechnet: Die anderen 1.950 waren das Modell, das vor sich hin murmelte. Wenn deine Engine mit einem thinking-fähigen Modell verbunden ist, wächst dem Beleg eine reasoning_tokens-Zeile — das Gemurmel, aufgeschlüsselt.

Überraschung 2: Wiederholung bringt Rabatt. Anbieter können den Prefill eines kürzlich verarbeiteten Prompt-Präfixes cachen — sende denselben langen Systemprompt tausendmal, und Wiederholungen des gecachten Teils sind oft 50–90% billiger. Deshalb setzen gut gebaute Apps das Stabile (Anweisungen, Dokumente) nach vorn und das Wechselnde (die Frage des Nutzers) nach hinten. Merk dir das: Es wird zur Design-Regel im Prompting-Modul.

Der Maßstab-Check (warum das überhaupt zählt)

Für dich, heute Abend, beim Spielen in diesem Playground: Nichts davon zählt. Tausend Experimente kosten weniger als ein Kaffee. Die Arithmetik wird erst im Maßstab real — ein Support-Bot mit 100.000 Chats am Tag, wo 50 gesparte Ausgabetokens pro Antwort täglich fünf Millionen Tokens sparen. Token-Sparsamkeit ist wie Kraftstoffeffizienz: belanglos für eine Runde über den Parkplatz, entscheidend für eine Fluglinie. Lern die Gewohnheiten jetzt, solange sie kostenlos sind.

Übung: Die Prompt-Diät

Unten ist ein aufgeblähter Prompt. Deine Mission: bring ihn unter 15 Prompt-Tokens, ohne zu ändern, was das Modell tut. Diesmal prüft der Checker beide Hälften: das Prompt-Budget und die französische Übersetzung, die zurückkommt.