KI-Kosten realistisch kalkulieren: Token, Seats und versteckte Betriebskosten

Der Preis, den du siehst, ist nur die Spitze des Eisbergs

Wenn du KI in dein Unternehmen holst, steht am Anfang meist eine scheinbar einfache Zahl: ein monatlicher Abo-Preis pro Nutzer oder ein Preis pro Million Token. Diese Zahl ist real — aber sie ist der kleinste Teil der Rechnung. Die tatsächlichen Kosten einer KI-Lösung entstehen zu einem großen Teil dort, wo kein Preisschild hängt: in Integration, Datenaufbereitung, Monitoring, Qualitätssicherung und Governance.

Untersuchungen zu den Gesamtkosten von Unternehmens-KI zeigen ein wiederkehrendes Muster: Die meisten Budgets unterschätzen die Total Cost of Ownership deutlich, ein Großteil der Organisationen verschätzt sich um mehr als zehn Prozent. Wer nur den Modellpreis kalkuliert, plant an der Realität vorbei. Dieser Guide bringt Ordnung in die Rechnung — von der Abrechnungsmechanik bis zur konkreten Hochrechnung.

Zwei Abrechnungsmodelle, die du nicht verwechseln darfst

Fast jedes KI-Angebot rechnet nach einem von zwei Modellen ab. Sie funktionieren grundverschieden — und die Wahl bestimmt, wie gut du deine Kosten vorhersagen kannst.

Token-basiert: die API-Abrechnung

Ein Token ist die kleinste Verrechnungseinheit eines Sprachmodells — grob ein Wortteil, im Deutschen im Schnitt etwas kürzer als eine Silbe. Bei API-Zugriff zahlst du pro verarbeiteter Menge Token, und zwar getrennt nach zwei Richtungen:

• Input-Token — alles, was du ins Modell hineingibst: System-Anweisung, Nutzerfrage, mitgeschickte Dokumente, bisheriger Gesprächsverlauf.
• Output-Token — alles, was das Modell generiert: die Antwort selbst.

Entscheidend: Output-Token sind fast immer deutlich teurer als Input-Token — typischerweise um ein Mehrfaches, bei den großen Anbietern oft im Verhältnis von rund fünf zu eins. Der Grund liegt in der Technik: Eingabe kann das Modell parallel in einem Rutsch verarbeiten. Ausgabe entsteht dagegen Token für Token nacheinander, jedes neue Token erfordert einen kompletten Durchlauf durch das Netz. Das ist rechenintensiver — und schlägt sich im Preis nieder.

Ein zweiter Kostentreiber ist die Kontextlänge. Wenn du bei jedem Aufruf ein langes Dokument oder den gesamten bisherigen Chatverlauf mitschickst, zahlst du diese Input-Token jedes Mal erneut. Lange Kontexte fühlen sich komfortabel an, treiben die Rechnung aber unbemerkt nach oben.

Seat-basiert: die SaaS- und Copilot-Abrechnung

Fertige Produkte — Microsoft Copilot, GitHub Copilot, KI-Funktionen in CRM- oder Office-Suiten — rechnen meist pro Nutzer und Monat ab. Du kaufst Seats, unabhängig davon, wie intensiv jemand das Werkzeug nutzt. Das macht die Rechnung planbar, hat aber einen Haken, den viele unterschätzen: Du zahlst für jeden Seat gleich viel — egal ob der Mensch das Werkzeug täglich oder nie öffnet.

Genau hier liegt die häufigste Geldverschwendung. Auswertungen zu Microsoft Copilot zeigen, dass die tatsächliche wöchentliche Nutzung nur bei einem kleinen Bruchteil der gekauften Lizenzen liegt. Rechnest du die untätigen Seats heraus, liegen die effektiven Kosten pro aktivem Nutzer schnell beim Zwei- bis Dreifachen des Listenpreises. Der Seat-Preis ist also nur so günstig wie deine Adoptionsrate hoch ist.

Warum Token-Kosten so schwer vorherzusagen sind

Bei Seats kennst du deine Obergrenze: Anzahl Nutzer mal Monatspreis. Bei Token-Abrechnung ist das anders — und das macht sie für die Budgetplanung tückisch. Die Nutzung ist variabel: Manche Anfragen sind kurz, andere schicken ganze Aktenordner mit. Kein Mensch tippt gleichmäßig.

Der größte Multiplikator sind jedoch Agenten — KI-Systeme, die eine Aufgabe nicht in einem einzigen Aufruf lösen, sondern in einer Schleife arbeiten: nachdenken, ein Werkzeug aufrufen, das Ergebnis lesen, korrigieren, weitermachen. Das Problem: Jeder API-Aufruf ist zustandslos. Das Modell erinnert sich nicht an den vorherigen Schritt, also schickt der Agent bei jedem Schritt den kompletten bisherigen Verlauf erneut mit.

Der Token-Verbrauch multipliziert sich damit dramatisch. Eine Schleife mit fünf Schritten kostet für dasselbe Ergebnis rund das Dreifache eines einzelnen Chatbot-Aufrufs. Bei mehreren Dutzend Schritten — etwa einer längeren autonomen Recherche oder Debugging-Sitzung — liegt der Faktor schnell im zwei- bis dreistelligen Bereich. Eine simple Chat-Antwort bewegt sich im Bereich einiger hundert bis wenige tausend Token; eine agentische Aufgabe kann sechsstellige Tokenmengen verschlingen. Wer Agenten produktiv einsetzt, muss diese Multiplikation von Anfang an einpreisen.

Die versteckten Betriebskosten

Jetzt zum Teil des Eisbergs unter der Wasserlinie. Diese Posten tauchen in keiner Preisliste des Modellanbieters auf — aber sie entscheiden über dein Gesamtbudget. Analysen der Total Cost of Ownership nennen immer wieder dieselben Kategorien:

• Integration und Entwicklung: KI an bestehende Systeme anzubinden — CRM, Dokumentenablage, Identity-Management — ist oft der größte Einzelposten. Diese Arbeit wird bei der Auswahl regelmäßig unterschätzt.
• Datenaufbereitung: Modelle sind nur so gut wie die Daten, die sie sehen. Pipelines bauen, Daten bereinigen, Qualität überwachen — das kann einen erheblichen Anteil des Gesamtaufwands ausmachen.
• Monitoring und Observability: Ohne Auswertung, welche Funktion wie viele Token verbraucht, fliegst du blind. Observability-Werkzeuge für LLMs sind kein Luxus, sondern die Voraussetzung für Kostenkontrolle.
• Evaluation und Qualitätssicherung: Antworten müssen systematisch auf Korrektheit geprüft werden. Das ist laufender Aufwand, kein einmaliges Projekt.
• Governance und Compliance: Wird oft als einmalige Übung zur Einführung budgetiert — ist aber ein Dauerposten. Produktive KI-Systeme mit erhöhtem Risiko nach EU AI Act erfordern beispielsweise wiederkehrende Konformitätsprüfungen, also realen technischen und juristischen Aufwand Jahr für Jahr.
• RAG- und Vektordatenbank-Infrastruktur: Wer eigene Dokumente durchsuchbar macht (Retrieval-Augmented Generation), betreibt zusätzliche Infrastruktur — eine Vektordatenbank, Einbettungs-Aufrufe, Aktualisierungslogik.
• Fine-Tuning und Hosting: Ein Modell auf eigene Daten anzupassen oder selbst zu betreiben, bringt Trainings- und Betriebskosten mit, die weit über den reinen API-Preis hinausgehen.
• Rate-Limit- und Ausfall-Handling: Produktive Systeme brauchen Logik für Anfrage-Limits, Wiederholungen und Ausweichmodelle — sonst steht der Betrieb beim ersten Engpass.
• Change-Management und Schulung: Der teuerste Seat ist der ungenutzte. Ohne Einführung, Beispiele und Begleitung bleibt die Adoption niedrig — und die Kosten pro tatsächlichem Nutzen hoch.

Build vs. Buy — wo die Kosten wirklich entstehen

Diese Kostenstruktur ist der Kern jeder Build-vs-Buy-Entscheidung. Buy — ein fertiges SaaS-Produkt mit Seat-Preis — verlagert fast alle versteckten Kosten zum Anbieter: Integration, Monitoring, Compliance-Basis, Betrieb. Du zahlst einen planbaren Preis pro Nutzer und sparst dir die Bauarbeit. Der Preis dafür: weniger Kontrolle, Abhängigkeit vom Anbieter, und du zahlst auch für inaktive Seats.

Build — eine eigene Lösung auf API-Basis — gibt dir Kontrolle und potenziell niedrigere variable Kosten bei hohem Volumen. Aber jeder der oben genannten versteckten Posten wandert auf deine Rechnung. Der sichtbare Token-Preis ist bei Eigenbetrieb oft der kleinste Teil der wahren Kosten.

Die pragmatische Faustregel: Kaufe, was Standard ist, und baue nur, wo dein Prozess wirklich einzigartig ist. Ein selbstgebauter E-Mail-Zusammenfasser lohnt sich selten — dafür gibt es fertige Werkzeuge. Ein Agent, der tief in deine spezifischen Abläufe eingreift, rechtfertigt den Bau eher. Und rechne beide Optionen über drei Jahre, nicht über einen Monat.

Kostenkontrolle: die wirksamsten Hebel

Egal ob Build oder Buy — es gibt eine Handvoll Hebel, mit denen du Token-Kosten spürbar senkst, ohne an Qualität zu verlieren:

• Modell-Routing: Nicht jede Aufgabe braucht das teuerste Modell. Schicke einfache Klassifizierungen und Standard-Antworten an ein kleines, günstiges Modell und reserviere das große nur für komplexe Fälle. Das ist oft der größte Einzelhebel.
• Prompt Caching: Wenn sich Teile deiner Eingabe wiederholen — etwa eine lange System-Anweisung oder ein Referenzdokument — können Anbieter diesen Teil zwischenspeichern. Ein Treffer im Cache ist bei den großen Anbietern rund um ein Vielfaches günstiger als die erneute Verarbeitung; bei manchen läuft es automatisch, bei anderen markierst du den wiederholten Teil aktiv. Für jede produktive Anwendung mit wiederkehrendem Kontext ist das Pflicht.
• Kontext kürzen: Schicke nur mit, was die Aufgabe wirklich braucht. Alten Gesprächsverlauf zusammenfassen statt komplett mitzuschicken spart bei jedem Aufruf.
• Batching: Aufgaben, die nicht sofort beantwortet werden müssen — nächtliche Auswertungen, Massen-Klassifizierung, Dokumentenverarbeitung — laufen über die Batch-Schnittstelle der großen Anbieter typischerweise zum halben Preis, gegen eine Wartezeit von bis zu einem Tag.
• Limits und Budgets: Setze harte Ausgabengrenzen pro Projekt und Zeitraum. So verhindert ein fehlerhafter Agent in einer Endlosschleife keine böse Überraschung auf der Rechnung.
• Monitoring pro Funktion: Miss den Verbrauch getrennt nach Feature. Nur so erkennst du, welche Funktion unverhältnismäßig teuer ist — und wo sich Optimierung lohnt.

So kalkulierst du realistisch: vom Pilot zur Hochrechnung

Statt vorab eine Punktlandung zu versuchen, gehst du in drei Schritten vor:

1. Grobe TCO-Schätzung aufstellen

Liste alle Kostenblöcke auf, nicht nur den Modellpreis: Lizenzen oder Token, Integration, Datenaufbereitung, Monitoring, Evaluation, Governance, Schulung. Setze bewusst großzügige Puffer — weil erfahrungsgemäß gerade die versteckten Posten unterschätzt werden. Eine Schätzung, die den Modellpreis als Hauptkosten ausweist, ist ein Warnsignal.

2. Pilot messen statt raten

Bau einen kleinen, realen Anwendungsfall und miss den tatsächlichen Verbrauch: Wie viele Token pro typischer Anfrage — getrennt nach Input und Output? Wie viele Aufrufe macht ein Agent pro Aufgabe? Wie hoch ist die Cache-Trefferquote? Diese echten Zahlen sind mehr wert als jede Schätzung aus dem Datenblatt.

3. Sauber hochrechnen

Nimm die gemessenen Kosten pro Vorgang und multipliziere mit dem realistisch erwarteten Volumen — nicht mit dem Wunschvolumen. Rechne die fixen Betriebskosten (Monitoring, Governance, Wartung) obendrauf. Und bei Seat-Modellen: Rechne mit einer realistischen Adoptionsrate, nicht mit hundert Prozent. Die Kosten pro tatsächlich aktivem Nutzer sind die ehrliche Kennzahl.

Fazit

KI-Kosten realistisch zu kalkulieren heißt, hinter den sichtbaren Preis zu schauen. Die Abrechnungsmechanik entscheidet über deine Planbarkeit: Seats sind vorhersehbar, aber du zahlst für Leerlauf; Token sind variabel und explodieren, sobald Agenten und lange Kontexte ins Spiel kommen. Der größere Kostenblock liegt fast immer unter der Wasserlinie — in Integration, Betrieb, Qualitätssicherung und Governance.

Die gute Nachricht: Mit Modell-Routing, Caching, kürzeren Kontexten, Batching und klaren Budget-Limits lässt sich der Token-Verbrauch massiv senken, ohne an Qualität zu verlieren. Und mit einem gemessenen Piloten statt einer geratenen Zahl triffst du die Build-vs-Buy-Entscheidung auf Faktenbasis. Wer so rechnet, wird von der KI-Rechnung nicht überrascht — sondern steuert sie.