Die Rechnung sehen, bevor sie eintrifft: Prognose der KI-Ausgaben im Unternehmen

So verwandeln Sie die Kostendaten Ihres KI-Gateways in eine zukunftsorientierte Budgetprognose – inklusive Frühwarnsystem vor Budgetüberschreitungen – unter Verwendung zweier bewährter Zeitreihenmodelle, die vollständig auf TrueFoundry laufen.

Die Tokenmaxxing-Trilogie hat das Argument für die Attribution geliefert: Man kann keine Ausgaben steuern, die man nicht sieht. Die Nachbereitung der Field Notes zum Meta-/Amazon-/Uber-Whipsaw-Effekt argumentierte, dass Attribution allein nur einen Regler statt eines Schalters bietet. Doch ein Regler lässt eine Frage offen: nicht „Wo ist das Geld geblieben?“ – das ist der Rückspiegel –, sondern „Wo fließt es hin?“. Als berichtet wurde, dass Uber sein gesamtes KI-Programmierbudget für 2026 innerhalb von vier Monaten aufgebraucht hatte, lag das Problem nicht darin, dass die Ausgaben unsichtbar waren. Das Problem war, dass niemand eine glaubwürdige Prognose darüber hatte, wann das Budget erschöpft sein würde, bis es bereits zu spät war.

In diesem Beitrag geht es darum, diese Lücke mit einer Prognose zu schließen. Wir begleiten ein fiktives, aber realistisches Unternehmen – Meridian, ein mittelständisches Fintech mit etwa 800 Entwicklern – auf dem Weg von „Wir haben zugeordnete Kostendaten“ zu „Wir haben eine wöchentliche, sich selbst aktualisierende Prognose der Token-Ausgaben pro Team, mit einem realistischen Unsicherheitsbereich und einem Alarm, der auslöst, bevor das Budget gesprengt wird.“ Wir verwenden zwei komplementäre Zeitreihenmodelle, SARIMAX und Prophet, und erstellen, implementieren und trainieren das gesamte System auf TrueFoundry – derselben Plattform, die die Gateway-Kostentelemetrie ausgibt und die ML-Infrastruktur für das Training, die Bereitstellung und das Retraining des Prognosemodells bereitstellt.

Von der Attribution zur Zeitreihe

Alles hier hängt von einer Voraussetzung ab: saubere, zugeordnete Kostendaten mit Zeitstempel. Genau das kann ein gut instrumentiertes KI-Gateway liefern: Kosten auf Anfrageebene – automatisch bepreist nach den veröffentlichten Tarifen der Anbieter – mit den Metadaten, die erforderlich sind, um Ausgaben nach Team, Route, Modell, Kunde oder Kostenstelle zu aggregieren. Wie in der Trilogie und dem Observability-Überblickbeschrieben, gibt jede Anfrage über das Gateway diesen Kostenwert aus, markiert mit Modell, Benutzer und beliebigen Metadaten, und exportiert ihn in Ihr Data Warehouse oder Ihren Observability-Stack. Aggregieren Sie dies zu einer wöchentlichen Summe pro Kostenstelle, und Sie haben den einzigen Input, den ein Prognosemodell benötigt: eine regelmäßige, beschriftete Zeitreihe der Ausgaben.

Die Prognose ist nur so gut wie die zugrunde liegende Disziplin bei der Tagging-Struktur; dieser Schritt ist also operativer, als er auf den ersten Blick scheint. Das Gateway zeichnet getreu alle Metadaten auf, die Ihre Anwendungen senden – was bedeutet, dass die Zeitreihe nur so sauber ist wie diese Instrumentierung. Vor dem Training benötigt ein Team stabile Metadaten-Schlüssel und konsistente Zuordnungen von Teams zu Kostenstellen, eine Möglichkeit, Modellpreise bei Änderungen durch Anbieter aktuell zu halten, sowie eine explizite Richtlinie für schwierige Datensätze: verspätete oder fehlende Daten, Wiederholungsversuche, Fallbacks und zwischengespeicherte Antworten, die wenig oder nichts kosten. Die Normalisierung der Preise, die Deduplizierung und die Angleichung der Zeitstempel an eine einheitliche Zeitzone sind zwar keine glamouröse Arbeit, machen aber den Unterschied zwischen einer echten Prognose und einem nur überzeugend aussehenden Artefakt, das auf Rauschen basiert.

Dennoch ist dies der Teil, den Teams ohne Gateway überhaupt nicht bewältigen können. Wenn Ihre Ausgaben über rohe Anbieterrechnungen verstreut sind, können Sie zwar eine monatliche Gesamtsumme auf Unternehmensebene rekonstruieren, aber Sie erhalten keine saubere wöchentliche Zeitreihe pro Team mit dem dazugehörigen kausalen Kontext – und kontextreiche Zeitreihen pro Team sind es, die eine Prognose nützlich statt nur dekorativ machen. Das Gateway ist nicht nur ein Punkt zur Kostenkontrolle; es ist das Instrument, das die Ausgaben überhaupt erst prognostizierbar macht.

‍

‍