KI-Kosten berechnen: Cloud und lokale KI im Vergleich

Der Preis für Token fällt, trotzdem steigen die KI-Rechnungen von Unternehmen weiter. Dieser Widerspruch bringt Verantwortliche dazu, sich näher mit den eigenen KI-Kosten und deren Zusammensetzung zu beschäftigen. Daraus folgt oft die Frage: KI von einem Cloud-Anbieter nutzen oder eine eigene lokale Infrastruktur aufbauen? In diesem Artikel zeigen wir, welche Gesamtkosten (Total Cost of Ownership, kurz TCO) bei beiden Varianten anfallen und welche Fragen zur Entscheidung führen.

Drei Entwicklungen treffen zusammen.

1. Der Verbrauch wächst schneller, als die Preise fallen.
   Moderne Systeme mit mehrstufigem Reasoning, Werkzeugnutzung und Agenten vervielfachen die Token pro Interaktion. Reasoning-Modelle erzeugen vor der Antwort eine interne Denkkette, die typischerweise das Fünf- bis Zwanzigfache der sichtbaren Ausgabe umfasst und wie eine normale Ausgabe abgerechnet wird. Der Preis pro Einheit fällt, aber die Anzahl der Einheiten steigt.
2. Die Flatrate weicht der Abrechnung nach Verbrauch.
   Große Cloud-Anbieter stellen ihre Pauschaltarife auf verbrauchsabhängige Modelle um. Ein Tarif enthält dann ein monatliches Kontingent, alles darüber wird nach Tokenverbrauch abgerechnet. Ab da entscheidet die Intensität der Nutzung über die Rechnungssumme, und diese lässt sich schwer einkalkulieren. Verbrauchsintensive agentische Werkzeuge haben sich beispielsweise schneller verbreitet als erwartet und zu Jahresbudgets geführt, die teils in wenigen Monaten aufgebraucht waren.
3. Anbieter entscheiden, Unternehmen müssen mitziehen.
   Die Preise für Basispläne steigen, und KI-Funktionen werden fest mit eingebunden, beispielsweise ist bei den Microsoft-365-Suiten inzwischen der Copilot Chat Teil des Basisplans. Den KI-Aufschlag zahlen damit auch Organisationen, die die Funktion nicht nutzen. Eine weitere Entwicklung: Modelle werden abgekündigt, teils mit Übergangsfristen von wenigen Wochen, und Prozesse, die darauf aufsetzen, migrieren nach dem Kalender des Anbieters. KI wird zur Infrastrukturfrage mit einem Zeithorizont von mehreren Jahren.

Cloud-KI wird auf zwei Wegen abgerechnet, und beide reagieren anders auf Wachstum. Die Abrechnung über Lizenzen pro Kopf und Monat greift meist bei Assistenz für die Belegschaft, also bei Texterstellung, Recherche oder Korrespondenz. Die Kosten hängen hauptsächlich an der Anzahl der Nutzenden und an der Tarifstufe, kaum an der Intensität der Nutzung.

Nach Verbrauch wird pro Token abgerechnet, etwa bei automatisierten Prozessen wie Dokumentenverarbeitung, Datenextraktion oder interner Suche. Hier hängen die Kosten hauptsächlich an Mengen, Dokumentgrößen und Modellwahl, kaum an der Anzahl der Beschäftigten. Die meisten Unternehmen zahlen beides, den Verbrauch oft zusätzlich zu den Lizenzen. Und darunter liegt eine dritte Schicht, die in keinem Angebot auftaucht.

Die Lizenzschicht

Die Höhe der Lizenzkosten hängt am Preis pro Kopf, an der Tarifstufe und an der Umgebung. Abgerechnet wird monatlich pro Person, meist mit Jahresbindung. Compliance-Anforderungen führen häufig von der Business- in die Enterprise-Stufe, was den Preis für denselben Funktionsumfang mehr als verdoppeln kann. Bei Assistenten innerhalb einer Office-Suite kommt noch deren Basislizenz dazu.

Die Verbrauchsschicht

Bei der Abrechnung nach Verbrauch entscheidet die Modellwahl über die Kosten. Ein Reasoning-Modell im Vollmodus kostet für dieselbe Aufgabe schnell das Zehn- bis Hundertfache eines Standardmodells. Dafür gibt es zwei Gründe: Die Tokenpreise sind höher, und das Modell benötigt vor der Antwort Denk-Token, die abgerechnet werden, ohne sichtbar zu sein. In der Praxis entscheidet über das Modell meist eine Voreinstellung im Code. Neben der Modellwahl bestimmt die Tokenmenge, die durch das Modell läuft, die Höhe der Kosten. Hier zu berücksichtigen: Beim Wechsel vom Pilotbetrieb in die Produktion steigt der Verbrauch um ein Mehrfaches.

Unsichtbare Abrechnungsposten: Die Schicht unter der Wasserlinie

Diese Posten fehlen in der Rechnung über der Wasserlinie, spielen aber eine entscheidende Rolle.

• Einführung
  Ein Rollout für 50 bis 250 Nutzende dauert vier bis acht Wochen und benötigt ein Berechtigungs-Audit und eine Pilotgruppe.
• Schulung
  Artikel 4 der EU-KI-Verordnung gilt bereits. Beruflich nutzende Mitarbeitende brauchen also eine angemessene Schulung.
• Compliance
  Die Bedingungen ändern sich im laufenden Betrieb. Microsoft hat im April 2026 eine Funktion aktiviert, die Copilot-Anfragen bei Lastspitzen außerhalb der EU verarbeitet. Solche Änderungen erzeugen Prüfaufwand, der auf keiner Rechnung steht.
• Administration
  Dazu kommt die laufende Verwaltung von Lizenzen, Rechten, Governance und Vertragsverlängerungen.

Bei lokaler KI sind die Kosten anders verteilt. Der Einstieg ist eine Investition, danach hängen die Kosten am Betrieb statt am Verbrauch. Die Rechnung besteht also aus den folgenden Posten.

Abrechnungsposten 1: Hardware

Lokale KI braucht eigene Server, und deren Anzahl bestimmt die Kosten. Der häufigste Denkfehler dabei: Nutzerzahl mit Serverzahl gleichzusetzen. Von hundert Beschäftigten arbeiten zu Spitzenzeiten meist nur einige Dutzend gleichzeitig mit KI, und ein Server bedient viele Anfragen parallel. Maßgeblich sind also die gleichzeitigen Anfragen und der Speicher der Grafikkarten. Wer keinen Serverraum hat, nutzt KI-Hosting in Deutschland und stellt die Hardware zum Dienstleister.

Abrechnungsposten 2: Betrieb

Betriebskosten umfassen Strom, Kühlung, Notstrom, Wartung und Ersatzteile. Für Wartung und Ersatzteile gilt als Faustregel ein niedriger zweistelliger Prozentwert des Hardwarewerts pro Jahr. Der Open-Source-Stack kostet keine Lizenz. Dafür übernimmt das Unternehmen selbst, was sonst im API-Preis steckt: Updates, Modellpflege, Monitoring, Sicherheit.

Abrechnungsposten 3: Personal

Einmalig fällt Arbeitszeit für das Einführungsprojekt an: Dimensionierung, Installation, Chat-Oberfläche und Anbindung der eigenen Dokumente. Danach kommt der laufende Betrieb dazu, realistisch ein Bruchteil einer Stelle im Haus oder ein Wartungsvertrag mit einem Dienstleister. Eine eigene Fachkraft nur für KI braucht es selten, das ist ein Maßstab aus Großkonzernen. Im Mittelstand genügt meist ein Wartungsvertrag.

Abrechnungsposten 4: Auslastung

Ein Server kostet dasselbe, ob er arbeitet oder wartet. Bei zehn Prozent Last wird jede Anfrage rund zehnmal so teuer wie bei voller Last, weil die ungenutzte Kapazität mitbezahlt wird. Als Untergrenze für den Eigenbetrieb gilt deshalb eine dauerhafte Auslastung von 50 bis 60 Prozent. Ein schwach genutzter Server wird also schnell teuer. Deshalb gehört die Lastanalyse an den Anfang jedes KI-Projekts.

Im ersten Jahr kosten beide Varianten etwa gleich viel. Was auf der einen Seite Hardware und Einführung kostet, kostet auf der anderen Lizenzen, Verbrauch, Rollout und Schulung. Ab dem zweiten Jahr wird der Unterschied sichtbar: Die Cloud läuft weiter als Miete, der eigene Betrieb fällt auf Abschreibung, Strom, Wartung und Personal zurück.

Ab wann Unterschiede sichtbar werden, hängt an vier Größen: der Auslastung der eigenen Hardware, der Zahl der Nutzenden, der nötigen Lizenzstufe und der Menge, die durch die automatisierten Prozesse läuft.

Drei Muster wiederholen sich dabei. Kleine Gruppen, die KI nur als Assistenz nutzen, fahren in der Cloud oft günstiger. Im typischen Mittelstand mit gemischter Nutzung liegen beide Varianten dicht beieinander. Planbare Dauerlast, hohe Dokumentenmengen oder Vorgaben zum Datenstandort sprechen für den Eigenbetrieb oder KI-Hosting in Deutschland. Als Entscheidungsgrundlage folgen zum Abschluss fünf Fragen, mit denen Sie Ihre Situation einordnen können.

Die Reihenfolge ist Absicht. Die erste Frage kann alle anderen überstimmen.

1. Dürfen Ihre Daten das Haus verlassen?
   Die Ausschlussfrage. Berufsgeheimnisse, Verschlusssachen, DSGVO-Vorgaben oder harte Kundenvorgaben entscheiden die Standortfrage vorab, der Rest wird zur Dimensionierung. Bei einem Ja oder einem Teilweise geht es weiter.
2. Wie viele Menschen sollen KI nutzen, und mit welchem Lizenztyp?
   Kleine Personenkreise mit reinem Chatbedarf und ohne Sonderanforderungen sprechen für die Cloud. Ab etwa 50 Nutzenden, oder sobald eine Enterprise-Stufe aus Compliance-Gründen nötig wird, beginnt die Zone, in der das Durchrechnen sinnvoll wird.
3. Wie sieht Ihr Lastprofil aus?
   Planbare Dauerlast gehört auf eigene Hardware. Sporadische Nutzung mit hohen Spitzen und langen Pausen bleibt Cloud-Territorium. Einzelne Anwendungsfälle, die zwingend das stärkste verfügbare Frontier-Modell brauchen, bleiben in der Cloud, unabhängig vom Rest.
4. Was steht schon im Haus?
   Serverraum, IT-Team oder ein fester Dienstleister senken die Einstiegshürde erheblich. Fehlt das, gehört ein Betriebsmodell in die Rechnung: Managed Hosting oder einfaches KI-Hosting in Deutschland bei einem Dienstleister.
5. Reden wir über ein Experiment oder über Infrastruktur?
   Wer noch herausfindet, was KI im eigenen Unternehmen leisten soll, startet in der Cloud. Wer KI als dauerhafte Infrastruktur über drei bis fünf Jahre plant, rechnet wie bei jeder Infrastrukturentscheidung. Eine Einschränkung bleibt: Je tiefer Prozesse in einen Cloud-Anbieter hineingebaut werden, desto teurer wird der spätere Umzug.