Eigene LLM-Hardware oder Cloud? Keine Bauchgefühle. Nur Zahlen.

Es ist ein verführerischer Gedanke: Statt jeden Token in der Cloud zu mieten, kaufst du dir einmal die Hardware und hörst auf, pro Anfrage zu zahlen. Besitzen statt mieten. Fühlt sich nach Kontrolle an, nach Unabhängigkeit, nach gesundem Menschenverstand.

Fühlt sich. Wir rechnen lieber, als zu fühlen. Also: Tabelle auf, Annahmen rein, ehrlich hinschauen.

Hinweis: Alle Preise und Modellangaben unten sind Beispielannahmen (Stand 2026, ein ~31B Open-Weight-Modell auf beiden Seiten, Cloud-Preis ~0,36 $ / 1 Mio. Token über OpenRouter). Deine Zahlen sind andere. Genau dafür gibt es unten den Rechner.

Wichtig: Diese Rechnung vergleicht dasselbe Modell auf beiden Seiten — lokal und in der Cloud. Wer stattdessen ein kleines lokales Modell mit einem deutlich leistungsfähigeren Cloud-Modell vergleicht, vergleicht Äpfel mit Birnen. Das ist eine andere Entscheidung, die andere Zahlen braucht.

Die Rechnung, die jeder gerne aufmacht

Cloud-Seite. Ein ~31B Open-Weight-Modell über OpenRouter, 0,36 $ pro Million Token.

• 8,6 Mio. Token/Tag → 3,10 $/Tag → ca. 2,85 €/Tag
• Monatlich: ~85 €
• Jährlich: ~1.040 €

Hardware-Seite. Dasselbe Modell, lokal auf einer Ryzen-AI-Box mit 128 GB RAM für 3.800 €. Rund 100 Token/Sekunde, macht bei Volllast theoretische 8,64 Mio. Token/Tag.

• Strom (optimistisch geschätzt): 1 €/Tag → 365 €/Jahr
• Ersparnis: 1.040 € − 365 € = 675 €/Jahr
• Amortisation: 3.800 € / 675 € ≈ 5,6 Jahre

Auf dem Papier hat die Hardware gewonnen. In Produktion gewinnt sie selten. Schauen wir, warum.

Wo die Rechnung kippt

Auslastung. 100 % sind Fiktion. Kein Inferenz-Rechner läuft rund um die Uhr am Limit — Wartung, Updates, Leerlauf, Nächte ohne Last. Realistisch sind 50–80 %. Du hast Kapazität für 8,64 Mio. Token bezahlt und nutzt davon vielleicht 5–6 Mio. Der Rest ist abbezahltes Schweigen. Allein das streckt die Amortisation Richtung 10–12 Jahre.

Lebensdauer. Nach 3–5 Jahren ist die Box nicht kaputt, aber alt. Neue Hardware ist dann doppelt so schnell zum halben Preis pro Token. Wer mit 5,6 Jahren Amortisation plant, rechnet mit einer Maschine, die zur Hälfte ihrer Amortisationszeit schon technologisch überholt ist.

Strom. Hier kippt es richtig. 1 €/Tag klingt harmlos — und unterstellt eine durchschnittliche Leistungsaufnahme von rund 140 Watt. Ein 128-GB-Rechner mit AI-Beschleunigung unter Last zieht eher 500–800 Watt. Rechnen wir ehrlich:

0,30 €/kWh × 0,7 kW × 24 h = 5,04 €/Tag ≈ 1.840 €/Jahr

Und jetzt die Ersparnis: 1.040 € (Cloud) − 1.840 € (Strom) = −800 €/Jahr.

Negativ. Der Stromzähler frisst mehr, als die Cloud kostet. Die Box amortisiert sich nicht in 5,6 Jahren — sie amortisiert sich nie. Die 3.800 € Anschaffung musst du da noch gar nicht mitzählen.

Wartung und Drumherum. Kühlung, Lüfter, der gelegentliche Defekt, Optimierungs-Tools, und — der teuerste Posten überhaupt — deine Zeit. Eine Cloud-Rechnung wartet niemand nachts um drei.

Modellwechsel. Wenn du heute auf einem 31B-Modell lokal bist und morgen auf ein besseres Modell wechseln willst, kaufst du neue Hardware oder passt deine Quantisierung an. In der Cloud änderst du einen Parameter in der API-URL — und zahlst dann den neuen Preis. Das ist kein Argument für die Cloud per se, aber ein Flexibilitätsfaktor, der in der reinen Kostenrechnung nicht auftaucht. Achte dabei: mehr Modell bedeutet mehr Kosten auf beiden Seiten.

Skalierbarkeit. Cloud skalierst du mit einem Flag. Hardware skalierst du mit einer Bestellung, einer Lieferzeit und einem neuen Stromvertrag.

Der Stromfall ist der ganze Fall

Wenn dir nur eine Zahl im Kopf bleibt, dann diese: Die komplette „Hardware spart Geld“-These hängt am Strompreis und an der durchschnittlichen Leistungsaufnahme. Die optimistische Variante (1 €/Tag) ist kein Pessimismus-Ausgleich, sie ist schlicht unrealistisch für die Maschine, über die wir reden. Setz reale Watt und reale Cent pro Kilowattstunde ein, und der Business Case dreht sich vom Sparmodell zum Zuschussgeschäft.

Wann sich eigene Hardware trotzdem lohnt

Wir sind Geeks, keine Cloud-Verkäufer. Eigene Hardware ist nicht per se falsch — sie ist nur selten aus Kostengründen richtig. Es gibt gute Gründe:

• Datenhoheit & DSGVO. Wenn Daten das Haus nicht verlassen dürfen, ist „pro Token bei einem US-Anbieter“ keine Option — egal, was es kostet. Manchmal ist die Cloud nicht billiger, sondern schlicht verboten.
• Latenz & Offline. Lokal ist lokal. Wer Millisekunden oder Netzunabhängigkeit braucht, kauft Nähe, nicht Tokens.
• Planbare Fixkosten statt Token-Roulette. Ein Invest steht fest. Eine Cloud-Rechnung skaliert mit der Nutzung — auch nach oben, auch unangenehm.
• Lernen am echten Blech. Wer eigene Modelle betreibt, versteht Inferenz, Quantisierung und Engpässe so, wie es kein Billing-Dashboard je vermittelt.
• Echte Dauerlast plus billiger Strom. Läuft die Box wirklich nahe Volllast rund um die Uhr und hängt an günstigem Strom (eigene PV? Nachttarif?), dreht die Mathematik zurück zu deinen Gunsten.

Unser Fazit

Für die meisten Workloads bei deutschen Strompreisen gewinnt die Cloud auf reine Kosten. Punkt. Kauf eigene Hardware für Datenhoheit, Latenz oder zum Lernen — nicht, um Geld zu sparen, es sei denn, du hast billigen Strom und echte konstante Last.

Und vor allem: Entscheide es nicht aus dem Bauch. Entscheide es mit deinen Zahlen. Die optimistische Rechnung sieht immer gut aus. Die ehrliche sieht oft anders aus. Wir liefern lieber die ehrliche.

Und ja — die Antwort lautet nicht immer 42. Manchmal lautet sie: kommt drauf an. Aber wenigstens rechnest du sie jetzt selbst aus.

Genug geredet. Hier ist der Rechner. Setz deine Zahlen ein.