New Horizon No. 233 / 2026-08-21 · Berlin
Interaktiv

Was es kostet

Eigene Hardware oder fremde — kalkuliert mit gemessenem Durchsatz und abgelesener Leistung.

Ein Sprachmodell selbst zu hosten wird meist als die günstige Option verkauft. Ob es das ist, hängt allein vom Volumen ab. Dieser Rechner arbeitet mit Durchsatz und Wandleistung, die wir auf der eigenen Maschine gemessen haben, gegen veröffentlichte Listenpreise gehosteter APIs — und nennt die Seite, die beim eingestellten Volumen tatsächlich günstiger ist.

Beide Seiten rechnen ausschließlich mit Output-Tokens. Gehostete APIs berechnen auch Input-Tokens; die Cloud-Zahl hier ist damit eine Untergrenze, keine vollständige Rechnung.


Wo Ihr Volumen landet

250k Output-Tokens pro Tag
1k100k1M20M
Gehostete API
0
pro Monat, Output-Tokens
Eigene Hardware
0
1 Karte bei 0% Auslastung + Strom
Break-even:
Gehostete API Eigene Hardware Kosten pro Monat · beide Achsen logarithmisch
Annahmen — jede davon änderbar

Dieser Rechner braucht JavaScript. Die Kurzfassung: Zu den Listenpreisen von 2026 schlägt eine Mittelklasse-Karte eine Mittelklasse-API ab etwa 200.000 Output-Tokens pro Tag, ein Spitzenmodell fast sofort — und die günstigsten gehosteten Modelle mit offenen Gewichten preislich nie.

Hosted-Preise sind veröffentlichte Listenpreise repräsentativer Modelle in USD, umgerechnet zu 0.866 €/$ am 2026-08-19. Sie ändern sich; das Feld ist editierbar, ein veralteter Standardwert lässt sich also direkt korrigieren. Strom ist auf das deutsche KMU-Band voreingestellt. Belastet wird nur die Energie, die eine Generierung tatsächlich zieht — der Dauerbetrieb der Maschine ist ein Kostenpunkt des Unternehmens, nicht eines Tokens.


Zahlen aus der eigenen Steckdose

Die lokale Seite dieses Rechners stammt nicht aus einem Datenblatt. Der Durchsatz kommt aus den Token-Zählern des Inferenz-Servers; die Leistungsangabe ist die Differenz zwischen dem Verbrauch im Leerlauf und dem beim Generieren, abgelesen an der USV, die die Maschine versorgt. Alle Werte unten wurden am 2026-08-19 erhoben.

Durchsatz
38.7 t/s
  • 12B-Modell, 3-Bit quantisiert
  • Eine RTX 3060 Ti, 8 GB
  • Spitze 39,5; 3,34 Mio. Tokens pro Karten-Tag
Leistung
+205.2 W
  • Rack im Leerlauf: 102.6 W
  • Rack beim Generieren: 307.8 W
  • Die Karte allein erklärt 176.6 W
Energie pro Million
1.47 kWh
  • Pro 1 Mio. Output-Tokens
  • Zum deutschen KMU-Tarif: €0.40
  • Das sind die gesamten Grenzkosten

Hardware aus dem richtigen Grund kaufen

Aus der Rechnung ergeben sich drei Regime. Gegen die günstigsten gehosteten APIs mit offenen Gewichten amortisiert sich eine Karte wie unsere nicht: Der Strom für eine Million Tokens kostet mehr, als diese Tokens einfach zu kaufen. Gegen ein Mittelklassemodell rechnet es sich ab etwa zweihunderttausend Output-Tokens pro Tag — ein paar hundert Dokumente. Gegen ein Spitzenmodell fast sofort.

Der Spitzenmodell-Fall braucht eine Einschränkung. Ein 12B-Modell auf einer Mittelklassekarte ist kein Spitzenmodell, und eine Tabelle, die beide in dieselbe Spalte stellt, vergleicht zwei verschiedene Produkte auf einer Achse. Belastbar ist der engere Vergleich: Für die hochvolumige Arbeit mit geringer Marge, die ein kleines Modell wirklich erledigt — Klassifikation, Extraktion, erste Zusammenfassungen, Routing — zahlen Sie sonst Spitzenpreise für eine Aufgabe, die das nicht braucht.

Bleiben die zwei Gründe, die die Rechnung überhaupt überleben. Der erste: Nichts verlässt das Haus — kein Prompt, kein Dokument, kein Kundendatensatz. Der zweite: Planbarkeit. Unsere eigene Maschine hielt ihren Durchsatz über alle Läufe auf unter ein Prozent Streuung, während ein gehostetes Spitzenmodell am selben Tag um den Faktor elf schwankte. Keiner der beiden Punkte taucht in irgendeinem Preis pro Million auf.

→ Herausfinden, in welchem Regime Sie sind → Die Geschwindigkeitsseite derselben Maschine


Die KI-News, die zählen — bis 07:30 Uhr MEZ im Postfach. Kostenlos, kein Spam.