Cloud oder lokale KI: Ab wann lohnt sich eigene Hardware?

Bei kleinen Volumen fast nie: Wenige tausend mittlere Anfragen im Monat kosten über die API zehn bis dreissig Franken, eigene Hardware kostet allein über die Abschreibung ein Vielfaches davon. Günstiger wird lokal erst bei dauerhaft hohem Volumen, typischerweise ab über zehntausend mittleren Anfragen oder einigen tausend ausgewerteten Dokumenten pro Monat. Der häufigere Grund für lokale KI sind nicht die Kosten, sondern Datenschutz und Unabhängigkeit.

Als Grössenordnung: Ein passender Rechner der Mittelklasse (rund CHF 2'500) kostet über drei Jahre abgeschrieben samt Grundlast etwa CHF 77 im Monat. Gegen eine Mittelklasse-API gerechnet liegt der Break-even bei grob 65 Millionen Tokens pro Monat, das sind rund 3'200 ausgewertete Dokumente oder rund 13'000 mittlere Anfragen. Der Rechner oben rechnet es für Ihre Zahlen aus.

Weniger, als die meisten erwarten: Je nach Auslastung und Modell grob CHF 0.10 bis 1.00 je Million Tokens, dazu im Dauerbetrieb eine Grundlast von wenigen Franken im Monat. Der Kostentreiber bei eigener Hardware ist fast nie der Strom, sondern die Abschreibung der Anschaffung.

Abgerechnet wird je Million Tokens, und die Preise unterscheiden sich je Modellklasse um mehr als den Faktor zehn: Kleine Modelle kosten als Mischpreis grob CHF 0.50 je Million Tokens, die Mittelklasse rund CHF 1.50, die grossen Allrounder rund CHF 3.50, Spitzenmodelle CHF 8.00 und mehr (Stand September 2026). Die Preise ändern sich oft; verlassen Sie sich auf die verlinkten Preisseiten der Anbieter, nicht auf gemerkte Zahlen.

Mieten ist der richtige Einstieg: Ein GPU-Server ist stundenweise oder monatlich verfügbar, damit lässt sich Qualität und Volumen am echten Fall prüfen, bevor Geld gebunden wird. Kaufen lohnt sich bei dauerhaft planbarem Betrieb, denn gegenüber einem Dauer-GPU-Server für rund CHF 300 im Monat hat sich eine Anschaffung von CHF 2'500 bis 4'500 nach etwa 9 bis 15 Monaten bezahlt gemacht (Stand Oktober 2026, Strom und Betreuung nicht eingerechnet). Der Rechner oben hat beide Varianten eingebaut.

Tokens sind die Abrechnungseinheit der Sprachmodelle: ein Wortteil, grob ein Dreiviertelwort im Deutschen. Eine kurze Anfrage samt Antwort liegt bei rund tausend Tokens, eine mittlere bei fünftausend, das Auswerten eines längeren Dokuments bei rund zwanzigtausend. Mit Anfragen mal Umfang wird daraus die Monatsmenge, auf der beide Kostenrechnungen aufsetzen.