GPU-Server mieten oder kaufen? Die Zahlen vom Oktober 2026
Für ein eigenes Sprachmodell braucht ein KMU Grafikspeicher: im Büro gekauft oder im Rechenzentrum gemietet. Wir haben im Oktober 2026 Schweizer Händlerpreise und Mietpreise verglichen. Das Ergebnis ist klarer, als viele erwarten.
Wer ein Sprachmodell im eigenen Betrieb nutzen will, braucht vor allem eines: genug Speicher auf einer Grafikkarte. Den kann man kaufen und ins Büro stellen oder bei einem Anbieter mieten. Bis vor kurzem nannten wir auf unserer Website für die Miete je nach Fall CHF 60 bis 400 im Monat. Eine Stichprobe im Oktober 2026 hat gezeigt: Das war zu tief. Hier die Zahlen und was daraus folgt.
Wir haben das im Oktober 2026 selbst gemessen, auf unserem Büroserver mit acht Prozessorkernen, 18 GB Arbeitsspeicher und einer zehn Jahre alten Grafikkarte, die Ollama kaum nutzt. Ein kleines Modell der 4B-Klasse schreibt dort 2 bis 3,5 Tokens pro Sekunde; eine Antwort von 150 Tokens dauert rund eine Minute. Auf einem Laptop mit einer kleinen 4-GB-Grafikkarte lief dasselbe Modell dreimal so schnell, die Antwort kam nach rund 20 Sekunden. Um zu prüfen, ob ein Modell eine Aufgabe überhaupt löst, reicht beides. Für den Alltag mit mehreren Personen reicht keines davon, und genau dort beginnt die Frage nach Miete oder Kauf. Die Messung steht mit Methode im Ollama-Benchmark.
Was eine Grafikkarte heute kostet
Für die meisten Aufgaben im KMU reichen Modelle bis etwa 14 Milliarden Parameter. Sie brauchen 8 bis 16 GB Grafikspeicher. Die Schweizer Preisvergleiche zeigten Mitte Oktober 2026 diese Einstiegspreise für die Karte allein:
- 8 GB (zum Beispiel RTX 5060): ab rund CHF 310 bis 480
- 12 GB (RTX 5070): ab rund CHF 500
- 16 GB (RTX 5060 Ti): ab rund CHF 420 bis 680
Dazu kommt ein passender Rechner. Wir rechnen dafür mit CHF 600 bis 1'000, das ist eine Annahme und kein Angebot. Ein vollständiger Arbeitsplatz für lokale KI liegt damit meist zwischen CHF 1'200 und 2'500.
Teurer wird es ab 24 GB, also für grössere Modelle und Agenten. Eine neue RTX 5090 mit 32 GB kostete allein ab rund CHF 3'500. Gebraucht wurden RTX 3090 mit 24 GB für rund CHF 1'000 bis 1'200 inseriert, ohne Herstellergarantie. Eine Workstation dieser Klasse kostet deshalb zwischen CHF 2'500 mit Gebrauchtkarte und rund CHF 6'000 neu.
Was ein gemieteter GPU-Server kostet
Ein Server mit eigener Grafikkarte im Dauerbetrieb ist deutlich teurer, als oft angenommen. Der deutsche Anbieter Hetzner verlangt für einen Server mit 20 GB Grafikspeicher seit dem 15. Juni 2026 EUR 276.44 im Monat netto, dazu einmalig EUR 135.66 Einrichtung; die Server stehen in Deutschland oder Finnland. Umgerechnet und mit Einrichtung sind das rund CHF 260 bis 300 im Monat. Die nächste Stufe mit 96 GB kostet über EUR 1'400 im Monat.
Günstiger sind GPU-Clouds mit Stundenpreisen. Eine RTX 4090 in garantierter Umgebung kostete dort rund USD 0.74 pro Stunde, rund um die Uhr gemietet etwa USD 530 im Monat. Wer solche Angebote für Kundendaten nutzt, klärt vorher Standort, Vertrag und Zugriff, genau wie bei jedem anderen Anbieter.
Ab wann sich der Kauf rechnet
Die einfache Rechnung: Ein Dauerserver kostet rund CHF 300 im Monat. Eine Anschaffung von CHF 2'500 hat sich damit nach etwa neun Monaten bezahlt gemacht, eine Workstation für CHF 4'500, die Workstation-Stufe unseres Kosten-Rechners, nach etwa 15 Monaten. Dazu kommt Strom: Ein Rechner mit 350 Watt, der rund um die Uhr unter Volllast läuft, braucht bei 28 Rappen pro Kilowattstunde, dem Richtwert aus unserem Kosten-Rechner, rund CHF 70 im Monat. Im Alltag mit Leerlauf ist es deutlich weniger. Selbst im ungünstigsten Fall verschiebt sich die Rechnung nur um wenige Monate. Die Betreuung kommt in beiden Fällen dazu: Updates, Sicherung und ein Blick aufs Protokoll, bei einem einzelnen Rechner realistisch ein bis zwei Stunden im Monat.
Wer ein Modell also dauerhaft und planbar nutzt, fährt mit eigener Hardware meist günstiger. Unser KI-Kosten-Rechner rechnet das mit Ihren eigenen Zahlen nach, auch gegen die Kosten einer Cloud-Schnittstelle.
Wann Miete trotzdem besser ist
Die Monatsmiete verliert im Dauerbetrieb. Trotzdem gibt es gute Gründe, zuerst zu mieten:
- Zum Testen. Ob ein Modell Ihre Aufgabe wirklich löst, zeigt sich erst mit echten Unterlagen. Für einen Test über einige Stunden ist Stundenmiete unschlagbar günstig.
- Für grosse Modelle. Eine Karte mit 80 oder 96 GB kauft man nicht auf Verdacht. Erst mieten, dann entscheiden.
- Bei schwankender Last. Wird das Modell nur an wenigen Tagen im Monat gebraucht, ist Stundenmiete günstiger als jede Anschaffung.
- Wenn niemand die Hardware betreuen kann. Ein eigener Rechner braucht Updates, Sicherungen und jemanden, der sich kümmert.
Und der Datenschutz?
Ein gemieteter Server ist nicht automatisch weniger sicher als ein Rechner im Büro. Entscheidend sind der Standort, der Vertrag mit dem Anbieter und wer Zugriff hat. Bei Personendaten oder Unterlagen unter Berufsgeheimnis sollten diese Punkte vor der ersten Anfrage geklärt sein. Ein Rechner im eigenen Haus macht das einfacher, ersetzt aber weder Zugriffsschutz noch Sicherung.
Unsere Empfehlung
Klären Sie zuerst die Aufgabe, nicht die Hardware. Unser Rechner für lokale KI zeigt, wie viel Speicher Ihr Anwendungsfall braucht. Danach ein Test auf dem vorhandenen Gerät, für grössere Modelle mit gemieteter Rechenleistung. Erst wenn das Modell die Aufgabe nachweislich löst und dauerhaft gebraucht wird, kaufen Sie die passende Hardware. Die Kaufberatung nach Grafikspeicher hilft bei der Wahl, und ob es überhaupt ein PC sein muss, klärt die Kaufberatung Mac.
Quellen und Stand
Die Preise in diesem Beitrag sind eine Stichprobe vom 17. Oktober 2026 aus Schweizer Preisvergleichen und den öffentlichen Preislisten der Anbieter, Hetzner in Euro netto. Sie ändern sich laufend und ersetzen kein Angebot.
