Wissen · Lokale KI
KI-Workstation mit 128 GB: Was sich für lokale LLMs 2026 lohnt
Preise und Daten geprüft am 3. September 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Händlerquellen unten
128 GB gemeinsamer Speicher bringen grosse lokale Modelle auf den Schreibtisch. Sie machen ein System aber weder automatisch schnell noch kompatibel.
Diese Kaufberatung vergleicht vier tatsächlich verschiedene Wege: klassische RTX-PCs, AMD Ryzen AI Max, Apple Silicon und NVIDIA GB10. Entscheidend sind Modellgrösse, Speicherbandbreite, Runtime und der Preis des kompletten Systems – nicht eine einzelne TOPS-Zahl.
Die kurze Antwort
Die beste Hardware hängt zuerst vom Modell ab
Bis etwa 27B
Eine einzelne Grafikkarte mit 16 bis 32 GB VRAM ist meist der direkte Weg: ausgereifte CUDA-Unterstützung und hohe Bandbreite. 128 GB sind dafür nicht zwingend nötig.
70B bis 120B ausprobieren
128 GB gemeinsamer Speicher öffnen diese Grössenklasse ohne 80-GB-Profi-GPU. Das ist ein Kapazitätsvorteil, kein pauschales Tempoversprechen.
Leise Arbeitsplatzlösung
Ein grosser Mac bietet breite Softwareunterstützung über Metal, MLX und Ollama. Speicher muss beim Kauf richtig gewählt werden und ist später nicht aufrüstbar.
CUDA auf kleinem Raum
NVIDIA GB10 verbindet 128 GB gemeinsamen Speicher mit CUDA in einem kompakten ARM-Linux-System. Vor dem Kauf muss die konkrete Anwendung auf ARM geprüft werden.
Faustregel: Passt das Modell vollständig in den schnellen Speicher einer RTX-Karte, ist diese oft die leistungsorientierte Wahl. Braucht das Modell mehr als 32 GB, werden 96 bis 128 GB gemeinsamer Speicher interessant.
Vier Hardwarewege
Kapazität, Bandbreite und Software getrennt vergleichen
| Systemklasse | Nutzbarer Speicher | Speicherbandbreite | Softwareweg | Passt typischerweise zu |
|---|---|---|---|---|
| RTX 5090-PC | 32 GB dedizierter VRAM | sehr hoch | CUDA; breite Unterstützung | Modelle bis ungefähr 27B/32B, Bild-KI, hoher Durchsatz |
| Ryzen AI Max+ 395 | 128 GB RAM; unter Windows bis 96 GB als Grafikspeicher zuweisbar | bis 256 GB/s | LM Studio, llama.cpp; Runtime und Treiber prüfen | Grosse quantisierte LLMs auf x86 in einem kompakten Komplettsystem |
| Apple Silicon | je nach Mac-Konfiguration bis in die 128-GB-Klasse und darüber | je nach Chipklasse stark unterschiedlich | Metal, MLX, Ollama | Leiser Arbeitsplatz, Entwicklung, grosse Modelle bei passender Konfiguration |
| NVIDIA GB10 / DGX Spark | 128 GB gemeinsamer Speicher | 273 GB/s laut NVIDIA | CUDA auf Linux/ARM; Container und Pakete prüfen | CUDA-Entwicklung und grosse Modelle in kompakter Form |
„128 GB“ ist zwischen den Plattformen nicht dasselbe: Reserven für Betriebssystem und Laufzeit gehen ab, Bandbreite und Speicherarchitektur unterscheiden sich, und manche Programme unterstützen nur bestimmte GPUs oder Prozessorarchitekturen.
Preisstand 3. September 2026
Was die Hardware aktuell kostet
Die Zahlen sind Momentaufnahmen, keine Preisgarantie. Bei Einzelkarten fehlen Gehäuse, Netzteil, CPU, RAM und Montage; Komplettsysteme sind deshalb nicht direkt mit einem GPU-Preis vergleichbar.
16 GB · Einzelkarte
RTX 5060 Ti
etwa CHF 522 als aktuell gelistetes Beispiel. Sinnvoll für viele 8B- bis 14B-Aufgaben, aber keine 128-GB-Alternative.
32 GB · Einzelkarte
RTX 5090
etwa CHF 4'829 als aktuell gelistetes Beispiel. Sehr schnell für passende Modelle, doch das restliche System kommt hinzu.
128 GB · Komplettsystem
Ryzen AI Max+ 395
etwa CHF 3'159 bis 4'419 für zwei am Stichtag geprüfte Mini-PC-Angebote. Ausstattung, Kühlung, Garantie und Lieferbarkeit unterscheiden sich.
128 GB · Referenzsystem
NVIDIA DGX Spark
USD 4'699 offizieller US-Listenpreis. Für die Schweiz sind Steuer, Import, Verfügbarkeit, Service und CHF-Offerte separat zu prüfen.
Apple · Einstiegspreis
Mac Studio
ab CHF 2'499 im Schweizer Apple Store. Das ist nicht automatisch eine 128-GB-Konfiguration; der nötige Speicherausbau erhöht den Preis.
Vorhandene Hardware
Erst messen
CHF 0 für einen Test, wenn ein geeigneter Rechner vorhanden ist. Ein reproduzierbarer Ollama-Lauf zeigt, ob überhaupt neu gekauft werden muss.
Die wichtigste Unterscheidung
Speichergrösse entscheidet, ob es läuft; Bandbreite, wie es sich anfühlt
Ein quantisiertes 70B-Modell benötigt grob 40 bis 50 GB nur für die Gewichte. Kontext, Zwischenspeicher und Runtime kommen hinzu. Ein Modell der 120B-MoE-Klasse kann rund 65 GB belegen. 96 bis 128 GB schaffen dafür Reserve.
Bei der Ausgabe werden grosse Teile der Modellgewichte fortlaufend durch den Speicher bewegt. Deshalb kann ein System mit 128 GB ein Modell zwar laden, aber deutlich langsamer antworten als eine GPU mit weniger, dafür sehr schnellem VRAM. Für Dokumente zählt zusätzlich das Prompt-Tempo.
Kompatibilität ist eine eigene Achse: In den NVIDIA-SGLang-Release-Notes war am 31. August 2026 ein bekannter Fehler für GPT-OSS auf DGX Spark und Jetson Thor dokumentiert. Das ist kein Beweis gegen die Hardware, aber ein konkreter Grund, Modell und Runtime vor dem Kauf zu testen.
Vor der Bestellung
Sieben Punkte für eine belastbare Offerte
- 01
Aufgabe festlegen
Ein konkretes Dokument, Ausgabeformat und bestanden/nicht bestanden definieren.
- 02
Modell testen
Qualität und Lizenz mit echten Daten prüfen, bevor die Hardware feststeht.
- 03
Speicher rechnen
Modelldatei, Kontext, parallele Nutzer und Reserve gemeinsam einplanen.
- 04
Runtime verifizieren
Ollama, LM Studio, MLX oder benötigte Container genau auf der Zielplattform testen.
- 05
Tempo messen
Prompt- und Ausgabe-Tokens/s sowie Ladezeit mit gleichen Bedingungen protokollieren.
- 06
Komplettpreis rechnen
RAM, SSD, Netzteil, Garantie, Import, Strom und Betreuung einbeziehen.
- 07
Wachstum prüfen
Aufrüstbarkeit, zweiter Nutzer und nächstgrössere Modellklasse berücksichtigen.
Häufige Fragen
FAQ zu 128-GB-KI-Workstations
Welche Modelle laufen mit 128 GB?
Quantisierte Modelle der 70B- und je nach Format auch 120B-Klasse passen mit Reserve. Ob sie in der gewünschten Runtime vollständig beschleunigt laufen, muss getrennt geprüft werden.
Ist eine RTX 5090 oder ein 128-GB-System besser?
Für Modelle, die in 32 GB VRAM passen, ist die RTX 5090 meist auf Leistung ausgerichtet. 128 GB gemeinsamer Speicher tragen grössere Modelle, sind aber nicht automatisch schneller.
Was kostet ein 128-GB-System in der Schweiz?
Zwei geprüfte Ryzen-AI-Max+-Mini-PC-Angebote lagen am 3. September 2026 bei Digitec zwischen CHF 3'159 und CHF 4'419. Andere Plattformen und Ausbauten liegen anders; vergleichen Sie komplette Systeme mit Schweizer Garantie.
Sind NPU-TOPS entscheidend?
Nicht allein. Für grosse LLMs zählen nutzbarer Speicher, Speicherbandbreite und Runtime-Unterstützung oft mehr. Werbetaugliche TOPS-Werte lassen sich nicht direkt in Ollama-Tokens/s umrechnen.
Kaufen oder zuerst mieten?
Ein grosser Einmalauftrag gehört zuerst auf gemietete Hardware. Kauf wird interessant, wenn derselbe geprüfte Ablauf regelmässig läuft, sensible Daten lokal bleiben müssen und die Gesamtkosten über mehrere Jahre günstiger sind.
Primärquellen und Preisbeispiele
- AMD: Ryzen AI Max und LLMs bis 128B – Herstellerangaben zu Speicherzuweisung und Modellklasse
- AMD: Variable Graphics Memory und 256 GB/s
- NVIDIA DGX Spark – 128 GB, 273 GB/s und Produktdaten
- NVIDIA Marketplace: DGX-Spark-Listenpreis
- Apple Schweiz: Mac Studio – aktuelle Konfigurationen und Preise
- Digitec: GMKtec EVO-X2 mit 128 GB – Preisbeispiel CHF 3'159
- Digitec: Beelink GTR9 Pro 395 mit 128 GB – Preisbeispiel CHF 4'419
- Digitec: RTX 5060 Ti mit 16 GB – Preisbeispiel CHF 522
- Digitec: RTX 5090 mit 32 GB – Preisbeispiel CHF 4'829
- NVIDIA SGLang Release Notes – dokumentierter GPT-OSS-Hinweis für DGX Spark
Nicht nach Datenblatt kaufen
Wir testen Modell und Hardwareweg mit Ihrem echten Fall
Sie erhalten eine nachvollziehbare Empfehlung: was laufen muss, welche Plattform es trägt und ob Kauf, Miete oder Cloud wirtschaftlich sinnvoll ist.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.