Wissen · Lokale KI
Gemma 4 31B lokal betreiben: welche Hardware es braucht
Faktencheck: 12. Oktober 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Ollama-Quellen unten
Das dichte Gemma-Spitzenmodell für die eigene Workstation, ab 24 GB VRAM.
Gemma 4 31B ist das grösste dichte Modell der Gemma-4-Familie: 30,7 Milliarden Parameter, Text- und Bildeingabe, 256K Kontext und ein eingebauter Denkmodus. Die Ollama-Standardvariante belegt 19 bis 20 GB. Eine 24-GB-Grafikkarte reicht für kurzen Kontext; 32 bis 48 GB oder ein Apple-Rechner ab 48 GB sind die realistische Auslegung.
Auf einen Blick
Was Gemma 4 31B an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier für dieses eine Modell: Speicher, Anschaffen gegen Mieten, die passenden Anwendungsfälle und die Befehle zum Ausprobieren.
Anschaffen
CHF 2'500–6'500 einmalig, je nach 24- oder 32-GB-GPU bzw. Mac-KonfigurationMieten
CHF 300–450 pro Monat im Dauerbetrieb; zum Testen stundenweisePassende Anwendungsfälle im Rechner
Das gründliche Gemma der oberen Mittelklasse: Die 19- bis 20-GB-Datei passt knapp auf eine 24-GB-Karte; ehrlich ausgelegt sind 32 bis 48 GB oder ein Apple-Rechner ab 48 GB, sobald lange Dokumente oder Bilder dazukommen.
Tempo-Erwartung: Auf einer 24-GB-Karte mit kurzem Kontext ordentlich, spürbar bedächtiger als Gemma 4 26B, weil alle Parameter rechnen. 32 GB geben Luft; auf Apple abhängig von der Speicherbandbreite.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull gemma4:31b ollama run gemma4:31b
Schritt für Schritt mit echten Aufnahmen: Anleitung, Teil 3: Ollama installieren und das erste Modell starten.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026. Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Zum Nachschlagen
Gemma 4 31B: alle Angaben im Detail
Geprüft am 3. September 2026. Kontextlänge, Parallelität, Bilddaten und Quantisierung verändern den tatsächlichen Bedarf; jede Zahl lässt sich gegen die Primärquellen unten prüfen.
| Modellklasse | Obere Mittelklasse (24–35B) · Gemma-4-Familie (Google DeepMind) |
| Parameter | 30,7 Milliarden (dicht) |
| Modelldatei | rund 19 bis 20 GB (Ollama-Standardtag; Q4_K_M 20 GB) |
| Grafikspeicher (VRAM) | 24–48 GB |
| Arbeitsspeicher (RAM) | 32–64 GB |
| Apple (gemeinsamer Speicher) | ab 36 GB knapp, komfortabel 48–64 GB |
| Kontextfenster | bis 256'000 Tokens |
| Lizenz | Apache 2.0, auch kommerziell frei |
| Ollama-Name | gemma4:31b |
Einordnung
Wo Gemma 4 31B zwischen seinen Nachbarn steht
Alle Modellprofile unserer Matrix, vom kleinsten zum grössten. Die Stufe entscheidet über die Hardware, und der ehrliche Weg führt von klein nach gross: erst testen, dann aufrüsten.
Gemma 4 26B — das schnellere MoE-Schwestermodell mit kleinerer Datei
Qwen3.8 27B — dichtes Modell derselben Klasse, zusätzlich mit Videoeingabe
Qwen3 32B — bewährtes reines Textmodell derselben Hardwareklasse
Hardware-Rechner — alle Stufen, Anwendungsfälle und der Umkehr-Modus «Was kann meine Hardware?»
Ehrlich eingeordnet
Wofür Gemma 4 31B taugt, und wo die Grenzen liegen
Wofür es sich lohnt
Gemma 4 31B ist für Aufgaben gedacht, bei denen Gründlichkeit vor Tempo geht: lange Verträge und Berichte auswerten, mehrstufige Analysen, anspruchsvolle Textentwürfe und Agenten, die planen müssen. Gegenüber dem 26B-MoE rechnen hier alle Parameter mit, was bei schwierigen Fragen oft die bessere Antwort bringt.
Wo die Grenzen liegen
Mit 19 bis 20 GB Datei bleibt auf einer 24-GB-Karte wenig Raum für Kontext und Bilder; das 256K-Fenster ist dort kein realistisches Ziel. Audio verarbeitet diese Variante laut Modellkarte nicht. Halluzinationen, Lizenzprüfung der Eingangsdaten und menschliche Freigaben bei externen Aktionen bleiben auch bei guter Modellqualität bestehen. Vor dem Hardwarekauf mit eigenen Dokumenten testen.
Häufige Fragen
FAQ: Gemma 4 31B lokal
Wie viel VRAM braucht Gemma 4 31B?
Die Ollama-Standardvariante belegt 19 bis 20 GB. Für kurzen Kontext reicht eine 24-GB-Grafikkarte; für lange Dokumente, Bilder oder mehrere Nutzer plant man 32 bis 48 GB.
Läuft Gemma 4 31B auf einer RTX 4090?
Ja, mit kurzem bis mittlerem Kontext. Die 24 GB der Karte nehmen die 20-GB-Datei auf, für Kontext bleibt wenig Reserve. Wer regelmässig lange Dokumente einliest, ist mit einer 32-GB-Karte wie der RTX 5090 entspannter.
Läuft Gemma 4 31B auf einem Mac?
Ja. Ab 36 GB gemeinsamem Speicher knapp, sinnvoll sind 48 bis 64 GB. Das Tempo hängt stark von der Speicherbandbreite ab; Max- und Ultra-Chips sind deutlich schneller als Basis- und Pro-Chips.
Gemma 4 31B oder Qwen3.8 27B: welches soll ich nehmen?
Beide gehören zur selben Hardwareklasse und stehen unter Apache 2.0. Qwen3.8 27B ist etwas kleiner und versteht zusätzlich Videos, Gemma 4 31B hat mehr Parameter. Welches an den eigenen Aufgaben besser abschneidet, zeigt nur ein Vergleich mit echten Unterlagen; beide laufen nebeneinander in Ollama.
Darf ich Gemma 4 31B geschäftlich nutzen?
Die Modellkarte nennt Apache 2.0; damit ist die kommerzielle Nutzung grundsätzlich erlaubt. Rechte an Eingabedaten, Datenschutz und die Freigabe externer Ausgaben bleiben Aufgabe des Betriebs.
Primärquellen zum Nachprüfen
- Gemma 4 in der Ollama-Bibliothek: Varianten, Dateigrössen, Kontext und Eingabearten
- Gemma-4-Modellkarte von Google DeepMind: 31B mit 30,7 Milliarden Parametern, Kontext, Modalitäten, Apache 2.0
- Unsere Übersicht aller Modellklassen — verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns
Passt Gemma 4 31B zu Ihrer Aufgabe?
Das klärt kein Datenblatt, sondern ein Test mit Ihren echten Unterlagen. Im kostenlosen Erstgespräch grenzen wir die Aufgabe ab und sagen ehrlich, ob lokale KI der richtige Weg ist, oder ob es eine einfachere Antwort gibt. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.