Wissen · Lokale KI
Gemma 4 12B lokal betreiben: welche Hardware es braucht
Faktencheck: 11. Oktober 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Ollama-Quellen unten
Text, Bild und Ton in einem Modell: der multimodale Allrounder ab 12 GB Grafikspeicher.
Gemma 4 12B ist Googles offenes Modell der Mittelklasse und nimmt als einziges dieser Grösse Text, Bilder und Audio entgegen, ohne separate Encoder. Die Ollama-Standardvariante belegt rund 8 GB und bietet 256K Kontext sowie einen eingebauten Denkmodus. Eine 12-GB-Grafikkarte ist der Einstieg; 16 GB oder ein Apple-Rechner ab 24 GB sind für Audio und lange Dokumente die entspanntere Wahl.
Auf einen Blick
Was Gemma 4 12B an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier für dieses eine Modell: Speicher, Anschaffen gegen Mieten, die passenden Anwendungsfälle und die Befehle zum Ausprobieren.
Anschaffen
CHF 1'200–1'800 einmalig, passender PC mit 12- oder 16-GB-KarteMieten
CHF 260–450 pro Monat im Dauerbetrieb; stundenweise deutlich günstigerPassende Anwendungsfälle im Rechner
Das vielseitigste Modell der Mittelklasse: Text, Bilder und Audio in einem Modell bei rund 8 GB Datei. Eine 12-GB-Karte ist der Einstieg, 16 GB die ehrliche Auslegung, sobald Audio oder längere Dokumente dazukommen.
Tempo-Erwartung: Auf einer 12-GB-Karte flüssig, 16 GB geben Luft für Bilder und Audio; auf Apple ab 16 GB brauchbar, ab 24 GB gut.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull gemma4:12b ollama run gemma4:12b
Schritt für Schritt mit echten Aufnahmen: Anleitung, Teil 3: Ollama installieren und das erste Modell starten.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026. Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Zum Nachschlagen
Gemma 4 12B: alle Angaben im Detail
Geprüft am 3. September 2026. Kontextlänge, Parallelität, Bilddaten und Quantisierung verändern den tatsächlichen Bedarf; jede Zahl lässt sich gegen die Primärquellen unten prüfen.
| Modellklasse | Mittel (8–12B) · Gemma-4-Familie (Google DeepMind) |
| Parameter | 11,95 Milliarden (dicht, ohne separate Encoder) |
| Modelldatei | rund 7,7 bis 8,0 GB (Ollama-Standardtag) |
| Grafikspeicher (VRAM) | 12–16 GB |
| Arbeitsspeicher (RAM) | 16–32 GB |
| Apple (gemeinsamer Speicher) | ab 16 GB knapp, komfortabel 24–32 GB |
| Kontextfenster | bis 256'000 Tokens |
| Lizenz | Apache 2.0, auch kommerziell frei |
| Ollama-Name | gemma4:12b |
Einordnung
Wo Gemma 4 12B zwischen seinen Nachbarn steht
Alle Modellprofile unserer Matrix, vom kleinsten zum grössten. Die Stufe entscheidet über die Hardware, und der ehrliche Weg führt von klein nach gross: erst testen, dann aufrüsten.
Qwen3.5 9B — gleiche Klasse, kleinere Datei, Bild und Video statt Audio
Qwen3 14B — bewährtes Textmodell für lange Dokumente
GPT-OSS 20B — agentisch ausgelegt und für 16 GB optimiert
Qwen3.8 27B — die nächste Stufe ab 24 GB Grafikspeicher
Gemma 4 26B — die nächste Gemma-Stufe ab 24 GB, dank MoE trotzdem flott
Hardware-Rechner — alle Stufen, Anwendungsfälle und der Umkehr-Modus «Was kann meine Hardware?»
Ehrlich eingeordnet
Wofür Gemma 4 12B taugt, und wo die Grenzen liegen
Wofür es sich lohnt
Gemma 4 12B passt, wenn Belege, Fotos und Sprachnotizen in einem Werkzeug landen sollen: Dokumente auswerten, Tabellen und Zahlen interpretieren, Besprechungsaufnahmen zusammenfassen, in über 35 Sprachen antworten. Gegenüber Qwen3.5 9B bringt es die Audioeingabe und etwas mehr Parameter mit, braucht dafür einen Schritt mehr Speicher. Für Betriebe, die mit einem einzigen Modell mehrere Eingabearten abdecken wollen, ist es der naheliegende Kandidat.
Wo die Grenzen liegen
Mit rund 8 GB Datei bleibt auf einer 8-GB-Karte kein Platz; 12 GB sind das Minimum, und Audio sowie Bilder belegen zusätzlichen Speicher. Die Audioeingabe ersetzt keine spezialisierte Transkription wie Whisper, wenn es auf wortgetreue Protokolle ankommt. Qualität und Fehlerrate sind am eigenen Material zu prüfen; die 26B- und 31B-Varianten derselben Familie brauchen bereits 24 GB und mehr.
Häufige Fragen
FAQ: Gemma 4 12B lokal
Wie viel VRAM braucht Gemma 4 12B?
Die Ollama-Standardvariante ist rund 8 GB gross. Dazu kommen Kontext, Bild- und Audiodaten; eine 12-GB-Grafikkarte ist deshalb das Minimum für den Alltag, 16 GB geben Reserve für längere Dokumente und Aufnahmen.
Läuft Gemma 4 12B auf einem Mac?
Ja. 16 GB gemeinsamer Speicher sind die knappe Untergrenze, weil macOS und Modell denselben Speicher nutzen; 24 bis 32 GB sind für Bilder und Audio sinnvoller. Das Tempo hängt von der Speicherbandbreite des Chips ab.
Kann Gemma 4 12B Audio verstehen?
Ja. Neben Text und Bildern nimmt die 12B-Variante laut Modellkarte auch Audio als Eingabe an; die grösseren Varianten 26B und 31B nicht. Für wortgetreue Protokolle bleibt ein spezialisiertes Transkriptionsmodell wie Whisper die sicherere Wahl; Gemma eignet sich für Zusammenfassungen und Fragen zur Aufnahme.
Gemma 4 12B oder Qwen3.5 9B: welches soll ich nehmen?
Beide sind multimodale Modelle der Mittelklasse unter Apache 2.0. Qwen3.5 9B ist kleiner, läuft schon auf 8 GB und versteht Bilder und Videos. Gemma 4 12B braucht 12 GB, bringt dafür Audioeingabe und etwas mehr Parameter mit. Die Entscheidung fällt am eigenen Material, am besten mit beiden Modellen nebeneinander in Ollama.
Darf ich Gemma 4 12B geschäftlich nutzen?
Die Modellkarte nennt Apache 2.0; damit ist die kommerzielle Nutzung grundsätzlich erlaubt. Zu prüfen bleiben Rechte an Eingabedaten, der Datenschutz bei Sprachaufnahmen von Personen und die Freigabe externer Ausgaben.
Primärquellen zum Nachprüfen
- Gemma 4 in der Ollama-Bibliothek: Varianten, Dateigrössen, Kontext und Eingabearten
- Gemma-4-Modellkarte von Google DeepMind: Parameter, Kontext, Modalitäten je Variante und Apache-2.0-Lizenz
- Unsere Übersicht aller Modellklassen — verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns
Passt Gemma 4 12B zu Ihrer Aufgabe?
Das klärt kein Datenblatt, sondern ein Test mit Ihren echten Unterlagen. Im kostenlosen Erstgespräch grenzen wir die Aufgabe ab und sagen ehrlich, ob lokale KI der richtige Weg ist, oder ob es eine einfachere Antwort gibt. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.