Wissen · Lokale KI
Mistral Medium 3.5 lokal betreiben: welche Hardware es braucht
Faktencheck: 13. Oktober 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Ollama-Quellen unten
Europäisches Spitzenmodell für den eigenen Server, mit klaren Lizenzgrenzen.
Mistral Medium 3.5 ist das Flaggschiff von Mistral AI mit offenen Gewichten: ein dichtes Modell mit 128 Milliarden Parametern, das Anweisungen, Schlussfolgern und Programmieren in einem Modell vereint und Text sowie Bilder versteht. Die Ollama-Standardvariante belegt rund 80 GB. Damit gehört es auf einen GPU-Server oder ein System mit mindestens 128 GB gemeinsamem Speicher.
Auf einen Blick
Was Mistral Medium 3.5 an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier für dieses eine Modell: Speicher, Anschaffen gegen Mieten, die passenden Anwendungsfälle und die Befehle zum Ausprobieren.
Anschaffen
ab etwa CHF 5'400 Mac Studio mit 128 GB, knapp; GPU-Workstation deutlich höherMieten
stundenweise GPU-Server mit 2 × 80 GB oder einer 141-GB-KartePassende Anwendungsfälle im Rechner
Das grösste europäische Modell, das sich noch im eigenen Haus betreiben lässt, aber kein Einstieg: 80 GB Datei, dichte Bauweise, Server- oder 128-GB-Klasse. Sinnvoll für Betriebe, die eine Aufgabe nachweislich nicht mit GPT-OSS 120B oder der 30B-Klasse lösen und europäische Herkunft wollen.
Tempo-Erwartung: Langsam im Verhältnis zur Grösse: Als dichtes Modell liest es für jedes Token alle rund 80 GB Gewichte. Auf Systemen mit gemeinsamem Speicher sind deshalb nur einstellige bis niedrige zweistellige Tokens pro Sekunde zu erwarten; Profi-GPUs mit hoher Bandbreite sind deutlich schneller.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull mistral-medium-3.5 ollama run mistral-medium-3.5
Schritt für Schritt mit echten Aufnahmen: Anleitung, Teil 3: Ollama installieren und das erste Modell starten.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026. Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Zum Nachschlagen
Mistral Medium 3.5: alle Angaben im Detail
Geprüft am 3. September 2026. Kontextlänge, Parallelität, Bilddaten und Quantisierung verändern den tatsächlichen Bedarf; jede Zahl lässt sich gegen die Primärquellen unten prüfen.
| Modellklasse | Sehr gross (128B, dicht) · Mistral (Mistral AI, Paris) |
| Parameter | 128 Milliarden (dichtes Modell) |
| Modelldatei | rund 80 GB (Ollama-Standardtag, Q4_K_M); Q8 138 GB |
| Grafikspeicher (VRAM) | 96 GB knapp, besser 2 × 80 GB |
| Arbeitsspeicher (RAM) | 128–192 GB |
| Apple (gemeinsamer Speicher) | ab 128 GB knapp, besser mehr |
| Kontextfenster | bis 256'000 Tokens |
| Lizenz | Modifizierte MIT-Lizenz: kommerziell frei bis 20 Mio. USD Monatsumsatz des Unternehmens, darüber Lizenz bei Mistral AI nötig |
| Ollama-Name | mistral-medium-3.5 |
Einordnung
Wo Mistral Medium 3.5 zwischen seinen Nachbarn steht
Alle Modellprofile unserer Matrix, vom kleinsten zum grössten. Die Stufe entscheidet über die Hardware, und der ehrliche Weg führt von klein nach gross: erst testen, dann aufrüsten.
GPT-OSS 120B — ähnliche Speicherklasse, dank Mixture-of-Experts viel schneller, Apache 2.0
Llama 3.3 70B — dichtes Modell eine Stufe kleiner, ab 64 GB
Devstral Small 2 — der kleine Mistral-Coder für eine 24-GB-Karte
Hardware-Rechner — alle Stufen, Anwendungsfälle und der Umkehr-Modus «Was kann meine Hardware?»
Ehrlich eingeordnet
Wofür Mistral Medium 3.5 taugt, und wo die Grenzen liegen
Wofür es sich lohnt
Mistral Medium 3.5 passt für anspruchsvolle Analysen, lange Dokumente, Agenten und Programmieraufgaben, wenn die Daten im eigenen Haus bleiben müssen und ein europäischer Anbieter gewünscht ist. Laut Modellkarte ersetzt es bei Mistral selbst Medium 3.1 und Magistral im Chat sowie Devstral 2 im Coding-Agenten Vibe. Der Denkaufwand lässt sich je Anfrage einstellen.
Wo die Grenzen liegen
Zuerst die Lizenz: Unternehmen mit mehr als 20 Millionen US-Dollar weltweitem Monatsumsatz brauchen eine Lizenz von Mistral AI. Für die meisten Schweizer KMU ist das kein Hindernis, prüfen muss man es trotzdem. Technisch ist die dichte Bauweise teuer: 80 GB Datei passen nicht auf eine einzelne 80-GB-Karte, und auf gemeinsamem Speicher bleibt das Tempo bescheiden. macOS gibt der Grafik standardmässig nicht den ganzen Speicher frei; ein 128-GB-Mac ist darum die knappe Untergrenze. Mixture-of-Experts-Modelle wie GPT-OSS 120B sind bei ähnlichem Speicher deutlich schneller.
Häufige Fragen
FAQ: Mistral Medium 3.5 lokal
Wie viel Speicher braucht Mistral Medium 3.5?
Die Ollama-Standardvariante belegt rund 80 GB, die Q8-Variante 138 GB. Eine einzelne 80-GB-Karte reicht deshalb nicht; eine 96-GB-Profikarte ist knapp, zwei 80-GB-Karten oder eine 141-GB-Karte sind die entspannte Auslegung. Auf Apple-Rechnern sind 128 GB gemeinsamer Speicher die Untergrenze.
Darf ich Mistral Medium 3.5 geschäftlich nutzen?
Ja, mit einer Grenze: Die modifizierte MIT-Lizenz erlaubt die kommerzielle Nutzung, solange der weltweite konsolidierte Monatsumsatz des Unternehmens im Vormonat 20 Millionen US-Dollar nicht übersteigt. Darüber ist eine Lizenz bei Mistral AI nötig oder die Nutzung über deren Dienste.
Mistral Medium 3.5 oder GPT-OSS 120B?
GPT-OSS 120B ist ein Mixture-of-Experts-Modell, passt auf eine 80-GB-Karte und antwortet deutlich schneller. Mistral Medium 3.5 ist dicht, braucht mehr Speicher und Rechenleistung, kommt aber von einem europäischen Anbieter und versteht Bilder. Welches für die eigene Aufgabe besser ist, zeigt nur ein Test, am besten zuerst auf einem gemieteten Server.
Läuft Mistral Medium 3.5 auf einem Mac?
Ab 128 GB gemeinsamem Speicher grundsätzlich ja, aber knapp, weil macOS der Grafik standardmässig nicht den ganzen Speicher überlässt. Mehr Speicher gibt Luft für Kontext. Wegen der dichten Bauweise bleibt das Tempo auf Apple-Chips bescheiden.
Primärquellen zum Nachprüfen
- Mistral Medium 3.5 in der Ollama-Bibliothek: Varianten, Dateigrössen, Kontext
- Modellkarte von Mistral AI: dichtes 128B-Modell, 256K Kontext, Text und Bild
- Lizenztext: modifizierte MIT-Lizenz mit Umsatzgrenze von 20 Mio. USD pro Monat
- Unsere Übersicht aller Modellklassen — verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns
Passt Mistral Medium 3.5 zu Ihrer Aufgabe?
Das klärt kein Datenblatt, sondern ein Test mit Ihren echten Unterlagen. Im kostenlosen Erstgespräch grenzen wir die Aufgabe ab und sagen ehrlich, ob lokale KI der richtige Weg ist, oder ob es eine einfachere Antwort gibt. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.