Wissen · Lokale KI
Lokale KI im KMU: Welche Hardware braucht ein eigenes LLM?
Neu: KI-Betriebswege und Kosten vergleichen · Quellenbasierte Planung mit eigenen Annahmen für 12, 24 und 36 Monate.
Lokale Verarbeitung kann Ihre Daten im Betrieb halten. Die Frage ist nur, was dafür im Serverraum stehen muss.
Sprachmodelle lassen sich auf eigener Hardware betreiben, ohne dass ein einziges Dokument den Betrieb verlässt. Der Rechner unten zeigt, wie viel Speicher ein Modell je nach Grösse, Quantisierung und Kontextfenster braucht, und was für Hardware dazu passt. Gerechnet wird im Browser, nichts wird übertragen.
Warum lokal?
Wann sich ein eigenes Sprachmodell lohnt, und wann nicht
Lokale KI ist kein Selbstzweck. Sie lohnt sich, wenn mindestens einer dieser Gründe zutrifft, und sonst meist nicht.
Datenschutz und Berufsgeheimnis
Kundendossiers, Personalakten, Patientendaten, Mandate: Was dem Datenschutzgesetz oder einem Berufsgeheimnis unterliegt, gehört nicht ungeprüft in die Cloud eines Drittanbieters. Ein lokal eingerichteter Datenweg kann die Übermittlung an Modellanbieter vermeiden. Oberfläche, Schnittstellen, Fernzugriff und Sicherungen müssen dazu ebenfalls passen.
Unabhängigkeit
Cloud-Anbieter ändern Preise, Limiten und Modelle nach ihrem Kalender, nicht nach Ihrem. Ein lokales Modell läuft so lange, wie Sie es wollen, im Zustand, den Sie geprüft haben.
Planbare Kosten bei hohem Volumen
Wer täglich tausende Dokumente durch ein Modell schickt, zahlt in der Cloud pro Anfrage. Lokal zahlt man die Hardware einmal. Ab welchem Volumen das kippt, ist eine Rechenaufgabe, keine Glaubensfrage. Genau die rechnet unser Kosten-Rechner Cloud oder lokal.
Und wann die Cloud besser ist
Wenn Sie Spitzenqualität für anspruchsvolle Aufgaben brauchen, selten anfragen oder niemand die Hardware betreuen soll, ist ein Cloud-Modell die einfachere und oft bessere Wahl. Das sagen wir auch so im Gespräch.
Der Rechner
Was wollen Sie lokal machen?
Anwendungsfall wählen, Antwort bekommen: welche Modellklasse dafür taugt, wie viel Speicher es braucht und was für Hardware das heisst. Die Werte sind Richtwerte und ehrlich eingeordnet, auch dort, wo die ehrliche Antwort «lieber Cloud» lautet. Gerechnet wird vollständig in Ihrem Browser. Wer lieber selbst konfiguriert: Expertenmodus darunter.
Jeder Fall hat eine eigene Vertiefungsseite mit Einsatzbeispielen, Weg und FAQ: Texte & Chat, Transkription, Bilder, Dokumente auswerten, interne Suche, Excel & Auswertungen, Programmieren, KI-Agenten und Video.
Zuletzt aktualisiert am 13. Oktober 2026 · Pflege im Quartalsrhythmus. Die Einstufungen stammen aus unserer internen Ollama-Hardware-Matrix, und die ist kein Rechercheprodukt für diese Seite: Wir führen sie für die eigene Entwicklungsarbeit an KI-Agenten und teilen hier, womit wir selbst planen.
Anwendungsfall, aufsteigend nach Anforderung
Anschaffen
CHF 1'500–2'500 einmalig, passender PCMieten
CHF 260–450 pro Monat im Dauerbetrieb; stundenweise deutlich günstigerWomit Sie starten können
Tempo-Erwartung:
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
Die Einstufungen folgen unserer internen Ollama-Hardware-Matrix (Q4-Planungswerte; Zahlenbasis September 2026, keine neue Messung, Qwen3.5, Gemma 4, Mistral und Qwen3-Coder im Oktober 2026 aus der Ollama-Bibliothek ergänzt). Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Die Modelle laufen z. B. über das freie Werkzeug Ollama; «14b» im Namen heisst 14 Milliarden Parameter, grob gesagt die Grösse des Modell-Gehirns. Die CHF-Spannen sind Planungswerte, am 17.10.2026 stichprobenartig gegen Schweizer Händlerpreise für Grafikkarten sowie Mietpreise eines EU-Anbieters und einer GPU-Cloud geprüft; keine Offerten. Vor einem Kauf oder Mietentscheid konkrete Angebote einholen.
Was steht bei Ihnen?
Läuft gut
Eingeschränkt oder gar nicht
Expertenmodus: Modell, Quantisierung und Kontext selbst konfigurieren
Der Regler «gleichzeitig arbeitende Personen» rechnet den Kontextspeicher je Person hoch, genau das ist der Mehrbedarf im Teambetrieb; das Antworttempo teilen sich die Personen zusätzlich. Ohne passende Grafikkarte läuft das Modell über den Hauptspeicher, deutlich langsamer; auf Apple-Rechnern zählt der gemeinsame Speicher.
Mit uns umsetzen
Was wir für Sie übernehmen
Der Rechner sagt, was nötig ist. Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch und Ihr aktuelles Rechnerergebnis ins Anfrageformular unten. Sie können beides dort ändern.
Zum Weitergeben
Den Rechner auf Ihrer eigenen Seite zeigen
Schule, Blog, Intranet, Lieferantenseite: Der Rechner lässt sich kostenlos einbetten und bleibt dabei auf unserem Stand, inklusive der Quartalspflege. Eine Zeile HTML genügt; der Verweis auf die Quelle gehört dazu.
<iframe src="https://www.bidoli-it.ch/llm-rechner-einbetten.php" title="Lokale KI: Hardware-Rechner von Bidoli IT-Services" width="100%" height="900" style="border:0;max-width:960px" loading="lazy"></iframe>Die eingebettete Fassung lädt keine Messwerkzeuge und setzt keine Cookies; sie zeigt nur den Rechner und den Hinweis auf die Quelle. Fragen zur Einbettung oder Wunsch nach einer angepassten Fassung: Kontakt.
Zum Nachschlagen
Modellgrössen und Hardware im Überblick
Die Stufen unserer Ollama-Hardware-Matrix als Übersicht: welche Modellklasse wie viel Grafikspeicher (VRAM) und Arbeitsspeicher braucht und wofür sie im Betrieb taugt. Q4-Planungswerte; Zahlenbasis September 2026, keine neue Messung, Qwen3.5, Gemma 4, Mistral und Qwen3-Coder im Oktober 2026 aus der Ollama-Bibliothek ergänzt; Kontextlänge, Parallelität und Quantisierung verändern den tatsächlichen Bedarf.
Auf schmalen Bildschirmen lässt sich die Tabelle seitlich verschieben. Mit der Tastatur: die Tabelle mit Tab auswählen, dann die Pfeiltasten nach links und rechts verwenden.
| Stufe | Typische Modelle | Modelldatei | VRAM / gemeinsamer Speicher | System-RAM | Wofür es reicht |
|---|---|---|---|---|---|
| Winzig (unter 2B) | Qwen3 0.6B–1.7B | 0,5–1,4 GB | bis 4 GB | 8–16 GB | Stichworte erkennen, einfache Zuordnungen. Kein echter Assistent. |
| Klein (4B) | Qwen3 4B, Qwen3.5 4B | 2,5–4,0 GB | 4–8 GB | 16 GB | Zusammenfassen, Umformulieren, einfacher Dokumenten-Chat. Läuft zur Not auch ohne Grafikkarte. Qwen3.5 4B liest zusätzlich Bilder. |
| Mittel (8–12B) | Qwen3 8B, Qwen3.5 9B, Gemma 4 12B | 5–8 GB | 8–16 GB | 16–32 GB | Alltagstexte, interne Suche und einfache Dokumentenfragen. Qwen3.5 9B und Gemma 4 12B lesen zusätzlich Bilder, Gemma 4 12B auch Audio; Qwen3 8B ist ein reines Textmodell und braucht für Scans und Fotos eine separate Texterkennung. |
| Gehoben (14–20B) | Qwen3 14B, GPT-OSS 20B | 9–14 GB | 12–24 GB | 32 GB | Dokumente auswerten, mehrstufige Analysen, E-Mail- und Dokumentenagenten. Der Bereich, in dem die meisten KMU-Aufgaben landen. |
| Obere Mittelklasse (24–35B) | Qwen3 32B, Qwen3.8 27B, Gemma 4 26B, Gemma 4 31B, Devstral Small 2, Qwen3-Coder 30B | 15–24 GB | 24–48 GB | 32–64 GB | Planung, Werkzeug-Auswahl, anspruchsvollere Agenten, längere Arbeitsketten. Devstral Small 2 und Qwen3-Coder 30B sind auf Programmieren und Coding-Agenten ausgelegt. |
| Gross (70–80B) | Llama 3.3 70B | 43–52 GB | 64–80 GB | 64–96 GB | Grosse Referenzklasse für anspruchsvolle Aufgaben; Qualität am Einsatzfall prüfen. |
| High-End (120B, MoE) | GPT-OSS 120B | 65 GB | 80 GB | 96–128 GB | Professionelle On-Prem-Klasse, läuft auf einer einzelnen 80-GB-Karte. Für die meisten KMU der übernächste Schritt. |
| Sehr gross (128B, dicht) | Mistral Medium 3.5 | 80 GB | 96–160 GB | 128–192 GB | Grösstes Modell eines europäischen Anbieters in dieser Liste. Dicht und darum langsamer als GPT-OSS 120B; Lizenz mit Umsatzgrenze. |
Modellabgrenzung, geprüft am 21. September 2026: Der Expertenrechner verwendet Qwen3 4B/8B/14B/32B und Llama 3.3 70B als feste Referenzmodelle. Neuere Familien wie Qwen3.8 und Gemma 4 haben andere Architektur- und Speichermerkmale und sind nicht in dieser Formel abgebildet. Effektive oder aktive Parameter sind nicht mit sämtlichen zu ladenden Gewichten gleichzusetzen. Die Modellbeispiele sind keine Bestenliste. Dateigrössen und Laufzeitbedarf hängen von der konkreten Variante ab. Ergänzt am 11. und 12. Oktober 2026: Qwen3.5 4B/9B, Gemma 4 12B/26B/31B und Qwen3.8 27B stehen mit eigenen Profilen in der Tabelle; Gemma 4 26B ist ein Mixture-of-Experts-Modell, bei dem nur ein Teil der Parameter rechnet, geladen werden aber alle; ihre Dateigrössen stammen aus der Ollama-Bibliothek. Ergänzt am 13. Oktober 2026: Devstral Small 2 und Qwen3-Coder 30B für das Programmieren sowie Mistral Medium 3.5 als grosses Modell eines europäischen Anbieters; Dateigrössen aus der Ollama-Bibliothek, Parameter und Lizenzen aus den Modellkarten. Die Formel des Expertenrechners und ihre Referenzmodelle bleiben unverändert.
Darüber beginnt Rechenzentrums-Territorium (235B+, mehrere hundert GB Speicher), wirtschaftlich für KMU kaum je der richtige erste Schritt. Welche Stufe zu Ihrer Aufgabe passt, zeigt der Rechner oben. Jedes verlinkte Modell hat ein eigenes Profil mit allen Zahlen, ehrlicher Einordnung und den Befehlen zum Ausprobieren.
Ehrlich eingeordnet
Was die Zahlen bedeuten, und was sie nicht sagen
Grösser ist nicht automatisch besser
Für die meisten abgegrenzten KMU-Aufgaben, etwa Dokumente zusammenfassen, Belege auslesen, interne Suche oder Textentwürfe, reicht ein Modell mit 7 bis 14 Milliarden Parametern auf handelsüblicher Hardware. Die grossen 70er-Modelle lohnen sich erst, wenn die kleinen an Ihren echten Aufgaben nachweislich scheitern. Genau das prüft man vorher, mit Ihren Unterlagen, nicht mit einem Datenblatt.
Speicher ist nur die halbe Wahrheit
Der Rechner beantwortet, ob ein Modell in den Speicher passt. Wie schnell es antwortet, hängt zusätzlich von Speicherbandbreite und Auslastung ab, und ob die Qualität für Ihre Aufgabe reicht, zeigt nur ein Test. Beides gehört in die Analyse, bevor Hardware gekauft wird: erst messen, dann investieren.
Zum ersten Mal?
Vom Zweifel zum laufenden System: der sichere Weg
Niemand muss für lokale KI zuerst Geld ausgeben. Die ersten drei Schritte kosten nichts ausser etwas Zeit, und erst danach fällt eine Kaufentscheidung, dann aber auf Grundlage eigener Erfahrung statt fremder Versprechen.
-
Gratis anfangen, auf dem Rechner, den Sie haben
Ollama installieren, ein kleines Modell laden (die Befehle stehen oben im Rechner), losfragen. Selbst ein Büro-Laptop schafft die kleinen Modelle, langsam, aber echt.
-
Mit echten Aufgaben testen, nicht mit Spielereien
Wählen Sie eine konkrete Aufgabe aus Ihrem Betrieb: Dokumente mit KI auswerten oder Firmenwissen mit interner KI-Suche finden. Die Anleitungen zeigen, was dafür zusätzlich zum passenden Rechner nötig ist. Testen Sie mit geeigneten Unterlagen und prüfen Sie den eingerichteten Datenweg, bevor Sie vertrauliche Daten verwenden.
-
Ehrlich bewerten
Reicht die Qualität für die Aufgabe? Reicht das Tempo? Wenn nein: eine Modellstufe höher testen, notfalls für ein paar Franken stundenweise auf einem Mietserver, bevor irgendetwas gekauft wird.
-
Erst jetzt über Hardware entscheiden
Kaufen oder mieten, und in welcher Stufe: Das beantwortet der Rechner oben, und Ihre Tests aus Schritt 2 und 3 sagen Ihnen, ob die Antwort stimmt.
-
Produktiv machen, mit Absicherung
Zugriffe, Sicherungen, Freigaben für alles, was nach aussen wirkt: Ab hier ist es Projektarbeit. Das kostenlose Erstgespräch klärt, ob sie sich bei Ihnen lohnt, auch hier zuerst ehrlich, dann verbindlich.
Lernen und nachprüfen
Die Begriffe, kurz erklärt, und die Quellen zum Nachprüfen
Verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns. Hier sind die Begriffe, die Ihnen überall begegnen werden, und die Primärquellen, gegen die Sie jede Zahl dieser Seite prüfen können.
- Parameter (B)
- Die «Gehirngrösse» eines Modells, in Milliarden (englisch billions, daher das B). Mehr Parameter heisst mehr Können und mehr Speicherbedarf, aber nicht automatisch bessere Antworten für Ihre Aufgabe.
- Quantisierung (Q4, Q8)
- Verlustbehaftetes Verkleinern eines Modells, damit es in weniger Speicher passt. Q4 ist der übliche Kompromiss: rund ein Viertel der Originalgrösse bei geringem Qualitätsverlust.
- VRAM
- Der Speicher der Grafikkarte. Er entscheidet, welche Modelle flüssig laufen, und ist die wichtigste Zahl beim Hardware-Kauf.
- Gemeinsamer Speicher (Unified Memory)
- Bei Apple-Rechnern teilen sich System und Grafikeinheit denselben Speicher. Darum zählt dort die RAM-Angabe, und darum sind Macs für lokale KI oft erstaunlich brauchbar.
- Token und Kontextfenster
- Modelle lesen Text in Stücken (Tokens, grob ein Wortteil). Das Kontextfenster ist, wie viel das Modell gleichzeitig «im Kopf behalten» kann; lange Dokumente brauchen ein grosses Fenster, und das kostet Speicher.
- GGUF
- Das übliche Dateiformat für lokale Modelle. Die Dateigrössen in unserer Tabelle sind die offiziellen GGUF-Grössen der Ollama-Bibliothek.
- MoE (Mixture of Experts)
- Bauweise, bei der je Anfrage nur ein Teil des Modells aktiv rechnet (etwa GPT-OSS: 21B gesamt, 3,6B aktiv). Dadurch laufen erstaunlich grosse Modelle auf erstaunlich wenig Speicher.
- Interne Suche (RAG)
- Das Modell bekommt beim Antworten Zugriff auf Ihre Dokumente und zitiert daraus, ohne verändert zu werden. Für die meisten Firmenwissen-Fragen die richtige Technik, nicht das Training.
- Ollama
- Freies Werkzeug, das lokale Modelle mit einem Befehl lädt und startet. Der einfachste Einstieg, auf Windows, Mac und Linux; unsere Einstiegsseite erklärt ihn auf Deutsch.
- Halluzination
- Modelle formulieren auch dann überzeugend, wenn sie falsch liegen. Deshalb gehören Quellenangaben (interne Suche) und menschliche Freigaben zu jedem ernsthaften Aufbau.
Primärquellen unserer Werte
- Ollama-Modellbibliothek — die offiziellen Dateigrössen und Varianten jedes Modells; unsere Tabelle stützt sich darauf
- Qwen (Alibaba, GitHub) — Veröffentlichungen und Lizenz der Qwen3-Familie
- GPT-OSS auf Hugging Face — OpenAIs offene Modelle samt Speicherangaben
- Meta Llama 3.3 — offizielle Modellkarte und Lizenzbedingungen
Die Werkzeuge
Primärquellen zur Einordnung: Ollama: lokale und Cloud-Funktionen, Qwen3-14B-Modellkarte, FLUX.1-dev-Lizenz und EDÖB: KI und Datenschutz. Gelesen am 21.09.2026.
- Ollama — Sprachmodelle lokal, der einfachste Einstieg
- whisper.cpp — Transkription lokal, auch auf CPU und Mac
- ComfyUI — Bild- und Videomodelle lokal
- Hugging Face — das Archiv der offenen Modelle
Unabhängig weiterlesen
- r/LocalLLaMA — die grösste Community für lokale Modelle (englisch); dort sehen Sie, was andere mit derselben Hardware erleben
- Unser Beitrag: Lokale KI im KMU — was sie kann, was sie kostet, wann sie sich lohnt, samt der Rechnung, die bei uns selbst gegen lokal ausging
- Unser Beitrag: Wie lange kann ein KI-Agent alleine arbeiten? — wo Freigaben hingehören
- Unser Beitrag: Wann sich Automatisierung nicht lohnt — dieselbe Ehrlichkeit, anderes Thema
Häufige Fragen
FAQ: Lokale KI im KMU
Ist ein lokales Sprachmodell so gut wie ChatGPT?
Das hängt von Modell, Aufgabe und eingesetzten Werkzeugen ab. Ein lokales Modell kann für Dokumentenauswertung, interne Suche oder Textentwürfe ausreichen. Anspruchsvolle Aufgaben können andere Modelle oder mehr Rechenleistung erfordern. Vergleichen Sie Qualität, Fehlerfälle und Antwortzeit anhand repräsentativer Unterlagen; eine pauschale Rangfolge zwischen lokal und Cloud hilft dabei nicht.
Warum sollte ein KMU ein Sprachmodell lokal betreiben?
Der häufigste Grund ist Datenschutz: Kundendaten, Personaldaten oder Unterlagen unter Berufsgeheimnis sollen keine Cloud eines Drittanbieters passieren. Dazu kommen Unabhängigkeit von Preis- und Produktänderungen der Anbieter und planbare Kosten, weil nach der Anschaffung keine Gebühren pro Anfrage anfallen. Wer keine dieser Anforderungen hat, fährt mit einem Cloud-Modell meist einfacher.
Brauche ich zwingend eine Grafikkarte?
Nein. Kleinere Modelle laufen auch über den Hauptspeicher, auf gewöhnlichen Rechnern über die CPU und besonders gut auf Apple-Rechnern, deren Speicher von der Grafikeinheit mitbenutzt wird. Dann zählt RAM statt Grafikspeicher, die Antworten kommen aber deutlich langsamer. Für den produktiven Einsatz mit mehreren Nutzern führt an einer Grafikkarte mit genug Speicher selten ein Weg vorbei.
Darf ich offene Modelle geschäftlich nutzen?
Die Lizenz des konkreten Modells und der verwendeten Variante ist entscheidend. Qwen3 14B steht beispielsweise unter Apache 2.0, Llama 3.3 unter einer eigenen Community-Lizenz. FLUX.1 dev hat eine Non-Commercial-Lizenz; die geschäftliche Verwendung des Modells darf nicht aus dem kostenlosen Download abgeleitet werden. Modellbetrieb und Nutzung erzeugter Bilder sind gesondert zu prüfen.
Kann ich ChatGPT lokal auf meinem Rechner betreiben?
Ein lokales Modell ist kein lokal installiertes ChatGPT. Beispiele für herunterladbare Modelle sind Qwen3 und Llama, etwa mit Ollama als Laufzeit. Welche Aufgabe damit gelingt, muss am konkreten Modell geprüft werden. Auch lokal installierte Werkzeuge können Cloud-Funktionen verwenden; entscheidend ist der tatsächlich eingerichtete Datenweg. Mehr dazu auf der Seite zur lokalen ChatGPT-Alternative.
Welche Grafikkarte brauche ich für Ollama?
Für den Einstieg mit Modellen bis 8 Milliarden Parametern reicht eine Karte mit 8 GB Grafikspeicher (z. B. RTX-4060-Klasse). Komfortabel für die meisten KMU-Aufgaben sind 12 bis 16 GB, für grössere Modelle und Agenten 24 GB. Apple-Rechner nutzen ihren gemeinsamen Speicher, dort gilt: ab 16 GB Einstieg, ab 32 GB komfortabel. Die Übersichtstabelle auf dieser Seite ordnet alle Stufen ein. Die Kaufberatung nach VRAM-Klassen vertieft die Hardwarewahl.
Reicht mein Laptop für lokale KI?
Für kleine Modelle (bis 8 Milliarden Parameter) meist ja: Sie laufen über den Hauptspeicher auch ohne dedizierte Grafikkarte, spürbar langsamer. Apple-Laptops ab 16 GB Speicher sind dabei erstaunlich brauchbar. Für den produktiven Dauereinsatz oder grössere Modelle führt an einem Rechner mit richtiger Grafikkarte oder einem gemieteten GPU-Server kaum ein Weg vorbei. Die Mac-Kaufberatung ordnet die Speicherklassen ein.
Wie schnell ist lokale KI?
Das hängt von Modellarchitektur, Quantisierung, Kontextlänge, Hardware und gleichzeitiger Nutzung ab. Der Rechner schätzt Speicher, keine Antwortgeschwindigkeit. Messen Sie Zeit bis zur ersten Antwort und Bearbeitungszeit an Ihrer Aufgabe, bevor Sie Hardware anschaffen.
Kann die KI mit meinen Firmendaten trainiert werden?
Meistens ist das die falsche Frage: Was die meisten Betriebe wollen, ist keine Nachschulung des Modells (Feintuning), sondern interne Suche: Das Modell bekommt beim Antworten Zugriff auf Ihre Dokumente und zitiert daraus, ohne dass es verändert wird. Das ist günstiger, aktueller und jederzeit rückbaubar. Echtes Feintuning lohnt sich nur in Spezialfällen, etwa für einen festen Schreibstil oder Fachjargon in grossem Volumen.
Wie gut ist lokale KI auf Deutsch?
Die hier aufgeführten Modellfamilien unterstützen mehrsprachige Aufgaben. Ob Zusammenfassungen, Belegfelder und Schweizer Fachbegriffe ausreichend richtig verarbeitet werden, ist anhand Ihrer Texte zu prüfen. Sprachlich überzeugende Antworten können sachlich falsch sein; feste Prüfkriterien bleiben notwendig.
Braucht lokale KI eine Internetverbindung?
Heruntergeladene Modelle können mit einer dafür eingerichteten lokalen Laufzeit offline arbeiten. Cloud-Modelle, Websuche, externe Schnittstellen und manche Zusatzfunktionen benötigen weiterhin eine Verbindung. Bei Ollama lassen sich Cloud-Funktionen deaktivieren. Prüfen Sie zusätzlich die verwendete Oberfläche, Erweiterungen und ausgehende Verbindungen.
Ist lokale KI datenschutzkonform (nDSG/DSGVO)?
Lokaler Betrieb allein belegt keine Datenschutzkonformität. Er kann Übermittlungen an Modellanbieter vermeiden, wenn auch Oberfläche, Schnittstellen, Fernzugriff und Sicherungen entsprechend eingerichtet sind. Das Datenschutzgesetz gilt weiterhin für die Bearbeitung von Personendaten. Datenwege, Zugriffsschutz und die Anforderungen des konkreten Einsatzes sind im Projekt zu prüfen.
Ihre Frage ist nicht dabei?
Stellen Sie sie uns. Sie bekommen die Antwort persönlich, und die Frage macht diese Seite besser.
Ihre Daten
Welche Unterlagen dürfen bei Ihnen das Haus nicht verlassen?
Im kostenlosen Erstgespräch klären wir, ob lokale KI für Ihren Fall die richtige Antwort ist, oder ob es eine einfachere gibt. Wenn ja, folgt die Analyse zum Festpreis: Aufgabe abgrenzen, Modell testen, Hardware dimensionieren, Lizenz prüfen. Erst messen, dann investieren.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.