Wissen · Lokale KI · Teil 1 von 6
Lokale KI, Teil 1: Was lokale KI ist, und wann sie sich lohnt
Lokale KI heisst: Das Sprachmodell läuft auf Ihrem eigenen Rechner. Dieser Teil sagt, wann das die richtige Wahl ist, und wann die Cloud besser bleibt.
Das Wichtigste
Lohnt sich lokale KI für uns?
- Internet braucht das Modell nur einmal, zum Herunterladen. Ab Werk hört Ollama nur auf dem eigenen Gerät.
- Gut lokal: Zusammenfassen, Umformulieren, Fragen an eigene Dokumente, Posteingang sortieren.
- Besser in der Cloud: schwere Code-Umbauten, lange Recherchen, das letzte Prozent Qualität.
- Der Einstieg kostet nichts: ein Modell mit 6,6 GB und eine Grafikkarte ab 8 GB Speicher.
Ausführlich mit allen Befehlen: Teil 1 der Anleitung als Text.
Auf YouTube: Langfassung, 2:49 Minuten, mit Kapiteln und dieser Kurzfilm als Short. Beide laufen bei YouTube, also mit dessen Cookies.
Sprechertext
Was im Video gesagt wird
Sie möchten KI für Protokolle, Offerten und Dokumente nutzen, aber nichts davon darf das Haus verlassen.
Lokale KI heisst: Das Sprachmodell läuft auf Ihrem eigenen Rechner. Internet braucht es nur einmal, zum Herunterladen.
Ab Werk hört das Werkzeug nur auf dem eigenen Gerät. Niemand sonst sieht Ihre Eingaben, auch kein Anbieter.
Was gut geht: Zusammenfassen, Umformulieren, Fragen an eigene Dokumente, Sortieren von Posteingängen.
Was die Cloud besser kann: schwere Umbauten im Code, lange Recherchen, das letzte Prozent Qualität. Das sagen wir ehrlich.
Der Einstieg kostet nichts: ein Modell mit 6,6 Gigabyte und eine Grafikkarte ab 8 Gigabyte Speicher reichen.
In sechs Teilen zeigen wir den ganzen Weg: Hardware, Installation, eigene Dokumente, Team-Server, und wie Sie messen, ob es taugt.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.