Wissen · Lokale KI · Teil 5 von 6
Lokale KI, Teil 5: Ein Rechner fürs ganze Team
Ein Rechner im Haus, alle nutzen ihn über den Browser. Vier Einstellungen, die aus dem Versuch ein Werkzeug machen, und eine Sicherheitsregel, die sofort gilt.
Das Wichtigste
Ein Rechner fürs ganze Team
- OLLAMA_HOST auf 0.0.0.0 setzen (setx, Systemd-Unit oder launchctl), dann erreicht jeder Rechner im Netz das Modell.
- Ollama kennt keine Anmeldung: Proxy mit Anmeldung davor, oder nur Open WebUI darf auf den Port.
- Keep-Alive länger stellen, sonst wartet jeder Erste nach der Pause; mehrere Nutzer brauchen mehr Grafikspeicher.
- Updates in den Kalender: Ollama und Open WebUI erscheinen mehrmals im Monat neu.
Ausführlich mit allen Befehlen: Teil 5 der Anleitung als Text.
Auf YouTube: Langfassung, 2:33 Minuten, mit Kapiteln und dieser Kurzfilm als Short. Beide laufen bei YouTube, also mit dessen Cookies.
Sprechertext
Was im Video gesagt wird
Ein Rechner im Haus, alle nutzen ihn über den Browser. Das ist der Punkt, an dem aus dem Versuch ein Werkzeug wird.
Ab Werk hört Ollama nur auf dem eigenen Gerät, Adresse 127.0.0.1, Port 11434. Für das Firmennetz öffnen Sie das bewusst.
Die Umgebungsvariable OLLAMA_HOST auf 0.0.0.0 setzen: unter Windows mit setx, unter Linux in der Systemd-Unit, auf dem Mac mit launchctl setenv. Danach Ollama neu starten, dann erreicht jeder Rechner im Netz das Modell.
Und genau deshalb sofort: Ollama kennt keine Anmeldung. Wer den Port erreicht, darf alles. Ein Proxy mit Anmeldung davor, oder nur Open WebUI darf auf den Port.
Keep-Alive bestimmt, wie lange ein Modell im Grafikspeicher bleibt. Auf dem Team-Rechner länger einstellen, sonst wartet jeder Erste nach der Pause.
Mehrere Nutzer gleichzeitig brauchen Speicher für mehrere Gespräche. Lieber eine Stufe mehr Grafikspeicher als zu wenig.
Updates gehören in den Kalender: Ollama und Open WebUI erscheinen mehrmals im Monat neu. Teil 6: messen, ob es taugt.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.