Lokale KI für Firmen: ohne dass Daten das Haus verlassen
Offene Sprachmodelle auf eigener Hardware betreiben: Dimensionierung, Ollama, ein Team-Chat mit Konten, Fragen an interne Dokumente und eine OpenAI-kompatible API, abgesichert und dokumentiert.
Gekauft? Melde dich mit der E-Mail-Adresse aus dem Kauf an. AGB · Widerrufsbelehrung
Braucht einen Mac mit Apple-Chip und mindestens 16 GB Arbeitsspeicher oder einen Linux-Rechner mit NVIDIA-Grafikkarte, dazu Docker und Grundkenntnisse im Terminal. Ein Server fürs Team ist am Anfang optional.
Selbstlernkurs: Slides, Praxisaufgaben und Vorlagen in deinem Tempo. Keine bewerteten Tests, keine individuelle Betreuung.
Kleine und mittlere Unternehmen, IT-Verantwortliche und Entwickler, die KI mit vertraulichen Daten nutzen wollen, ohne sie an einen externen Anbieter zu schicken.
Ein lokaler Modell-Server mit Team-Chat-Oberfläche, Benutzerkonten, einer Dokumentensammlung zum Befragen, einer API für deine Werkzeuge und einer schriftlichen Sicherheits- und Datenschutz-Basis.
Inhalt
- 01 · Entscheiden und dimensionieren
- Wann lokale KI sinnvoll ist10 Min.
- Hardware: Speicher, Modellgröße und Quantisierung15 Min.
- 02 · Modelle betreiben
- Ollama und llama.cpp: dein erstes lokales Modell14 Min.
- LM Studio für einzelne Arbeitsplätze10 Min.
- Offene Modelle auswählen und Lizenzen prüfen14 Min.
- 03 · Fürs Team
- Ein Team-Chat mit Open WebUI15 Min.
- Dokumente befragen: RAG mit Embeddings15 Min.
- Eine OpenAI-kompatible API für Werkzeuge und n8n13 Min.
- 04 · Sicher und regelkonform
- Sicherheit: Netzwerk, Konten, Updates, Logs14 Min.
- DSGVO, AI Act und ehrliche Grenzen14 Min.
Material
- Hardware-Rechenblatt mit Faustregeln (DE + EN)
- docker-compose.yml für Ollama + Open WebUI
- Sicherheits- und Datenschutz-Checkliste für lokale KI (DE + EN)
Fabian Faraz Farid · Alle Kurse