Deine Daten. Deine KI. Deine Regeln.
Ein technischer Leitfaden zum Hosting und Betrieb von Open-Source Sprachmodellen im Unternehmensumfeld.
Ziele
Entkopple dich von Big Tech. Lerne, wie du leistungsstarke Sprachmodelle auf deinen eigenen Servern oder Laptops betreibst – performant, sicher und ohne monatliche Lizenzgebühren.
Behandelte Themen
Die Module im Überblick
Einführung in Open Source AI
- •Die Landschaft der offenen Modelle (Meta Llama, Mistral, Google Gemma)
- •Proprietäre vs. offene Modelle: Benchmarks und Realitätscheck
- •Lizenzmodelle verstehen (Apache 2.0, MIT, Community License)
- •Datenschutz und Compliance Vorteile
Hardware & Ressourcen-Management
- •CPU vs. GPU Inferenz
- •VRAM verstehen; Wie viel Speicher braucht mein Modell?
- •Mac Silicon (M1/M2/M3) Besonderheiten
- •Quantisierung erklärt; FP16, GGUF, AWQ und GPTQ
- •Modelle komprimieren ohne Qualitätsverlust
Tools & Runtime-Umgebungen
- •Ollama; Der Standard für lokales Prototyping
- •LM Studio; Grafische Oberfläche für Modell-Management
- •vLLM & TGI; High-Performance Serving für Produktion
- •Python-Integration mit HuggingFace Transformers
Retrieval Augmented Generation (RAG) Lokal
- •Vektordatenbanken on-premise (ChromaDB, Weaviate, Qdrant)
- •Embeddings lokal berechnen (ohne OpenAI Embeddings)
- •Aufbau einer "Chat with your PDF"-Pipeline ohne Internet
- •PrivateGPT Architektur verstehen
Fine-Tuning & Anpassung (Grundlagen)
- •Wann lohnt sich eigenes Training?
- •LoRA & QLoRA; Effizientes Fine-Tuning auf Consumer-Hardware
- •Erstellen von Custom System Prompts
Integration & API
- •Bereitstellen einer OpenAI-kompatiblen API
- •Anbindung an bestehende Software
- •Monitoring und Logging lokaler Instanzen
Kodschul-Trainer & Team
Lernen Sie von Experten - erfahrene Fachleute mit praktischem Know-how
Erfahrene Trainer mit praktischer Technik-Erfahrung
Über 3000 Fachkräfte in zwei Jahren geschult
Praxisnahe Expertise und tiefes Branchenwissen
Wirkungsvolles Lernen mit realen Anwendungen
Über 300+ Projekte gemeinsam abgeschlossen
Franz Nkemaka
Experte für IT & KI, Trainer, CEO
Raffael H.
Experte für IT & KI, Trainer
Patrik Garten
Experte für IT & KI, Trainer
Erik H.
Experte für IT & KI, Trainer
Pascal Hinze
Experte für IT & KI, Trainer
.
.
Joelle Keim
Key Account Manager
Selina Schmid
Seminar Manager
Elisa Saleh
Back Office
Lars Gerigk
Portfolio Manager
Axel Kamga
Trainer & Vertrieb
Sebastian Carnal
HR & People
So läuft das Training ab
Unsere Schulungen sind 100% hands-on, mit einem praktischen Anteil von 70% und 30% Theorie. Sie finden vor Ort, bei uns oder online (auf allen gängigen Plattformen) statt. Zusätzlich erhalten die Teilnehmenden kostenfrei Hands-outs und Unterlagen, die sie zur Vertiefung und weiteren Anwendung nutzen können.
Grundlagen
Zu Beginn sorgen wir dafür, dass alle Teilnehmenden auf denselben Wissensstand gebracht werden, unabhängig von ihrem Ausgangsniveau. So wird jeder optimal auf die weiteren Themen vorbereitet, und niemand bleibt zurück.
Durchführung
Wir starten mit einer Einführung in das Thema, gefolgt von Demos und praxisnahen Beispielen. Anschließend üben die Teilnehmenden eigenständig, während der Trainer individuelles Feedback gibt und bei Bedarf Korrekturen vornimmt.
Anwendungsfälle
Das Gelernte wird auf konkrete Anwendungsfälle der Teilnehmenden angewendet. In einer praxisorientierten Session erarbeiten wir gemeinsam Lösungen, die den Teilnehmern helfen, das Wissen direkt in ihren Arbeitsalltag zu integrieren.
Am häufigsten gestellte Fragen
Für wen ist dieser Kurs konzipiert?
+Wie kann ich mich für den Kurs anmelden?
+Wie hoch sind die Kosten für den Kurs?
+Brauche ich Vorkenntnisse zum Thema des Kurses?
+Werde ich das Gelernte in diesem Kurs anwenden können?
+Welche Software oder Tools benötige ich für den Kurs?
+Lassen Sie uns über Ihr nächstes Training sprechen.
Unser Team steht Ihnen rund um die Uhr zur Verfügung und freut sich auf Ihre Anfrage. Einfach anrufen oder eine Nachricht hinterlassen – wir kümmern uns schnellstmöglich um Ihre Anfrage, ob es um eine Schulung, einen Vortrag oder eine Präsentation geht. Jetzt loslegen!
Joelle Keim
Key Account Manager