Deine Daten. Deine KI. Deine Regeln.
Ein technischer Leitfaden zum Hosting und Betrieb von Open-Source Sprachmodellen im Unternehmensumfeld.
Ziele
Entkopple dich von Big Tech. Lerne, wie du leistungsstarke Sprachmodelle auf deinen eigenen Servern oder Laptops betreibst – performant, sicher und ohne monatliche Lizenzgebühren.
Behandelte Themen
Die Module im Überblick
Einführung in Open Source AI
- •Die Landschaft der offenen Modelle (Meta Llama, Mistral, Google Gemma)
- •Proprietäre vs. offene Modelle: Benchmarks und Realitätscheck
- •Lizenzmodelle verstehen (Apache 2.0, MIT, Community License)
- •Datenschutz und Compliance Vorteile
Hardware & Ressourcen-Management
- •CPU vs. GPU Inferenz
- •VRAM verstehen; Wie viel Speicher braucht mein Modell?
- •Mac Silicon (M1/M2/M3) Besonderheiten
- •Quantisierung erklärt; FP16, GGUF, AWQ und GPTQ
- •Modelle komprimieren ohne Qualitätsverlust
Tools & Runtime-Umgebungen
- •Ollama; Der Standard für lokales Prototyping
- •LM Studio; Grafische Oberfläche für Modell-Management
- •vLLM & TGI; High-Performance Serving für Produktion
- •Python-Integration mit HuggingFace Transformers
Retrieval Augmented Generation (RAG) Lokal
- •Vektordatenbanken on-premise (ChromaDB, Weaviate, Qdrant)
- •Embeddings lokal berechnen (ohne OpenAI Embeddings)
- •Aufbau einer "Chat with your PDF"-Pipeline ohne Internet
- •PrivateGPT Architektur verstehen
Fine-Tuning & Anpassung (Grundlagen)
- •Wann lohnt sich eigenes Training?
- •LoRA & QLoRA; Effizientes Fine-Tuning auf Consumer-Hardware
- •Erstellen von Custom System Prompts
Integration & API
- •Bereitstellen einer OpenAI-kompatiblen API
- •Anbindung an bestehende Software
- •Monitoring und Logging lokaler Instanzen
Kodschul Trainers & Team
Learn from experts - experienced professionals with practical know-how
Experienced trainers with practical technical experience
Over 3000 professionals trained in two years
Practical expertise and deep industry knowledge
Effective learning with real applications
Completed 300+ projects together
Franz Nkemaka
Expert for IT & AI, Trainer, CEO
Raffael H.
Expert for IT & AI, Trainer
Patrik Garten
Expert for IT & AI, Trainer
Erik H.
Expert for IT & AI, Trainer
Pascal Hinze
Expert for IT & AI, Trainer
.
.
Joelle Keim
Key Account Manager
Selina Schmid
Seminar Manager
Elisa Saleh
Back Office
Lars Gerigk
Portfolio Manager
Axel Kamga
Trainer & Sales
Sebastian Carnal
HR & People
So läuft das Training ab
Unsere Schulungen sind 100% hands-on, mit einem praktischen Anteil von 70% und 30% Theorie. Sie finden vor Ort, bei uns oder online (auf allen gängigen Plattformen) statt. Zusätzlich erhalten die Teilnehmenden kostenfrei Hands-outs und Unterlagen, die sie zur Vertiefung und weiteren Anwendung nutzen können.
Grundlagen
Zu Beginn sorgen wir dafür, dass alle Teilnehmenden auf denselben Wissensstand gebracht werden, unabhängig von ihrem Ausgangsniveau. So wird jeder optimal auf die weiteren Themen vorbereitet, und niemand bleibt zurück.
Durchführung
Wir starten mit einer Einführung in das Thema, gefolgt von Demos und praxisnahen Beispielen. Anschließend üben die Teilnehmenden eigenständig, während der Trainer individuelles Feedback gibt und bei Bedarf Korrekturen vornimmt.
Anwendungsfälle
Das Gelernte wird auf konkrete Anwendungsfälle der Teilnehmenden angewendet. In einer praxisorientierten Session erarbeiten wir gemeinsam Lösungen, die den Teilnehmern helfen, das Wissen direkt in ihren Arbeitsalltag zu integrieren.
Frequently Asked Questions
Who is this course designed for?
+How can I enroll in the course?
+What is the cost of the course?
+Do I need prior knowledge of the course topic?
+Will I be able to apply what I learn in this course?
+What software or tools do I need for the course?
+Lassen Sie uns über Ihr nächstes Training sprechen.
Unser Team steht Ihnen rund um die Uhr zur Verfügung und freut sich auf Ihre Anfrage. Einfach anrufen oder eine Nachricht hinterlassen – wir kümmern uns schnellstmöglich um Ihre Anfrage, ob es um eine Schulung, einen Vortrag oder eine Präsentation geht. Jetzt loslegen!
Joelle Keim
Key Account Manager