Small Language Models
Small Language Models (SLMs) — Phi-3/4, Gemma 2/3 und Llama 3.2 — erreichen überraschend hohe Qualität bei einem Bruchteil der Größe großer Modelle. Für Edge-Deployments, On-Premise-Anwendungen und kostensensitvie Produktionen sind SLMs oft die bessere Wahl als Cloud-LLMs. Sie lernen, wie SLMs ausgewählt, evaluiert und deployt werden.
Ziele
Sie können nach diesem Kurs SLMs sinnvoll einsetzen: richtiges Modell für Use Case auswählen, quantisierte Modelle deployen, Qualität evaluieren und SLMs in Produktionsarchitekturen integrieren — on-premise, am Edge oder im Hybrid-Szenario.
Behandelte Themen
Die Module im Überblick
Modul 1: SLM-Landschaft und Auswahl
- SLM-Definitionen: was als "small" gilt und warum Größe relativ ist
- Microsoft Phi-3/4: Microsofts Aushängeschild für kleine, starke Modelle
- Google Gemma 2/3 und Gemma 3n: mobile-optimierte Open-Weight-Modelle
- Llama 3.2 1B und 3B: Meta's Compact-Modelle für Mobil und Edge
- Benchmark-Interpretation: SLM-Qualität auf eigene Aufgaben einschätzen
Modul 2: Deployment-Optionen für SLMs
- Ollama: einfachstes lokales SLM-Deployment für Entwicklung
- llama.cpp: CPU-optimierte Inference für Server ohne GPU
- ONNX Runtime und Apple Neural Engine: Deployment auf mobilen Geräten
- Windows AI Studio und GitHub Models: SLMs in der Entwicklungsumgebung
Modul 3: Quantisierung und Performance
- Quantisierungs-Grundlagen: INT4 und INT8 für Ressourcen-armes Deployment
- GGUF und GGML: Formate für CPU-Inference
- Qualitäts-Benchmark nach Quantisierung: wann ist der Qualitätsverlust akzeptabel?
- Batch-Inference: Durchsatz bei SLM-Deployments optimieren
Modul 4: SLMs in Produktionsarchitekturen
- Router-Pattern: SLMs für einfache Aufgaben, LLMs für komplexe
- Hybrid-Architektur: lokale SLMs + Cloud-LLMs für Overflow
- Fine-Tuning von SLMs: spezialisierte SLMs für domänenspezifische Aufgaben
- Edge-zu-Cloud-Handoff: wann Anfragen zu Cloud-Modellen eskalieren
Kodschul-Trainer & Team
Lernen Sie von Experten - erfahrene Fachleute mit praktischem Know-how
Erfahrene Trainer mit praktischer Technik-Erfahrung
Über 3000 Fachkräfte in zwei Jahren geschult
Praxisnahe Expertise und tiefes Branchenwissen
Wirkungsvolles Lernen mit realen Anwendungen
Über 300+ Projekte gemeinsam abgeschlossen
Selina Schmid
Seminar Manager
Elisa Saleh
Back Office
Lars Gerigk
Portfolio Manager
Sebastian Carnal
HR & People
Ömer Akgeyik
Tech Lead
So läuft das Training ab
Unsere Schulungen sind 100% hands-on, mit einem praktischen Anteil von 70% und 30% Theorie. Sie finden vor Ort, bei uns oder online (auf allen gängigen Plattformen) statt. Zusätzlich erhalten die Teilnehmenden kostenfrei Hands-outs und Unterlagen, die sie zur Vertiefung und weiteren Anwendung nutzen können.
Grundlagen
Zu Beginn sorgen wir dafür, dass alle Teilnehmenden auf denselben Wissensstand gebracht werden, unabhängig von ihrem Ausgangsniveau. So wird jeder optimal auf die weiteren Themen vorbereitet, und niemand bleibt zurück.
Durchführung
Wir starten mit einer Einführung in das Thema, gefolgt von Demos und praxisnahen Beispielen. Anschließend üben die Teilnehmenden eigenständig, während der Trainer individuelles Feedback gibt und bei Bedarf Korrekturen vornimmt.
Anwendungsfälle
Das Gelernte wird auf konkrete Anwendungsfälle der Teilnehmenden angewendet. In einer praxisorientierten Session erarbeiten wir gemeinsam Lösungen, die den Teilnehmern helfen, das Wissen direkt in ihren Arbeitsalltag zu integrieren.
Am häufigsten gestellte Fragen
Für wen ist dieser Kurs konzipiert?
+Wie kann ich mich für den Kurs anmelden?
+Wie hoch sind die Kosten für den Kurs?
+Brauche ich Vorkenntnisse zum Thema des Kurses?
+Werde ich das Gelernte in diesem Kurs anwenden können?
+Welche Software oder Tools benötige ich für den Kurs?
+Lassen Sie uns über Ihr nächstes Training sprechen.
Unser Team steht Ihnen rund um die Uhr zur Verfügung und freut sich auf Ihre Anfrage. Einfach anrufen oder eine Nachricht hinterlassen – wir kümmern uns schnellstmöglich um Ihre Anfrage, ob es um eine Schulung, einen Vortrag oder eine Präsentation geht. Jetzt loslegen!
Selina Schmid
Leiterin Kodschul