Was ist AI Supply Chain Security und warum sind Modell-Herkunft und SBOM wichtig?
Direkte Antwort
AI Supply Chain Security überträgt das Konzept der Software-Lieferkettensicherheit auf KI-Systeme — die Herkunft eines Modells, seiner Trainingsdaten und aller genutzten Bibliotheken muss nachvollziehbar sein, damit manipulierte oder kompromittierte Komponenten (etwa ein Modell mit eingebetteter Backdoor) erkannt werden können. Ein AI-Bill-of-Materials (AI-BOM) dokumentiert diese Herkunft ähnlich einer klassischen Software Bill of Materials (SBOM).
"Ein von einer unbekannten Quelle heruntergeladenes Modell ist aus Sicherheitssicht vergleichbar mit einer Bibliothek unbekannter Herkunft — nur ist es deutlich schwerer, sein Verhalten vollständig zu inspizieren.
Während Software Supply Chain Security bei klassischem Code inzwischen etabliert ist, wird die analoge Frage bei KI-Modellen — woher kommt dieses Modell wirklich und wem kann man vertrauen — noch häufig übergangen.
Warum Modell-Herkunft ein eigenes Risiko darstellt
Ein vortrainiertes Modell aus einer nicht verifizierten Quelle kann theoretisch mit einer Backdoor versehen sein, die bei bestimmten, unauffälligen Eingaben ein schädliches Verhalten auslöst, ohne dass dies bei normaler Nutzung auffällt.
Anders als bei klassischem Code lässt sich das Verhalten eines Modells nicht durch reines Lesen des Quellcodes vollständig prüfen, was die Verifikation der Modellherkunft (offizieller Anbieter, verifizierte Checksummen, bekannte Trainingsdatenquellen) zu einer eigenen wichtigen Schutzmaßnahme macht.
AI-Bill-of-Materials als Dokumentationsstandard
Ein AI-BOM dokumentiert analog zur klassischen SBOM alle Bestandteile eines KI-Systems — das Basismodell und seine Herkunft, verwendete Trainings- oder Fine-Tuning-Datensätze, sowie alle Bibliotheken und Frameworks im Serving-Stack.
Diese Dokumentation erlaubt es, bei Bekanntwerden einer Schwachstelle in einer bestimmten Modellversion oder Bibliothek schnell zu prüfen, welche eigenen Systeme betroffen sind, statt das gesamte System manuell durchsuchen zu müssen.
Absicherung entlang der gesamten Lieferkette
Über das reine Basismodell hinaus sollten auch nachgelagerte Schritte wie Fine-Tuning-Daten, RAG-Wissensquellen und genutzte Drittanbieter-Tools in die Sicherheitsbetrachtung einbezogen werden, weil eine Manipulation an jeder dieser Stellen das Gesamtverhalten des Systems beeinflussen kann.
Ein praktikabler erster Schritt ist, Modelle nur von verifizierten, offiziellen Quellen (etwa den offiziellen Model Hubs großer Anbieter mit Signaturprüfung) zu beziehen und diese Herkunft im eigenen AI-BOM zu dokumentieren.
Wann passt es — wann nicht?
Passt gut
- ✓Das System nutzt Modelle aus öffentlichen Model Hubs oder verarbeitet Daten aus mehreren externen Quellen
Passt nicht
- ✗Es wird ausschließlich ein Modell eines etablierten Cloud-Anbieters über dessen offizielle API genutzt