KI-Sicherheit: KI nutzen, der Sie vertrauen können
Von Sprachmodellen über autonome Agenten bis zur KI-Wahrnehmung: Wir sichern die KI in Ihren Produkten und Abläufen, damit Sie sie dort einsetzen können, wo sie Nutzen bringt, ohne die Kontrolle zu verlieren.
KI verändert, was Sie schützen müssen
Produkte und Abläufe enthalten heute Modelle, die Dokumente lesen, die Straße erkennen, Code schreiben und über Werkzeuge selbstständig handeln. Eine KI-Komponente verarbeitet nicht nur Daten, sie trifft Entscheidungen und löst in agentischen Systemen Aktionen aus. Damit werden ihre Eingaben, Trainingsdaten, Modelldateien und Berechtigungen zur Angriffsfläche.
Klassische Sicherheitsmaßnahmen erkennen diese Angriffe nicht. Ein in einem PDF verstecktes Prompt, ein vergifteter Trainingsdatensatz oder eine manipulierte Modelldatei sehen wie normale Inhalte aus, bis sich das System falsch verhält. KI-Sicherheit schließt diese Lücke: Sie wendet Bedrohungsanalyse, sichere Architektur, Tests und Überwachung auf die KI selbst an, damit Sie KI dort nutzen können, wo sie Nutzen bringt, ohne die Kontrolle zu verlieren.
Für wen
- Hersteller, die KI in Produkte einbauen, von der Wahrnehmung über Sprache bis zur Diagnose
- Teams, die KI-Agenten und Copilots in Entwicklung, Service oder Betrieb einsetzen
- Anbieter und Betreiber von Hochrisiko-KI-Systemen nach der EU-KI-Verordnung
- Sicherheits- und Compliance-Verantwortliche, die KI vor dem Start freigeben müssen
Die neue Angriffsfläche
Acht Risikobereiche, die wir bei jedem KI-gestützten Produkt oder Ablauf bewerten. Sie folgen den Bedrohungskatalogen von MITRE ATLAS, den OWASP Top 10 für LLM-Anwendungen und der NIST-Taxonomie für Angriffe auf maschinelles Lernen.
Eingaben
Prompt Injection
Anweisungen, die in Nutzereingaben, E-Mails, Webseiten oder Dokumenten versteckt sind, übernehmen das Modell. Indirekte Injection braucht keinen Zugang zum System, nur zu den Inhalten, die es liest.
Agenten
Zu viele Befugnisse
Agenten mit breitem Werkzeugzugriff lassen sich dazu bringen, Daten zu löschen, Nachrichten zu senden oder Konfigurationen zu ändern. Das Risiko wächst mit jedem Werkzeug und jedem Connector.
Daten
Vergiftung von Daten und Modellen
Manipulierte Trainings- oder Feinabstimmungsdaten pflanzen verstecktes Verhalten ein, etwa Hintertüren, die bei einer bestimmten Eingabe auslösen.
Lieferkette
Nicht vertrauenswürdige Modelle und Komponenten
Vortrainierte Modelle, Datensätze, Plugins und Tool-Server kommen von Dritten. Modelldateien können ausführbaren Code enthalten, und die Herkunft ist oft unbekannt.
Vertraulichkeit
Datenabfluss und Modelldiebstahl
Modelle können Trainingsdaten, System-Prompts oder angebundene Dokumente preisgeben, und wiederholte Abfragen können das Verhalten eines Modells kopieren.
Wahrnehmung
Manipulierte Eingaben
Kleine, gezielte Änderungen an Bildern, Signalen oder Sensordaten lassen Bild- und Erkennungsmodelle etwas sehen, das nicht da ist, oder etwas übersehen, das da ist.
Ausgaben
Unsicherer Umgang mit Ausgaben
Werden Modellausgaben ungeprüft in Code, Befehle, Abfragen oder Oberflächen übernommen, entsteht ein Einfallstor in den Rest des Systems.
Betrieb
Abweichung und Missbrauch im Betrieb
Das Verhalten ändert sich mit neuen Daten, neuen Modellversionen und Missbrauch. Ohne Überwachung bemerkt das niemand, bis ein Vorfall passiert.
Sechs Grundsätze für den sicheren Einsatz von KI
Sicherheit soll KI nutzbar machen, nicht blockieren. Mit diesen Grundsätzen kommen Ihre Teams schnell voran, während das Risiko beherrschbar bleibt.
1
Security by Design
KI-Komponenten sind ab der ersten Architekturskizze Teil der Bedrohungsanalyse, mit klaren Vertrauensgrenzen um jedes Modell.
2
Minimale Rechte für Agenten
Agenten erhalten nur die Werkzeuge und Daten, die sie brauchen, mit menschlicher Freigabe für Aktionen, die sich nicht rückgängig machen lassen.
3
Vertrauenswürdige Lieferkette
Jedes Modell, jeder Datensatz und jeder Connector hat eine bekannte Herkunft, eine Version und einen Platz in der KI-Stückliste.
4
Testen wie ein Angreifer
Red Teaming mit Injection, Jailbreaks, Extraktion und manipulierten Eingaben, vor dem Release und nach jeder Modelländerung.
5
Überwachen im Betrieb
Eingaben, Ausgaben und Aktionen von Agenten werden protokolliert und geprüft, damit Missbrauch und Abweichungen erkannt und gemeldet werden können.
6
Steuern und nachweisen
Rollen, Regeln und Dokumentation, die EU-KI-Verordnung, CRA und ISO/IEC 42001 mit einem gemeinsamen Satz an Nachweisen erfüllen.
So helfen wir
Von der ersten Designentscheidung bis zum Betrieb. Jede Leistung hat einen klaren Umfang und ein festes Ergebnis.
Bedrohungsmodellierung für KI
Wissen, wie Ihre KI angegriffen werden könnte, bevor sie ausgeliefert wird.
Was wir tun
- Modelle, Datenflüsse, Werkzeuge und Vertrauensgrenzen erfassen
- Bedrohungen mit MITRE ATLAS und OWASP analysieren, bewertet nach Auswirkung und Machbarkeit
- KI-Risiken in Ihre Produkt-TARA oder Risikobewertung nach IEC 62443 einbinden
Sie erhalten
KI-Bedrohungsmodell, Risikobewertungen, Sicherheitsanforderungen
Sichere Architektur für Agenten und LLM-Anwendungen
Schutzmechanismen, die auch unter Druck halten.
Was wir tun
- Berechtigungskonzept, Werkzeug-Freigabelisten und Sandboxing für Agenten
- Filterung von Ein- und Ausgaben, Isolierung nicht vertrauenswürdiger Inhalte
- Menschliche Freigabe für kritische Aktionen, Umgang mit Geheimnissen
Sie erhalten
Referenzarchitektur, Design-Review, Anforderungskatalog
Sicherheit der KI-Lieferkette
Wissen, was in Ihrer KI steckt.
Was wir tun
- Vortrainierte Modelle, Datensätze, Plugins und Tool-Server bewerten
- Dateiformate, Herkunft und Signatur von Modellen prüfen
- Eine KI-Stückliste neben Ihrer SBOM aufbauen und pflegen
Sie erhalten
Bewertung von Lieferanten und Komponenten, KI-Stückliste, Abnahmekriterien
Red Teaming und Tests mit manipulierten Eingaben
Angriffe, die wir durchführen, damit es andere nicht können.
Was wir tun
- Direkte und indirekte Prompt Injection, Jailbreaks, Datenabfluss über Agenten
- Tests auf Modellextraktion und Abfluss von Trainingsdaten
- Manipulierte Eingaben gegen Bild- und Sensormodelle
Sie erhalten
Testbericht mit Befunden, Schweregrad und Korrekturen, Nachtest nach Änderungen
Überwachung im Betrieb und Reaktion auf KI-Vorfälle
Die Kontrolle auch nach dem Start behalten.
Was wir tun
- Protokollierung für Prompts, Ausgaben und Aktionen von Agenten festlegen
- Erkennungsregeln für Missbrauch, Abweichungen und Auffälligkeiten
- Notfall-Leitfäden, die mit der CRA-Meldepflicht verbunden sind, wenn Produkte betroffen sind
Sie erhalten
Überwachungskonzept, Erkennungsregeln, Notfall-Leitfaden
KI-Governance und Compliance
Ein Rahmen für Regulierung und Audits.
Was wir tun
- Ihre KI-Systeme nach der EU-KI-Verordnung einstufen
- Pflichten dem CRA und ISO/IEC 42001 zuordnen
- Richtlinien für den sicheren Einsatz von KI-Werkzeugen mit Code und vertraulichen Daten
Sie erhalten
Einstufung, Übersicht der Pflichten, KI-Richtlinien
So arbeiten wir
Schritt 1
Erfassen
Wo KI eingesetzt wird, was sie lesen und was sie tun kann.
Schritt 2
Analysieren
Bedrohungsmodell über Modelle, Daten, Werkzeuge und Menschen.
Schritt 3
Härten und testen
Maßnahmen in der Architektur, danach Red Teaming dagegen.
Schritt 4
Betreiben
Überwachung, Reaktion und Nachweise für Audits.
Normen und Rahmenwerke
ISO/IEC 27090
Die neue internationale Norm für KI-Sicherheit: Leitlinien, um Sicherheitsbedrohungen für KI-Systeme über ihren gesamten Lebenszyklus zu verstehen, zu erkennen und zu verringern, von den Trainingsdaten bis zu den Modellen. Sie ergänzt ISO/IEC 27001 und 27002 und befindet sich im Oktober 2026 in der letzten Phase vor der Veröffentlichung. Wir richten unsere Bedrohungsmodellierung und Tests für KI schon heute daran aus.
EU-KI-Verordnung
Artikel 15 verlangt Genauigkeit, Robustheit und Cybersicherheit für Hochrisiko-KI-Systeme, einschließlich Widerstandsfähigkeit gegen Datenvergiftung, manipulierte Eingaben und Modellfehler.
Cyber Resilience Act, Artikel 12
Hochrisiko-KI-Systeme, die zugleich Produkte mit digitalen Elementen sind, können die Cybersicherheitsanforderungen der KI-Verordnung nachweisen, indem sie die grundlegenden Anforderungen des CRA erfüllen.
ISO/IEC 42001
Managementsystem für künstliche Intelligenz: Rollen, Risikobewertung und Maßnahmen über den gesamten KI-Lebenszyklus.
ISO/PAS 8800
Sicherheit und künstliche Intelligenz in Straßenfahrzeugen, relevant, wenn KI-Wahrnehmung Fahrfunktionen unterstützt.
ETSI TS 104 223
Grundlegende Cybersicherheitsanforderungen an KI-Modelle und KI-Systeme.
MITRE ATLAS und NIST AI 100-2
Katalog realer Angriffstechniken gegen KI und die Referenz-Taxonomie für Angriffe auf maschinelles Lernen.
OWASP Top 10 für LLM-Anwendungen
Die häufigsten Risiken von Sprachmodell- und Agentenanwendungen, als Grundlage für Tests.
Branchen
KI-Wahrnehmung in Fahrzeugen und Maschinen, KI-Diagnostik in Medizinprodukten, KI-Agenten in Anlagen und Netzen: Die Risiken sind verschieden, die Methode bleibt gleich.
Wir sichern KI ab, weil wir selbst mit ihr bauen
AITIGRITY nutzt KI, um Bedrohungsanalysen, Anforderungen und Tests zu erstellen. Die Plattform läuft auf Ihren eigenen Servern, hält Ihre Daten in Ihrer Vertrauenszone und lässt Sie das Sprachmodell austauschen. Für Ihre KI gelten bei uns dieselben Grundsätze wie für unsere eigene.
Plattform ansehenHäufige Fragen
Gilt die EU-KI-Verordnung für uns?
Das hängt davon ab, was Ihre KI tut und wo sie eingesetzt wird. Wir stufen jedes System ein und ordnen die Pflichten zu, auch dort, wo der CRA den Cybersicherheitsteil bereits abdeckt.
Ist KI-Sicherheit anders als normale Produktsicherheit?
Die Methode ist dieselbe: analysieren, entwerfen, testen, überwachen. Neu sind die Angriffe und die Komponenten, etwa Modelle, Datensätze und Agenten. Wir ergänzen sie in Ihrem bestehenden Prozess, statt einen zweiten aufzubauen.
Können Sie auch zugekaufte KI-Systeme testen?
Ja. Das meiste KI-Risiko liegt in der Einbindung eines Modells: was es lesen kann, was es tun darf und wie seine Ausgaben genutzt werden. Wir testen die Einbindung, mit oder ohne Zugriff auf das Modell selbst.
Wie verändern Agenten das Risiko?
Ein Agent kann handeln, nicht nur antworten. Eine erfolgreiche Prompt Injection wird dann zu einer Aktion in Ihren Systemen. Deshalb sind Berechtigungen, Freigabeschritte und Überwachung wichtiger als die Wahl des Modells.
Wo steht Ihr Produkt?
Erzählen Sie uns von Ihrem Produkt und den Vorgaben, die Sie erfüllen müssen. Sie sprechen vom ersten Gespräch an mit einem Ingenieur.
Cybersecurity-Beratung und die Plattform AITIGRITY für vernetzte Produkte und industrielle Systeme.