LLM-Pentest

Testen Sie gezielt die Sicherheit Ihrer KI-Anwendungen, von LLM-Integrationen über RAG-Systeme bis hin zu autonomen KI-Agenten.

LLM-Pentest im Überblick

Ein LLM-Pentest prüft gezielt die Sicherheit von Anwendungen mit Sprachmodellen (LLM), autonomen Agenten oder generativer KI. Dabei simulieren wir realistische Angriffe, um Schwachstellen aufzudecken. Unsere Pentester analysieren verschiedene Ebenen: modellspezifische Schwachstellen, applikative Sicherheitslücken, Drittanbieter-Integrationen wie APIs, RAG-Pipelines und MCP-Server sowie die Sicherheitskonfiguration Ihrer KI-Umgebung. Auch die Hosting-Infrastruktur gehört zum Testumfang, egal ob Cloud-Modellanbieter, selbst gehostetes Modell oder hybride Architektur.

Am Ende erhalten Sie einen detaillierten Bericht mit allen identifizierten Schwachstellen, den genutzten Angriffsszenarien sowie priorisierten Empfehlungen zur Behebung. Auf Wunsch führen wir einen Retest durch, der die erfolgreiche Umsetzung der Korrekturen bestätigt.

pentest llm

Unsere LLM-Pentest-Expertise

Unsere Pentester testen KI-Systeme unabhängig von Modell, Framework oder Architektur – egal, ob proprietäre Modelle wie OpenAI, Anthropic oder Google, Open-Source-Modelle, RAG-Anwendungen, autonome Agenten, Multi-Agenten-Systeme oder spezialisierte Copiloten. Ob interner Chatbot, Kundenassistent, Entwickler-Copilot oder Plattform zur Agenten-Orchestrierung: Wir passen unseren Prüfansatz gezielt an Ihren technischen Stack und Ihre Anwendungsfälle an.

Was wir bei Ihrem LLM-Pentest testen

Analyse der Schutzmechanismen des Modells

  • Widerstandsfähigkeit gegen direkte und indirekte Prompt Injections
  • Umgehung von Filtern durch Fake Markup und nachgeahmte Systemtags
  • Umgehung durch Injektion von Fake User/Assistant Responses
  • Umgehung von Guardrails (System Prompt, Content-Filtern)
  • Jailbreaking und Zweckentfremdung des Modells
  • Extraktion des System Prompts und der Guardrail-Anweisungen
  • Extraktion von Trainingsdaten durch Satzvervollständigung und Reminder-based Prompting
  • Tests zu Model Inversion und Membership Inference

Prüfung der Zugriffskontrollen und Isolationsmechanismen

  • Bewertung der Rollen- und Rechteverwaltung
  • Identifikation von Datenlecks zwischen Sessions oder Tenants
  • Aufdecken fehlender oder fehlkonfigurierter Zugriffskontrollen rund um das Modell
  • Tests zur Rechteausweitung über verfügbare Tools des Modells

Sicherheit der RAG-Integrationen und Datenquellen

  • Analyse der Retrieval-Pipelines (Vektordatenbank, Embeddings, Re-Ranking)
  • Tests zu Data Poisoning und indirekter Injection über indexierte Dokumente
  • Prüfung der Validierung und Bereinigung zurückgegebener Inhalte
  • Offenlegung sensibler Daten im Modellkontext

Tests der KI-spezifischen Business-Logik

  • Identifikation ausnutzbarer Logikfehler in Agenten-Workflows
  • Zweckentfremdung des ursprünglichen Anwendungsfalls
  • Excessive Agency: nicht autorisierte Aktionen, ausgelöst über das Modell
  • Umgehung kritischer Validierungen durch Manipulation natürlicher Sprache
  • Auslösen schädlicher Aktionen gegen andere Nutzer oder Systeme über das Modell (applikatives CSRF, unangeforderte API-Aufrufe, unautorisierter Versand von Nachrichten)

Sicherheit der API und angebundener Anwendungen

  • Prüfung der APIs, die vom oder rund um das LLM bereitgestellt werden
  • Serverseitige Kontrollen (Rate Limiting, Quotas, Kostenkontrolle)
  • Tests klassischer Injection-Schwachstellen in Parametern und exponierten Funktionen
  • Offenlegung sensibler Daten in den Modellantworten

Sicherheit der Verarbeitung von Modellausgaben

  • Injektion schädlicher Payloads in Modellantworten (Stored XSS, nicht bereinigte HTML-Tags)
  • Remote Code Execution durch unvalidierte Verarbeitung von LLM-Ausgaben (Shell-Befehle, SQL-Queries, Dateipfade)
  • Tests zu CSRF, ausgelöst durch modellgenerierte Antworten oder Aktionen
  • Prüfung der Post-Processing- und Frontend-Rendering-Pipelines
Méthodologie pentest web
sécurité agents et serveurs mcp

Sicherheit von Agenten und dem Model Context Protocol (MCP)

Prüfung der MCP-Server und exponierten Tools

  • Inventarisierung der verbundenen MCP-Server und der für Agenten freigegebenen Tools
  • Identifikation von Tool Poisoning und bösartigen Tool-Beschreibungen
  • Analyse der Authentifizierungs- und Autorisierungsflüsse (OAuth, Tokens, Scopes)

Tests zum Missbrauch von Tools durch Agenten

  • Unautorisierte Tool-Ausführung oder Fehlnutzung durch den Agenten
  • Umgehung von Berechtigungsrichtlinien und Intent-Erkennung
  • Nicht autorisierte Aktionsketten über mehrere Tools hinweg

Sicherheit der Agent-Tool-Kommunikation

  • Indirekte Injection über Antworten von Drittanbieter-Tools
  • Exfiltration sensibler Daten über Aufrufparameter
  • Fuzzing exponierter Parameter und JSON-Schemas

Prüfung agentischer Pipelines

  • Excessive Agency und Rechteausweitung über das Modell
  • Prüfung adversariellen Verhaltens in mehrstufigen Workflows
  • Identifikation von Verhaltensanomalien in der Multi-Agenten-Orchestrierung

Tests der KI-Infrastruktur und MLOps-Pipelines

Fine-Tuning- und MLOps-Pipelines

  • Prüfung der Trainings- und Validierungsdatensätze
  • Tests zu Data Poisoning in Ingestion-Pipelines
  • Prüfung der Secrets und API‑Schlüssel (LLM‑Provider, Vector Stores)
  • Prüfung modellbezogener CI/CD-Pipelines

Cloud-Umgebungen und Vektordatenbanken

  • Prüfung der Cloud-Konfigurationen (LLM-Provider, Vector Store, Orchestrator)
  • Analyse der Identitäts- und Zugriffsverwaltung (IAM) für KI-Services
  • Prüfung der Security Groups und Netzwerkregeln rund um das Modell
  • Isolierung der Umgebungen (Entwicklung, Staging, Produktion)
Pentest infra hébergement

LLM-Pentest-Methoden

Ein LLM-Pentest lässt sich mit unterschiedlichem Vorwissen durchführen. Jede Variante deckt ein anderes Risikoniveau ab und liefert eine eigene Perspektive auf die Sicherheit Ihres KI-Systems.

Black-Box-Pentest

Beim Black-Box-Pentest starten unsere Security-Experten ohne jede Vorabinformation zu Anwendung, Modell oder exponierten Tools und agieren damit wie ein echter externer Angreifer, der sich Angriffsvektoren gegen das KI-System erst selbst erschließen muss.

Grey-Box-Pentest

Beim Grey-Box-Pentest kombinieren unsere Security-Experten die externe Perspektive mit einem begrenzten Informationsstand: Sie erhalten ausgewählte Daten, etwa Benutzerkonten, funktionale Dokumentation, eine Beschreibung der Modellfähigkeiten oder das Inventar der MCP-Tools.

White-Box-Pentest

Beim White-Box-Pentest arbeiten unsere Security-Experten mit vollständigem Zugriff: Systemprompts, Quellcode, Modellkonfiguration, exponierte Tools und RAG-Datensätze.

Ablauf eines LLM-Pentests

Informationsbeschaffung und Mapping der KI-Angriffsfläche

Unsere Pentester kartieren Ihre KI-Angriffsfläche: eingesetzte Modelle, exponierte Tools und Funktionen, Agenten, RAG-Quellen und MCP‑Server. Zusätzlich suchen sie gezielt nach Informationslecks wie offengelegten Systemprompts, exponierten API-Schlüsseln oder zugänglichen Trainingsdaten.

Modellierung KI-spezifischer Bedrohungen

Die Analyse stützt sich auf anerkannte Referenzrahmen des Sektors: den OWASP LLM Top 10, den OWASP Top 10 for Agentic Applications, MITRE ATLAS, das NIST AI RMF und PortSwigger Web LLM Attacks. So identifizieren wir die für Ihren Anwendungsfall relevanten Angriffsszenarien.

Identifikation und Analyse der Schwachstellen

Unsere Security-Experten kombinieren tiefgehende manuelle Tests mit spezialisierten Tools, um Schwachstellen zu identifizieren, und validieren jeden Fund im Detail. Jede Schwachstelle bewerten sie nach Kritikalität und tatsächlicher Auswirkung auf Ihre Anwendung und Ihr Geschäft.

Exploitation und Bewertung der Auswirkungen

Wir nutzen identifizierte Schwachstellen kontrolliert aus, um ihre konkrete Auswirkung zu messen: Datenexfiltration, Sabotage des Modells, Missbrauch von Tools oder unkontrollierte Kosten. Dabei decken wir auch mögliche Angriffsketten auf, die mehrere Komponenten einbeziehen.

Prüfbericht und Abschlussgespräch

Ein detaillierter Bericht dokumentiert die identifizierten Schwachstellen, bewertet deren Kritikalität, liefert Nachweise zur Ausnutzbarkeit und enthält priorisierte Handlungsempfehlungen. Im Abschlussgespräch mit Ihren KI- und Entwicklungsteams erläutern wir die Ergebnisse ausführlich und begleiten Sie bei der Umsetzung der empfohlenen Maßnahmen. Ein abschließender Retest bestätigt die Wirksamkeit der vorgenommenen Korrekturen.

méthodologie pentest llm
KUNDENSTIMMEN

„Intersport arbeitet seit über 7 Jahren mit Vaadata zusammen. Was uns überzeugt: die technische Kompetenz, die professionelle Arbeitsweise und die enge Zusammenarbeit. Vaadata versteht unsere Anforderungen und liefert passgenaue Lösungen, vor allem durch die Pentests und die Beratung im Bereich Cybersicherheit konnten wir die Sicherheit unserer Systeme spürbar erhöhen. Vaadata ist für uns ein vertrauenswürdiger Partner, den wir uneingeschränkt weiterempfehlen.“

Michaël A.
CIO, INTERSPORT

„Auf Empfehlung eines Kollegen aus der IT-Leitung habe ich Vaadata 2020 mit einem ersten Pentest beauftragt. Schon 2021 haben wir die Zusammenarbeit auf alle unsere Lösungen ausgeweitet und führen sie seitdem jährlich fort. Neben der fachlichen Kompetenz überzeugt vor allem die Flexibilität der Teams und der unkomplizierte Austausch, gerade mit unseren Entwicklungsteams. Das macht die Zusammenarbeit spürbar einfacher und die Ergebnisse noch effizienter. Die Kommunikation läuft dabei jederzeit klar und direkt.“

Jean-Philippe F.
Leiter der IT-Abteilung, ITESOFT

„Wir arbeiten seit 2018 mit Vaadata zusammen und schätzen die enge Zusammenarbeit, die Beratungskompetenz und die fachliche Expertise. Bei jedem Projekt helfen uns die Teams, unsere Sicherheitsreife weiterzuentwickeln, ihre Unterstützung war entscheidend für den Erhalt unserer Zertifizierung nach anerkannten Sicherheitsstandards (SOC-2-Zertifizierung). Vaadata ist heute ein verlässlicher Partner für unsere Sicherheits- und Compliance-Anforderungen.“

Thomas L.
Leiter der IT-Abteilung, Sicherheit und Compliance, DATAGALAXY

„Wir empfehlen Vaadata anderen Unternehmen jederzeit weiter. Die technische Expertise, die methodische Präzision, das Aufspüren komplexer Schwachstellen und vor allem die Qualität der Handlungsempfehlungen machen Vaadata zu einem vertrauenswürdigen Partner.“

Ouadia L.
CEO, RANDOM TEAM

„Besonders geschätzt habe ich den fachlichen Austausch: Wir konnten Einschätzungen hinterfragen, über den Schweregrad von Schwachstellen diskutieren und unsere Bewertungen gemeinsam abgleichen. Nichts war in Stein gemeißelt, es war echte Zusammenarbeit auf Augenhöhe, und genau das habe ich als sehr angenehm empfunden.“

Ayoub H.
Senior Security Engineer, VESTIAIRE COLLECTIVE

„Unsere zehnjährige Zusammenarbeit spricht dafür. Bei Vaadata haben wir stets kompetente Teams vorgefunden, deren Analysen treffend sind und die in der Lage sind, nützliche Erkenntnisse zu liefern – auch bei anspruchsvollen Themen. Wir haben zudem das Gefühl, Ansprechpartner vor uns zu haben, die unser Geschäft, unsere Rahmenbedingungen und die Besonderheiten unserer Anwendungsumgebung verstehen. Die Qualität des Austauschs macht den Unterschied.“

Übersetzt mit DeepL.com (kostenlose Version)

Marc V.
CTO, ADEQUASYS

„Was mir gefällt, ist, dass der Austausch unkompliziert ist und dahinter seriöse Arbeit steckt. Man merkt sehr schnell, dass die Auditoren sich mit ihrem Fachgebiet auskennen und bestrebt sind, gute Arbeit zu leisten. Für ein Unternehmen, das seine Anwendungen prüfen lassen, seine Sicherheit verbessern und eine zuverlässige Außenperspektive einholen möchte, ist es wichtig, von Menschen begleitet zu werden, mit denen man konkret sprechen, Fragen stellen und die Empfehlungen nachvollziehen kann. Aus diesem Grund ist die Zusammenarbeit mit Vaadata für uns so wertvoll.“

Maélie M.
IT- und Cybersicherheits-Projektleiterin, CAPRIKORN
VERLÄSSLICH AN IHRER SEITE

LLM-Pentest mit Vaadata: zertifizierter Partner für Offensive Security

Ein LLM-Pentest mit Vaadata bedeutet Zusammenarbeit mit einem nach anerkannten Branchenstandards zertifizierten Anbieter.

Dafür stehen unsere CREST-, PASSI*‑, ISO‑27001- und ISO‑27701-Zertifizierungen. Sie belegen die Qualität unserer Services und ihre Konformität mit den internationalen Standards für Cybersicherheit und den Datenschutz und schaffen bei unseren Kunden Vertrauen in unser methodisches und organisatorisches Vorgehen.

Unsere zertifizierten Security-Experten führen die LLM-Pentests mit fundiertem Know-how durch: Sie beherrschen sowohl klassische Angriffstechniken der Anwendungssicherheit als auch die speziellen Anforderungen von Sprachmodellen, Agenten und dem Model Context Protocol. So identifizieren, exploitieren und dokumentieren wir Schwachstellen präzise in jeder KI-Umgebung.

*Akkreditiert durch die ANSSI, die französische Cybersicherheitsbehörde, vergleichbar mit der BSI-Zertifizierung für Penetrationstests.

PASSICertification iso 27001certificatio crest
llm pentest mit vaadata
Sprechen Sie mit uns über Ihr Offensive-Security-Projekt
Schreiben Sie uns kurz, worum es geht. Prüfumfang, Vorgehen und Rahmenbedingungen klären wir gemeinsam im Gespräch. Unser Team meldet sich zeitnah bei Ihnen.