Engineer für KI-Red-Teaming

Arbeitszeit: Vollzeit
Erfahrung: Erwartet werden ein Hintergrund in QA-Automatisierung, AppSec, API-, Sicherheits- oder Penetrationstests oder Bug Bounty sowie Testerfahrung mit APIs, Webapps, Backends oder SaaS.
Vergütung: Gehalt nicht angegeben

Die Rolle in Kürze

Die Rolle verantwortet adversariale Tests von LLM-Systemen von der Fehlersuche über reproduzierbare Angriffe bis zur Dokumentation. Sie überführt Befunde in Regressionstests und Produktanforderungen und unterstützt die Marktbearbeitung mit belastbaren Nachweisen für Kundendemos, Sicherheitsprüfungen und Vertriebsgespräche.

Deine Aufgaben

Die Rolle prüft Chatbots, Copiloten, RAG-Pipelines, KI-Agenten, Workflows mit Werkzeugaufrufen und API-basierte KI-Produkte durch gezielte Angriffe.
Sie testet Jailbreaks, Prompt Injection, Lecks von System-Prompts, Werkzeugen, sensiblen Daten und Kontext sowie unsichere Ausgaben, Richtlinienumgehungen, Werkzeugmissbrauch, übermäßige Agentenautonomie, Ressourcen- und Tokenkostenmissbrauch sowie Geschäftslogikmissbrauch.
Sie schreibt schlanke Python-Skripte, um Angriffe zu automatisieren, Prompt-Sammlungen auszuführen, Modell-APIs aufzurufen, Antworten zu sammeln und zu bewerten sowie reproduzierbare Berichte zu erstellen.
Sie baut und pflegt eine interne Angriffsbibliothek mit Prompts, Szenarien, Testfällen, Regressionstests, Bewertungsrastern und wiederverwendbaren Demofällen.
Sie dokumentiert Modellfehler einschließlich Ablauf, Bedeutung, Reproduktionsschritten, Schweregrad und Behebung und überführt erfolgreiche Angriffe in Regressionstests und Produktanforderungen.
Sie verfolgt neue Red-Teaming- und Sicherheitstechniken und integriert geeignete Ansätze in die Tests.
Sie unterstützt die Marktbearbeitung mit belastbaren Nachweisen für Kundendemos, Sicherheitsprüfungen und Vertriebsgespräche.
Sie führt Angriffe zur Verbesserung der Systemsicherheit innerhalb des vereinbarten Umfangs und der gesetzlichen Grenzen durch und erstellt oder verbreitet dabei kein tatsächlich schädliches Material.

Das solltest du mitbringen

Erforderlich

Erwartet werden Freude am Aufdecken von Schwachstellen und adversariales Denken.
Vorausgesetzt wird ein Hintergrund in QA-Automatisierung, AppSec, API-, Sicherheits- oder Penetrationstests oder Bug Bounty.
Sehr gute Fähigkeiten im Schreiben von Python-Skripten werden vorausgesetzt.
Erfahrung mit dem Testen von APIs, Webanwendungen, Backends oder SaaS-Produkten wird erwartet.
Praktische Kenntnisse im Umgang mit LLMs, Prompts, Systemanweisungen, RAG, Agenten sowie Werkzeug- und Funktionsaufrufen werden erwartet.
Vorausgesetzt wird Verständnis für LLM-spezifische Missbrauchsvektoren wie Prompt Injection, Jailbreaks, Datenlecks, Werkzeugmissbrauch, übermäßige Agentenautonomie und die Erschöpfung von Tokenkostenbudgets.
Erwartet wird die Fähigkeit, Umgehungen und missbrauchbare Randfälle zu finden, Fehler zu verketten und reale Auswirkungen einzuschätzen.
Reale Kundenrisiken müssen von Prompt-Tricks mit geringen Auswirkungen unterschieden werden können.
Klare, reproduzierbare Fehlerberichte müssen in verständlichem Englisch verfasst werden können.
Erwartet wird die Fähigkeit, auch ohne vollständig ausgearbeitete Anforderungen zügig zu arbeiten.
Vorausgesetzt wird eine klare ethische Haltung: Red-Teaming dient der Systemsicherheit, bleibt innerhalb des vereinbarten Umfangs und des Gesetzes und umfasst weder die Erstellung noch die Verbreitung tatsächlich schädlichen Materials.

Von Vorteil

Erfahrung mit Burp Suite, Postman, Playwright und pytest ist von Vorteil.
Erfahrung mit modernen automatisierten Agenten und Pipelines für LLM-Red-Teaming ist von Vorteil.
Vertrautheit mit LangChain, LangGraph, LlamaIndex, RAG-Pipelines, KI-Agenten, Werkzeug- und Funktionsaufrufen sowie LLM-as-judge-Evaluation ist von Vorteil.
Vertrautheit mit OWASP LLM Top 10, OWASP Web Top 10, MITRE ATLAS oder anderen KI-Sicherheitstaxonomien ist von Vorteil.
Erfahrung mit dem Testen von RAG-Systemen, KI-Agenten, Workflows mit Werkzeugaufrufen, Browser-Agenten oder internen Copiloten ist von Vorteil.
Erfahrung im Verfassen kundenorientierter Sicherheitsberichte ist von Vorteil.
Erfahrung in Trust & Safety, Missbrauchsprävention, Betrug, Moderation oder Plattformsicherheit ist von Vorteil.
Erfahrung im Aufbau von Evaluationspipelines, Regressionssuiten, Dashboards oder CI-tauglichen Sicherheitstests ist von Vorteil.
Nachweisbare Erfolge bei CTFs, Red-Team-Wettbewerben oder Responsible-Disclosure- beziehungsweise Bounty-Programmen sind von Vorteil.

So ist Remote hier geregelt

Zweimal jährlich finden Team-Offsites statt.

Das wird angeboten

Das Vergütungspaket umfasst eine Unternehmensbeteiligung.
Es werden flexible Auszeiten angeboten.
Sprachunterricht unterstützt die Verbesserung der Englisch- oder Französischkenntnisse.
Kurse, Konferenzen und weitere Möglichkeiten zur fachlichen Entwicklung werden unterstützt.
Die benötigte Hardware sowie Abonnements, Werkzeuge und Dienste werden bereitgestellt.
Zweimal jährlich finden Team-Offsites statt.

So läuft die Bewerbung

Das Auswahlverfahren beginnt mit einem Einführungsgespräch mit dem Recruiting-Team, gefolgt von einer Testaufgabe, einem technischen Interview und einem Abschlussgespräch mit der Geschäftsleitung.

Veröffentlicht: 06.07.2026 · Quelle geprüft: 23.10.2026.

Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.