Produktmanager für Trust & Safety

Arbeitszeit: Vollzeit
Erfahrung: Erwartet wird Praxis mit Trust & Safety und Compliance für Verbraucherprodukte sowie mit A/B-Tests, Produktexperimenten, vertieften Datenanalysen oder Nutzerforschung. Nicht alle Praxisfelder müssen abgedeckt sein.
Vergütung: 95.000 – 125.000 USD / Jahr

Die Rolle in Kürze

Die neu geschaffene Rolle im Produktteam übersetzt Sicherheitsanforderungen in messbare Verbesserungen einer KI-Plattform für Erwachsene, die rechtmäßige Erwachseneninhalte zulässt. Sie arbeitet mit Compliance, Engineering, AI/ML, Produkt und Kundensupport sowie direkt mit der technischen Leitung und der Leitung für Recht und Sicherheit zusammen.

Deine Aufgaben

Die Rolle übersetzt Sicherheitsrichtlinien, rechtliche Anforderungen einschließlich Online-Sicherheit und EU AI Act, Vorfallerkenntnisse und Nutzerfeedback in Produktanforderungen, Akzeptanzkriterien und Entwicklungsarbeit. Sie steuert Initiativen von der Problemdefinition über Umsetzung, Tests und Einführung bis zur laufenden Verbesserung.
Sie verantwortet produktseitig die Verbesserung interner Moderationssysteme einschließlich der proprietären LLM-Moderationstechnologie. Mit Engineering und AI/ML entwickelt sie Erkennungsmöglichkeiten, Moderationsregeln, Schwellenwerte und geeignete Eingriffe für Nutzereingaben und KI-Ausgaben weiter.
Sie steuert Sicherheitskooperationen und Integrationen mit Drittanbietern von der Bedarfsermittlung und Anbieterbewertung über Umsetzung, Tests und Einführung bis zur laufenden Leistungsüberwachung.
Sie etabliert Dashboards, Monitoring und regelmäßige Qualitätssicherung, um aufkommende Probleme früh zu erkennen, schädliche Inhalte zu verhindern und die Wirksamkeit der Sicherheitsmaßnahmen zu prüfen.
Sie verantwortet Red Teaming und adversariale Tests zu gezieltem Missbrauch und schwierigen Grenzfällen bei Moderation und Produktschutz. Erkenntnisse verfolgt sie bis zur Behebung, erneuten Prüfung und zum Abschluss.
Sie etabliert Sicherheitsprüfungen für neue Funktionen und angemessene Prüfungen wesentlicher Änderungen an bestehenden Funktionen, Modellen und Integrationen. Früh im Produktdesign identifiziert sie vorhersehbaren Missbrauch, betroffene Nutzer und geeignete Schutzmaßnahmen.
Bei erheblichen Sicherheitsproblemen koordiniert sie die Reaktion von Produkt und Engineering gemeinsam mit den Verantwortlichen für Vorfallmanagement, Richtlinien und Nutzersupport.

Das solltest du mitbringen

Erforderlich

Erwartet wird ein überlegter Umgang mit sensiblen, kontextabhängigen Fragen einer Erwachsenenplattform mit rechtmäßigen Erwachseneninhalten. Nutzerschutz und klare Grenzen sollen legitime Ausdrucksmöglichkeiten nicht unnötig einschränken.
Erwartet wird die Fähigkeit, relevante Produktkennzahlen, ihre Bedeutung und den tatsächlichen Einfluss eigener Arbeit zu erklären.
Erwartet wird Erfahrung mit A/B-Tests, Produktexperimenten, vertieften Datenanalysen oder schlanker Nutzerforschung und der Nutzung ihrer Ergebnisse für weitere Produktentwicklung. Praktische Erfahrung muss jedoch nicht in allen genannten Bereichen vorliegen.
Erwartet wird die Fähigkeit, Risiken nutzergenerierter Inhalte, Transaktionen und Interaktionen zu bewerten und in rechtlich sowie ethisch ausgerichtete Richtlinien, Tracker beziehungsweise Dashboards und strategische Planung zu übersetzen.
Erwartet werden Verständnis für das Zusammenspiel von Produktrealität und Sicherheitsanforderungen sowie die Auseinandersetzung mit effizienter, skalierbarer Moderation durch Automatisierung, maschinelles Lernen, menschliche Prüfung und Nutzermeldungen.
Erwartet werden Erfahrung in der engen Arbeit mit Trust-&-Safety- und Compliance-Anforderungen sowie Verständnis für deren Übersetzung und Umsetzung in einem Verbraucherprodukt. Praktische Erfahrung muss nicht sämtliche genannten Tätigkeitsfelder abdecken.
Erwartet werden ausgeprägte Kommunikations- und Kooperationsfähigkeiten sowie partnerschaftliche Zusammenarbeit mit Engineering, Recht, Operations und Kundensupport. Dazu gehören zielführende Fragen und konstruktives Hinterfragen von Annahmen.
Vollständig fließendes Englisch und ein sicherer Umgang damit werden erwartet.
Erwartet wird ein sicherer Umgang mit KI-Werkzeugen sowie die eigenständige Suche nach und Erprobung neuer Werkzeuge und Techniken, ohne auf entsprechende Projekt- oder Führungsvorgaben zu warten.
Erwartet wird die Fähigkeit, Werkzeuge und Integrationen von Drittanbietern mit Einfluss auf Compliance und Sicherheit proaktiv zu testen und zugehörige Gespräche eigenständig zu führen.
Erwartet werden Eigenverantwortung, Zielorientierung und Engagement sowie ein sicherer Umgang mit Unklarheit. Durch Untersuchen, Entwickeln, Testen und Lernen soll auch ohne vollständiges Briefing Klarheit entstehen.
Erwartet wird eine zupackende Arbeitsweise, die Umsetzung, Planung und Strategie ausbalanciert, Hindernisse früh angeht und Verantwortung für Ergebnisse übernimmt. Das passende Ergebnis hat Vorrang vor einem starren Prozess.
Erwartet wird ein sicherer Umgang mit der Entwicklung von Produkten auf Basis unzensierter Modelle und Inhalte sowie mit der Prüfung und Diskussion unzensierter KI-Inhalte und von NSFW-Material.
Bescheidenheit, Lernbereitschaft und Offenheit für Feedback werden erwartet.

Von Vorteil

Eine vorherige Ausbildung im Bereich Recht oder Compliance ist von Vorteil.
Berufserfahrung oder Interesse im Bereich KI ist von Vorteil.
Erfahrung mit Funktionen für Endverbraucher, insbesondere in der Unterhaltungs- oder Spielebranche, ist von Vorteil.

Weitere Angaben

Praktische Erfahrung in sämtlichen genannten Bereichen ist keine Voraussetzung; auch bei Lücken ist eine Bewerbung möglich. Einsatz und Motivation werden besonders gewichtet.
Langfristiges Engagement und wirksame Beiträge werden erwartet. Eine B2B-Zusammenarbeit wird bevorzugt, die Vertragsform ist jedoch flexibel.

So ist Remote hier geregelt

Die Tätigkeit erfolgt vollständig remote bei freier Wahl der Arbeitsumgebung.
Ein persönliches Treffen findet einmal jährlich statt.
Die Nutzung eines Coworking-Arbeitsplatzes wird bis zu zweimal monatlich mit 35 EUR beziehungsweise 40 USD pro Besuch unterstützt.

Das wird angeboten

Pro Jahr werden vier Wochen beziehungsweise 20 Arbeitstage bezahlte Auszeit angeboten.
Für Krankenversicherungskosten gibt es einen monatlichen Zuschuss von 100 USD. Unbegrenzte Einzelgespräche mit Psychologen und Lifestyle-Fachleuten stehen auch bis zu drei Familienmitgliedern offen.
Ein jährliches persönliches Treffen ermöglicht Austausch und gemeinsame Ideenentwicklung.
Für Coworking werden bis zu zwei Besuche monatlich mit jeweils 35 EUR beziehungsweise 40 USD unterstützt.
Ein Weiterbildungsbudget unterstützt Kurse, Bücher, Konferenzen, Veranstaltungen oder Zertifizierungen.
Ein Laptop wird bereitgestellt. Zusätzlich gibt es bis zu 250 USD für einen Monitor und bis zu 150 USD für Tastatur, Maus, Mikrofon und Kopfhörer.
Premiumzugänge zu ChatGPT, Hugging Face, Claude Code und weiteren für die Tätigkeit benötigten Werkzeugen werden angeboten.
Eine B2B-Vertragsform wird bevorzugt; andere Vertragsformen sind möglich.

So läuft die Bewerbung

Auch ohne praktische Erfahrung in allen genannten Bereichen ist eine Bewerbung möglich; dabei soll die persönliche Eignung erläutert werden.

Veröffentlicht: 16.10.2026 · Quelle geprüft: 17.10.2026.

Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.