Senior Technical Product Manager für eine KI-Rechenplattform

Arbeitszeit: Nicht angegeben
Erfahrung: Nötig sind 6+ Jahre in Produkt-/Plattform-/Infrastruktur-PM oder als SRE/Engineering Lead mit Produktgespür, Cloud-/GPU-/HPC-Aufbau oder -Betrieb mit Tausenden Knoten, mehreren Regionen und Mandanten sowie Plattform- und Discovery-Erfolge.
Vergütung: Gehalt nicht angegeben

Die Rolle in Kürze

Der Verantwortungsbereich richtet sich nach technischen Stärken, Kundenerfahrung und Produktkompetenz. Gemeinsam mit Engineering, Infrastrukturteams, Support und Produktdesign entwickelt die Rolle die Plattform weiter und übersetzt Kundenprobleme in messbare Produktverbesserungen.

Deine Aufgaben

Die Rolle verantwortet Strategie, Roadmap, Discovery, Auslieferung und Nutzung ihres Plattformbereichs und definiert Erfolgskennzahlen für messbare Kunden- und Plattformwirkungen.
Je nach Bereich begleitet sie die Produktionsreife neuer GPU- und CPU-Plattformen wie GB300, Vera Rubin, ARM/Grace und künftiger Generationen über den gesamten Stack. Weitere mögliche Schwerpunkte sind neue Regionen, Cluster mit mindestens 100.000 GPUs, Sharding, Zuteilungsarchitektur, Release Engineering, automatisierte Host-Lebenszyklen und Betriebseffizienz.
Je nach Bereich gestaltet sie Selbstheilung, Zustandsprüfungen, SLAs, fehlertolerantes Training, MTTR-Senkung und Observability sowie Compute-APIs, Konsole, CLI, IMDS, VM-interne Signale, Selbstbedienung, Benachrichtigungen und einheitliche Nutzererlebnisse. Sie verantwortet Plattformverträge mit API-Semantik, Systemereignissen, Kundenschnittstellen und Betriebsverhalten auf Hyperscaler-Niveau.
Je nach Bereich verantwortet sie GPU- und InfiniBand-Basisdienste mit Treibern, Firmware, NCCL, IB/RoCE und NVLink-Topologie oder verwaltete Laufzeitplattformen mit Slurm auf Kubernetes und Kubernetes für KI-Training und Inferenz.
Je nach Bereich betreut sie Serving-Integrationen, RL- und agentische Infrastruktur, Kapazitätsteilung, entstehende Geschäftsfelder, technische Partnerschaftsprogramme, größere Wartungen und bereichsübergreifende Releases. Sie koordiniert Plattform-Engineering, Netzwerk, Storage, Laufzeitplattformen, Observability, IAM, Abrechnung, Kapazitätsplanung, Support und Produktdesign.
Sie untersucht Kundenprobleme durch Interviews, Nutzungsanalysen, Supportmuster und Vorfallnachbereitung, übersetzt Erkenntnisse in Produktzusagen und verhindert wiederkehrende Fehler oder Reibungsverluste.
Sie diskutiert API-Design und Systemabwägungen mit Engineering auf Augenhöhe, beurteilt interne Plattformqualität und widerspricht ungeeigneten Entwürfen.
Sie trifft Produktentscheidungen zu Systemverhalten, API-Verträgen und Betriebsmustern, wenn Support, Customer Experience oder technische Kundenbetreuung diese eskalieren.

Das solltest du mitbringen

Erforderlich

Erforderlich sind mindestens sechs Jahre Erfahrung im Produktmanagement, Plattform- oder Infrastrukturproduktmanagement oder als SRE beziehungsweise Engineering Lead mit ausgeprägtem Produktgespür.
Erforderlich sind eine fundierte technische Basis und tiefes Cloud-Infrastrukturverständnis, einschließlich API-Semantik, Control Plane und Data Plane, Systemereignissen, Lebenszyklen und mandantenfähigem Betrieb. Technische Diskussionen mit Engineering-Leitungen müssen auf Augenhöhe möglich sein.
Erforderlich ist Erfahrung mit dem Aufbau oder Betrieb von Cloud-, GPU- oder HPC-Infrastruktur in erheblicher Größenordnung mit Tausenden Knoten, mehreren Regionen und Mandanten.
Erforderlich sind nachweislich ausgelieferte, technisch komplexe Plattformprodukte mit quantitativ belegbarer Wirkung für Kunden oder Plattform.
Erforderlich sind ausgeprägte analytische Fähigkeiten zur Definition und Instrumentierung von Produktkennzahlen, zur Arbeit mit Telemetrie und zur Entwicklung datenbasierter Roadmaps.
Erforderlich ist Erfahrung in der Leitung discoveryintensiver Arbeit mit strukturierten Kundeninterviews, Nutzungsanalysen und Supportticket-Analysen sowie der Umsetzung daraus gewonnener Erkenntnisse in ausgelieferte Produkte.
Erforderlich sind direkte Kommunikation mit Kunden, ausgeprägte Kommunikationsfähigkeit und die Fähigkeit, Engineering, SRE, kundennahe Teams und Führungskräfte auf gemeinsame Ziele auszurichten.
Erwartet werden hohe Eigenverantwortung, Umsetzungsorientierung, ein sicherer Umgang mit komplexer Betriebsrealität und die Bereitschaft, Engineering zu widersprechen, wenn Kundenerlebnis oder Plattformqualität leiden würden.
Erforderlich ist eine Arbeitsberechtigung für das Land, in dem die Bewerbung erfolgt; ihr Nachweis ist Voraussetzung für die Einstellung.

Von Vorteil

Von Vorteil ist direkte Produktmanagementerfahrung mit Kunden an der Spitze der KI-Entwicklung, darunter ML-Plattformteams und MLOps-Fachkräfte sowie Training und Inferenz in großem Maßstab. Ebenfalls vorteilhaft sind Anwenderkenntnisse in Kubernetes-, Slurm- oder HPC-Umgebungen und ML-Trainingsabläufen.
Von Vorteil ist praktische Erfahrung mit ML-Training und Inferenz, besonders mit verteiltem Training über mehrere Knoten und GPUs, Checkpointing, NCCL, fehlertolerantem Training und der Fehlersuche in großen Trainingsjobs.
Von Vorteil ist Erfahrung als Kunde von KI-Cloud-Infrastruktur in großem Maßstab, insbesondere in einem internen ML-Plattformteam, das Infrastruktur für die eigenen ML-Fachkräfte aufgebaut und betrieben hat.
Von Vorteil sind direkte Erfahrungen mit NVIDIA-Referenzarchitekturen wie NVL72, SuperPOD, MGX und DGX sowie dem Stack aus Treibern, CUDA, NCCL und DCGM. Kenntnisse von InfiniBand-/RoCE-Netzen, Firmware-Lebenszyklen und topologiebewusstem Scheduling sind ebenfalls vorteilhaft.
Von Vorteil ist praktische Erfahrung mit GPU-Clustern oder HPC-Netzen in einer Größenordnung von Tausenden Knoten.
Von Vorteil ist Erfahrung mit Kubernetes-Lebenszyklen einschließlich CAPI, Cluster-Upgrades und Node-Pool-Verwaltung oder mit Slurm in großem Maßstab.
Von Vorteil sind Erfahrung mit der vollständigen Einführung neuer Cloud-Regionen oder der Inbetriebnahme von Rechenzentren sowie Kenntnisse in Release Engineering, Change Management oder der Orchestrierung größerer Wartungsarbeiten in Produktionsumgebungen.
Von Vorteil ist Erfahrung mit Konsolen-, CLI- und API-Design auf Hyperscaler-Niveau sowie vertieftes Wissen zu AWS, GCP und Azure hinsichtlich Konsistenz, Versionierung, Idempotenz, Fehlersemantik und Abkündigungsrichtlinien.
Von Vorteil sind Erfahrung mit Observability-Produkten wie Grafana, Datadog, Honeycomb und New Relic sowie Kenntnisse zu Statusseiten, Ursachenanalyse-Workflows, Auditprotokollen, SLA-Berichten und Wartungsbenachrichtigungen.
Von Vorteil ist Vertrautheit mit Produktmustern für Developer Experience, wie sie Stripe, Cloudflare, Vercel, Supabase und Render nutzen.
Von Vorteil ist Erfahrung mit SRE, Reliability Engineering oder fehlertoleranten Systemen für zahlende Kunden.
Von Vorteil sind Kenntnisse der Zuverlässigkeitskennzahlen Goodput, MFU, MTTR und MTBF sowie Erfahrung mit selbstheilenden Systemen und einem kontrollierten Verhalten bei Ausfällen.
Von Vorteil sind Kenntnisse von RL-, agentischen und Inferenz-Workloads mit vLLM, SGLang, Ray, Serving nach dem Token-Factory-Muster sowie Sandbox-Technologien wie Firecracker, gVisor und Kata.
Von Vorteil ist Erfahrung mit produktübergreifenden Cloud-Integrationen, einschließlich gemeinsamer Kapazitätsnutzung, Abrechnungsmodellen und produktübergreifender Paketierung.
Von Vorteil ist Erfahrung mit Preisstrategien für Infrastrukturprodukte, einschließlich reservierter, bedarfsabhängiger und unterbrechbarer Tarife sowie zweiteiliger Preismodelle.

Das wird angeboten

Geboten werden eine wettbewerbsfähige Vergütung sowie Lern- und berufliche Entwicklungsmöglichkeiten.
Die Tätigkeit bietet Flexibilität, Eigenverantwortung, Zusammenarbeit in einem internationalen Umfeld und die Mitarbeit an KI-Projekten.

So läuft die Bewerbung

Eine Einstellung setzt den Nachweis der Arbeitsberechtigung für das Land voraus, in dem die Bewerbung erfolgt.
Bei Bedarf sind Anpassungen im Bewerbungsverfahren möglich.

Veröffentlicht: 17.06.2026 · Quelle geprüft: 17.10.2026.

Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.