remotefruitRemote Deutschland
Senior Site-Reliability-Engineer für eine Inferenzplattform
- Arbeitszeit
- Nicht angegeben
- Erfahrung
- Erforderlich ist Produktionserfahrung mit Ausfällen verteilter Backends. Erfahrung mit GPU-intensiven Workloads sowie MLOps oder Modellhosting ist von Vorteil.
- Vergütung
- Gehalt nicht angegeben
Die Rolle in Kürze
Die Rolle verantwortet den zuverlässigen Betrieb und die effiziente Skalierung des gesamten Inferenzstacks unter hoher Last. Gemeinsam mit Softwareentwicklern verbessert sie selbstheilende Systeme, verhindert wiederkehrende Störungen und verfolgt anspruchsvolle Kosten- und Zuverlässigkeitsziele.
Deine Aufgaben
- Die Rolle verantwortet Zuverlässigkeit, Leistung und Beobachtbarkeit des gesamten Inferenzstacks sowie dessen reibungslose Skalierung unter anspruchsvollen Kosten- und Zuverlässigkeitszielen.
- Sie entwickelt und verbessert Telemetriepipelines, die Hunderte Terabyte an Metriken, Logs und Traces in handlungsrelevante Erkenntnisse übersetzen.
- Zu den möglichen Arbeiten gehören die Optimierung von Kubernetes-Autoscalern für eine effizientere GPU-Nutzung, resiliente Terraform-Module für neue Cluster oder robusteres Request-Routing und Wiederholungslogik, damit vorübergehende Fehler für Nutzer unbemerkt bleiben.
- Sie erstellt Automatisierungen und Runbooks und nutzt diese bei Störungen, um Probleme innerhalb von Minuten zu erkennen, einzugrenzen und zu beheben.
- Sie treibt eine Post-Mortem-Kultur voran, die wiederkehrende Störungen verhindert.
- Sie arbeitet mit Softwareentwicklern daran, Zuverlässigkeit als für Nutzer selbstverständliche Produkteigenschaft zu verankern.
Das solltest du mitbringen
Erforderlich
- Erforderlich ist die Fähigkeit, die Plattform unter extremer Last zuverlässig zu betreiben und bei unerwarteten Ereignissen eine geordnete Wiederherstellung sicherzustellen.
- Erforderlich sind tiefgehende Kenntnisse in Kubernetes, Prometheus, Grafana, Terraform und Infrastructure as Code.
- Erwartet wird sicheres Skripting in Python oder Bash.
- Erforderlich ist ein differenziertes Verständnis von Alarmierungsdesign und SLOs für APIs mit hohem Durchsatz.
- Erforderlich ist ausreichend Erfahrung im Produktionsbetrieb, um reale Ausfallmechanismen verteilter Backends zu verstehen.
- Erwartet werden besonderes Interesse am Aufbau selbstheilender Systeme, Freude an der Analyse von Leistungsproblemen vom Kernel bis zur Anwendungsschicht und an der Zusammenarbeit mit Softwareentwicklern zur Verbesserung der Zuverlässigkeit.
- Bewerbende müssen im Land ihrer Bewerbung zur Arbeit berechtigt sein und diese Berechtigung als Einstellungsvoraussetzung nachweisen.
Von Vorteil
- Von Vorteil ist Erfahrung mit der Betreuung GPU-intensiver Workloads, etwa mit vLLM, Triton, Ray oder einem anderen Accelerator-Stack.
- Ein Hintergrund in MLOps oder Plattformen für Modellhosting ist von Vorteil.
Das wird angeboten
- Geboten werden eine wettbewerbsfähige Vergütung sowie Karriere- und Lernmöglichkeiten.
- Die Arbeit bietet Gestaltungsspielraum und Eigenverantwortung in einer kooperativen, innovativen und internationalen Teamumgebung.
- Die Rolle bietet die Möglichkeit, an wirkungsrelevanten KI-Projekten mitzuwirken und die weitere Entwicklung von KI mitzugestalten.
So läuft die Bewerbung
- Als Voraussetzung für eine Einstellung ist ein Nachweis der Arbeitsberechtigung im jeweiligen Bewerbungsland erforderlich.
- Bei Bedarf können Anpassungen für das Bewerbungsverfahren angefragt werden.
Veröffentlicht: 04.06.2025 · Quelle geprüft: 17.10.2026.
Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.