remotefruitRemote Deutschland
Senior / Lead Engineer für Machine Learning und Inferenz
- Arbeitszeit
- Vollzeit
- Erfahrung
- Praktische Erfahrung mit Modellbeschleunigung, skalierter Inferenz und produktiven Backend- oder ML-Systemen ist hilfreich. Nicht alle Erfahrungsbereiche sind nötig.
- Vergütung
- Gehalt nicht angegeben
Die Rolle in Kürze
Die Rolle verbessert Leistung, Latenz und Zuverlässigkeit der KI-Inferenz, klärt offene technische Probleme und überprüft Lösungen durch Benchmarks oder Prototypen. Sie arbeitet täglich mit den in den USA ansässigen Führungs- und Engineeringteams zusammen.
Deine Aufgaben
- Die Rolle konkretisiert unklare technische Probleme und entwickelt Benchmarks oder Prototypen, um offene Fragen zu beantworten.
- Sie bearbeitet Leistung, Latenz und Zuverlässigkeit als zentrale Produkteigenschaften.
- Sie hinterfragt Architekturen, wenn andere Ansätze Latenz- oder Durchsatzprobleme besser lösen können.
- Sie arbeitet täglich mit den Führungs- und Engineeringteams in den USA zusammen.
Das solltest du mitbringen
Erforderlich
- Erwartet werden schnelles Lernen, ein sicherer Umgang mit Unklarheit und die Fähigkeit, eigene entwickelte Systeme, Fehlschläge und gewonnene Erkenntnisse nachvollziehbar zu zeigen.
- Beruflich fließendes Englisch in Wort und Schrift ist für die tägliche Zusammenarbeit mit den Führungs- und Engineeringteams in den USA erforderlich.
- Erwartet wird, ohne vorgegebenen Fahrplan selbstständig eine Richtung einzuschlagen und das weitere Vorgehen während der Arbeit zu entwickeln.
- Erwartet wird ein Verständnis von abgeschlossener Entwicklungsarbeit als ausgeliefert und stabil sowie ein Vorrang praktischer Wirkung vor rein theoretischen Optimierungen.
- Erwartet werden das Hinterfragen technischer Architekturen bei besseren Lösungen für Latenz oder Durchsatz sowie ein tiefes Verständnis des Kontexts und der grundlegenden Logik hinter Entscheidungen.
- Erwartet werden die Klärung unklarer Probleme, ein offener Umgang mit Wissenslücken und die Entwicklung geeigneter Benchmarks oder Prototypen zur Überprüfung. Arbeitsergebnisse sollen sichtbar sein; ihre Wirkung hat Vorrang.
Von Vorteil
- Hilfreich ist ein tiefes Verständnis moderner Serving-Frameworks und Verfahren wie vLLM oder TRT-LLM. Nicht alle genannten Erfahrungsbereiche müssen abgedeckt sein; insgesamt muss jedoch ausreichend passende Erfahrung vorliegen.
- Hilfreich ist praktische Erfahrung mit Quantisierung, Destillation, Caching-Strategien, Continuous Batching, Paged Attention und Speculative Decoding. Dies gehört zu den Erfahrungsbereichen, die nicht alle abgedeckt sein müssen.
- Hilfreich sind sichere Kenntnisse in C++, CUDA, Rust oder hochoptimiertem Python sowie die Fähigkeit, Code zu profilieren und die Leistung von NVIDIA-GPUs auszuschöpfen. Dies gehört zu den Erfahrungsbereichen, die nicht alle abgedeckt sein müssen.
- Hilfreich ist Erfahrung mit Kubernetes, Ray, eigenem Load Balancing, Multi-GPU- und Multi-Node-Inferenz sowie dem zuverlässigen Umgang mit Tausenden gleichzeitigen Verbindungen. Dies gehört zu den Erfahrungsbereichen, die nicht alle abgedeckt sein müssen.
- Hilfreich sind anspruchsvolle Projekte in der Systemprogrammierung, Open-Source-Beiträge zu bedeutenden Inferenz-Engines oder vertiefte technische Veröffentlichungen. Dies gehört zu den Erfahrungsbereichen, die nicht alle abgedeckt sein müssen.
- Hilfreich ist die Fähigkeit, ein Modell aus der Forschung zu übernehmen, zu containerisieren, sein Serving zu optimieren und seinen zuverlässigen Produktionsbetrieb sicherzustellen. Dies gehört zu den Erfahrungsbereichen, die nicht alle abgedeckt sein müssen.
- Hilfreich ist eine Promotion in Informatik, Physik oder Mathematik oder gleichwertige praktische Erfahrung im Aufbau von Backend- oder ML-Systemen. Dies gehört zu den Erfahrungsbereichen, die nicht alle abgedeckt sein müssen.
Das wird angeboten
- Bei Interesse an einem späteren Umzug in die San Francisco Bay Area kann vollständige Unterstützung für ein US-Visum und den Umzug verfügbar sein, abhängig vom betrieblichen Bedarf und den geltenden rechtlichen Anforderungen einschließlich der Arbeitsberechtigung.
- Das Teilen von Arbeitsergebnissen und Open-Source-Beiträge, die das Fachgebiet voranbringen, werden unterstützt.
Veröffentlicht: 07.04.2026 · Quelle geprüft: 17.10.2026.
Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.