remotefruitRemote EU
Wissenschaftler/in oder Ingenieur/in für Performance-Optimierung
- Arbeitszeit
- Vollzeit
- Erfahrung
- Erfahrung mit Compilern und Exportern sowie der Optimierung von Inferenzlasten hinsichtlich Latenz und Durchsatz ist wünschenswert.
- Vergütung
- Gehalt nicht angegeben
Die Rolle in Kürze
Die Rolle verbessert Hardwareauslastung und Latenz multimodaler Modelle durch Profiling, Kernelentwicklung und Optimierung von Transformer-Architekturen. Sie umfasst verteilte Produktionsbereitstellung über mehrere Knoten sowie Werkzeuge für Leistungsanalyse, Überwachung und Automatisierung.
Deine Aufgaben
- GPU-, CPU- und Beschleunigercode wird durch Profiling und Optimierung auf maximale Auslastung und minimale Latenz ausgerichtet.
- Leistungsfähiger Code wird mit PyTorch, Triton und CUDA entwickelt; bei Bedarf kommen benutzerdefinierte Operationen hinzu.
- Fusionierte Kernel werden entwickelt und Tensor Cores sowie moderne Hardwarefunktionen plattformübergreifend genutzt.
- Modellarchitekturen und Implementierungen werden für den verteilten Produktionseinsatz über mehrere Knoten optimiert.
- Werkzeuge zur Leistungsüberwachung und Analyse sowie Automatisierungen werden entwickelt.
- Neue Optimierungstechniken für Transformer-Modelle werden erforscht und implementiert.
- Ein möglicher Ablauf der ersten 90 Tage sieht an den Tagen 1–30 Profiling der Trainings- und Inferenzpfade zur Ermittlung der größten Verbesserungspotenziale vor. An den Tagen 30–60 könnte eine Kernel- oder Architekturoptimierung Auslastung oder Latenz messbar verbessern; an den Tagen 60–90 könnten Überwachung und Automatisierung die erreichten Leistungsgewinne absichern.
Das solltest du mitbringen
Erforderlich
- Erforderlich sind Expertenkenntnisse in Triton- und CUDA-Programmierung sowie GPU-Optimierung.
- Erforderlich sind fundierte PyTorch-Kenntnisse einschließlich Kernelentwicklung und benutzerdefinierter Operationen.
- Erforderlich ist ein sicherer Umgang mit Profiling-Werkzeugen wie NVIDIA Nsight, torch profiler und individuell entwickelten Werkzeugen.
- Erforderlich ist ein tiefes Verständnis der internen Funktionsweise von Transformern, ihrer Architekturen und Attention-Mechanismen.
Von Vorteil
- Wünschenswert ist Erfahrung mit Compilern und Exportern wie torch.compile, TensorRT, ONNX und XLA.
- Wünschenswert ist Erfahrung mit der Optimierung von Inferenzlasten hinsichtlich Latenz und Durchsatz.
- Wünschenswert sind Kenntnisse des Triton-Compilers und von Techniken zur Kernel-Fusion.
- Wünschenswert sind Kenntnisse von Warp-Level-Intrinsics und fortgeschrittener CUDA-Optimierung.
Veröffentlicht: 08.10.2026 · Quelle geprüft: 18.10.2026.
Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.