Zum Inhalt springen
DE+
DE+

Remote in mehreren Gebieten · Belegte Arbeits-/Kandidatenstandorte: Vereinigte Staaten oder Europa.

Machine-Learning-Engineer für den operativen Betrieb

Die Rolle verantwortet den gesamten produktiven Inferenzstack für Text-to-Speech (TTS) und automatische Spracherkennung (ASR). Gemeinsam mit dem Forschungsteam werden trainierte Modell-Checkpoints in latenzarme Echtzeit-Streamingdienste auf GPUs überführt. Zum Verantwortungsbereich gehören Inferenz-Engines, Kubernetes-Infrastruktur, Leistungsmessung und Genauigkeitsvalidierung. Bei der Skalierung werden Latenz, Durchsatz, Kosten und Genauigkeit gesteuert.

  • GPU-Optimierung
    GPU-Optimierung · erforderlich

    Erforderlich sind Kenntnisse der GPU-Leistungsoptimierung mit Profiling mittels Nsight Systems und PyTorch Profiler sowie zu Speicherbandbreite und CPU-GPU-Synchronisation.

  • +5
    • Model Serving · erforderlich

      Erforderlich ist ein fundiertes Verständnis des Model Serving einschließlich Continuous Batching, KV-Cache-Verwaltung und Anfragenplanung.

    • Python · erforderlich

      Fundierte Python-Kenntnisse werden gemeinsam mit fundierten PyTorch-Kenntnissen und einem rigorosen Vorgehen bei Leistungsbenchmarks vorausgesetzt.

    • PyTorch · erforderlich

      Fundierte PyTorch-Kenntnisse werden gemeinsam mit fundierten Python-Kenntnissen und einem rigorosen Vorgehen bei Leistungsbenchmarks vorausgesetzt.

    • Kubernetes · erforderlich

      Erforderlich ist Produktionserfahrung mit Kubernetes sowie mit CI/CD und Cloud-Infrastruktur.

    • Sprachverarbeitung · erforderlich

      Erforderlich ist Erfahrung mit Sprach- oder Audiomodellen, etwa Text-to-Speech (TTS), automatischer Spracherkennung (ASR) und Stimmkonvertierung.

Gehalt
Bedingter Berufsvergleich: 64.956 – 95.628 € brutto / Jahr Annahme: Vollzeit-Anstellung in Deutschland. Ob diese Bedingungen für die Stelle gelten, ist nicht vollständig belegt. Die Spanne zeigt das 25. bis 75. Perzentil der Bruttoentgelte sozialversicherungspflichtiger Vollzeitbeschäftigter in der zugeordneten Berufs- und Anforderungsgruppe in Deutschland, einschließlich Sonderzahlungen. Die Berufszuordnung erfolgt durch RemoteFruit. Datenquelle: BA/Entgeltatlas 2025. Monatswerte × 12. Keine Prognose des konkreten Stellengehalts und keine Gehaltszusage des Unternehmens. BA/Entgeltatlas 2025 · Annahme: Vollzeit-Anstellung in DE · mittlere 50 % · inkl. Sonderzahlungen Zuordnung berechnet am: 31.10.2026.Vergleichswert · pro Jahr
Umfang
Vollzeit
Erfahrung
Siehe Details

Deine Aufgaben

  • Streaming-Inferenz-Engines für TTS- und ASR-Modelle einschließlich mehrstufiger Modellpipelines werden entwickelt und optimiert.
  • Latenz bis zum ersten Datenabschnitt, p50/p99-Latenzen und Durchsatz werden mit Continuous Batching, CUDA Graphs, torch.compile und Mixed Precision optimiert.
  • Automatisierte Genauigkeitsregressionstests sichern die numerische Übereinstimmung mit der Referenzimplementierung je Verarbeitungsstufe und durchgängig über die gesamte Pipeline.
  • GPU-Inferenzdienste werden auf Kubernetes bereitgestellt und betrieben; dazu gehören Autoscaling, Containerisierung und Infrastructure as Code.
  • Für Modellartefakte werden CI/CD-Prozesse mit Modellversionierung und reproduzierbaren Releases aufgebaut.
  • Observability und Leistungsbenchmarks erfassen p50/p99-Latenzen, Echtzeitfaktor (RTF), GPU-Auslastung und Kosten pro Anfrage.
  • Neue Modelle werden gemeinsam mit dem Forschungsteam in den produktiven Betrieb überführt.

Das solltest du mitbringen

Erforderlich ist praktische Erfahrung mit Bereitstellung, Skalierung und Optimierung produktiver ML-Modelle über reine API-Nutzung hinaus sowie mit Sprach- oder Audiomodellen.

Erforderlich8 Punkte

  • Erforderlich ist praktische Erfahrung mit Bereitstellung, Skalierung und Optimierung von ML-Modellen im Produktivbetrieb, die über die bloße Nutzung von Modell-APIs hinausgeht.
  • Erforderlich sind anwendbare Kenntnisse des gesamten Inferenzstacks von CUDA-Kernels bis zu Serving-Frameworks sowie vertiefte Kenntnisse in einigen Schichten; Expertise in sämtlichen Schichten wird nicht erwartet.
  • Erforderlich sind Kenntnisse der GPU-Leistungsoptimierung mit Profiling mittels Nsight Systems und PyTorch Profiler sowie zu Speicherbandbreite und CPU-GPU-Synchronisation.
  • Erforderlich ist ein fundiertes Verständnis des Model Serving einschließlich Continuous Batching, KV-Cache-Verwaltung und Anfragenplanung.
  • Erforderlich ist Produktionserfahrung mit Kubernetes, CI/CD und Cloud-Infrastruktur.
  • Erforderlich sind fundierte Python- und PyTorch-Kenntnisse sowie ein rigoroses Vorgehen bei Leistungsbenchmarks.
  • Erforderlich ist Erfahrung mit Sprach- oder Audiomodellen, etwa TTS, ASR und Stimmkonvertierung.
  • Erforderlich ist Erfahrung mit Inferenz-Frameworks wie vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT oder Triton Inference Server.

Das wird angeboten

  • Für Stellen mit Standort in den USA werden eine wettbewerbsfähige Vergütung und Unternehmensbeteiligungen angeboten.
  • Für Stellen mit Standort in den USA werden Kranken-, Zahn- und Sehkraftversicherungen mit 99,99 % arbeitgeberfinanzierten Beiträgen sowie eine Mitgliedschaft bei einem medizinischen Versorgungsanbieter angeboten.
  • Für Stellen mit Standort in den USA gibt es 42 bezahlte freie Tage: 15 PTO-Tage, 10 Krankheitstage, 15 betriebliche Feiertage und 2 frei wählbare Feiertage.
  • Für Stellen mit Standort in den USA werden großzügige Elternfreistellung und Unterstützung bei Kinderwunsch angeboten.
  • Für Stellen mit Standort in den USA wird ein 401(k)-Altersvorsorgeplan angeboten.
  • Für Stellen mit Standort in den USA steht ein Lifestyle-Ausgabenkonto mit $500 pro Monat zur freien Verwendung zur Verfügung.
  • Für Beschäftigte im Büro werden bei Stellen mit Standort in den USA kostenloses Mittagessen und Snacks angeboten.

Passt die Stelle? Öffne mit Premium den Bewerbungsweg.

Bewerbungslink freischalten

Ähnliche Remote-Stellen

Weitere aktuelle Angebote mit passenden beruflichen Schwerpunkten.

Alle Jobs ansehen →
  • DE+
    DE+

    Remote in mehreren Gebieten · Belegte Arbeits-/Kandidatenstandorte: Israel oder Europa.

    MLOps-Ingenieur:in

    Die Rolle entwickelt und betreibt skalierbare ML-Pipelines, Modellbereitstellung und Inferenzinfrastruktur. Weitere Aufgaben sind Monitoring, effiziente GPU-Nutzung und Dateninfrastruktur.

    Annahme: Anstellung als Arbeitnehmer in Deutschland. Ob diese Bedingungen für die Stelle gelten, ist nicht vollständig belegt. Rechnerischer Jahresvergleich: 40 Stunden/Woche × 52 Wochen = 2.080 Stunden/Jahr. 32,37 € je Stunde × 2.080 Stunden, auf volle 100 € gerundet: ≈ 67.300 €. Einheitliche Vollzeit-Vergleichsbasis, keine Angabe der tatsächlichen Arbeitszeit dieser Stelle. Keine Berechnung des tatsächlichen Jahres- oder Teilzeitgehalts; zusätzliche Sonderzahlungen werden nicht hinzugerechnet. Statistischer Mittelwert (kein Median) für die breite ISCO-08-Berufsgruppe 2: Professionals. Eurostat SES 2022, Deutschland, April 2022: 32,37 € brutto je bezahlter Stunde. Vergleichsgruppe: Arbeitnehmer in Voll- und Teilzeit einschließlich bezahlter Werkstudenten, Unternehmen mit mindestens 10 Beschäftigten, Wirtschaftsbereiche B–S ohne öffentliche Verwaltung (O). Kein studentenspezifischer Wert, kein Anforderungsniveau und kein konkretes Stellengehalt. Bei deutschen Bildungsberufen sind öffentliche Beschäftigtendaten teilweise geschätzt; auch die amtliche Berufszuordnung ist mit Unsicherheit behaftet. Quelle: https://doi.org/10.2908/EARN_SES22_14 (Abruf 28.10.2026). Auswahl und deutschsprachige Erläuterung: RemoteFruit; Eurostat trägt dafür keine Verantwortung.Vergleichswert · pro Jahr
  • DE+
    DE+

    Remote in mehreren Ländern · Belegte Arbeits-/Kandidatenstandorte: Deutschland oder Vereinigtes Königreich oder Vereinigte Staaten. · Die Arbeit erfolgt remote; regelmäßig finden gemeinsame Offsites an wechselnden Orten weltweit statt.

    Ingenieur für KI und maschinelles Lernen

    Die Rolle entwickelt und betreibt skalierbare ML-Systeme für eine Content-Plattform. Im Mittelpunkt stehen produktive Modelle, multimodale KI, effiziente Inferenz und die Zusammenarbeit mit Data-Science-Teams.

    Bedingter Berufsvergleich: 60.408 – 92.676 € brutto / Jahr Annahme: Vollzeit-Anstellung in Deutschland. Ob diese Bedingungen für die Stelle gelten, ist nicht vollständig belegt. Die Spanne zeigt das 25. bis 75. Perzentil der Bruttoentgelte sozialversicherungspflichtiger Vollzeitbeschäftigter in der zugeordneten Berufs- und Anforderungsgruppe in Deutschland, einschließlich Sonderzahlungen. Die Berufszuordnung erfolgt durch RemoteFruit. Datenquelle: BA/Entgeltatlas 2025. Monatswerte × 12. Keine Prognose des konkreten Stellengehalts und keine Gehaltszusage des Unternehmens. BA/Entgeltatlas 2025 · Annahme: Vollzeit-Anstellung in DE · mittlere 50 % · inkl. Sonderzahlungen Zuordnung berechnet am: 01.11.2026.Vergleichswert · pro Jahr
  • DE
    DE

    Remote aus Deutschland · Belegte Arbeits-/Kandidatenstandorte: Deutschland.

    Senior / Lead Engineer für Machine Learning und Inferenz

    Die Rolle bearbeitet Leistungs-, Latenz- und Zuverlässigkeitsprobleme bei der KI-Inferenz und entwickelt dafür Benchmarks oder Prototypen.

    Bedingter Berufsvergleich: 64.956 – 95.628 € brutto / Jahr Annahme: Vollzeit-Anstellung in Deutschland. Ob diese Bedingungen für die Stelle gelten, ist nicht vollständig belegt. Die Spanne zeigt das 25. bis 75. Perzentil der Bruttoentgelte sozialversicherungspflichtiger Vollzeitbeschäftigter in der zugeordneten Berufs- und Anforderungsgruppe in Deutschland, einschließlich Sonderzahlungen. Die Berufszuordnung erfolgt durch RemoteFruit. Datenquelle: BA/Entgeltatlas 2025. Monatswerte × 12. Keine Prognose des konkreten Stellengehalts und keine Gehaltszusage des Unternehmens. BA/Entgeltatlas 2025 · Annahme: Vollzeit-Anstellung in DE · mittlere 50 % · inkl. Sonderzahlungen Zuordnung berechnet am: 29.10.2026.Vergleichswert · pro Jahr
  • DE+
    DE+

    Remote in mehreren Ländern · Belegte Arbeits-/Kandidatenstandorte: Deutschland oder Spanien oder Vereinigtes Königreich oder Irland oder Niederlande oder Portugal. · Die Tätigkeit erfolgt vollständig remote. Für diese Rolle sind Einstellungen bei Standort im Vereinigten Königreich, in Irland, Deutschland, Portugal, Spanien oder den Niederlanden möglich.

    Senior-KI-Engineer – EU

    Die Rolle entwickelt generative KI, RAG-Systeme und agentische Anwendungen vom Prototyp bis zum zuverlässigen Produktivbetrieb. Sie verbindet Forschungsauswertung mit skalierbarer Infrastruktur, Evaluation und technischer Qualitätssicherung.

    Bedingter Berufsvergleich: 64.956 – 95.628 € brutto / Jahr Annahme: Vollzeit-Anstellung in Deutschland. Ob diese Bedingungen für die Stelle gelten, ist nicht vollständig belegt. Die Spanne zeigt das 25. bis 75. Perzentil der Bruttoentgelte sozialversicherungspflichtiger Vollzeitbeschäftigter in der zugeordneten Berufs- und Anforderungsgruppe in Deutschland, einschließlich Sonderzahlungen. Die Berufszuordnung erfolgt durch RemoteFruit. Datenquelle: BA/Entgeltatlas 2025. Monatswerte × 12. Keine Prognose des konkreten Stellengehalts und keine Gehaltszusage des Unternehmens. BA/Entgeltatlas 2025 · Annahme: Vollzeit-Anstellung in DE · mittlere 50 % · inkl. Sonderzahlungen Zuordnung berechnet am: 01.11.2026.Vergleichswert · pro Jahr

Veröffentlicht: 28.07.2026 · Quelle geprüft: 03.11.2026.

Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.