Freiberufliche Fachkraft für RAG- und Prompt-Engineering

Arbeitszeit: Der Arbeitsumfang wird vereinbart. Die Arbeitszeiten können abhängig vom Arbeitsaufkommen selbst festgelegt werden.
Erfahrung: Erforderlich sind mehrere Jahre Erfahrung in der Softwareentwicklung sowie mindestens ein selbst in den Produktivbetrieb überführtes RAG-System.
Vergütung: Gehalt nicht angegeben

Die Rolle in Kürze

Die Rolle entwickelt und prüft RAG-Systeme für Kundenprojekte, damit KI-Assistenten nachvollziehbare Antworten liefern und Wissenslücken offenlegen. Gemeinsam mit dem Team werden passende Modelle ausgewählt; technische Abwägungen werden Kunden verständlich erklärt. Der projektbasierte Einsatz beginnt ab dem 11. November 2026; eine Verlängerung ist möglich, die Vergütung erfolgt nach Vereinbarung.

Deine Aufgaben

Für Kundenprojekte werden RAG-Pipelines konzipiert, Datenquellen angebunden, Dokumente aufbereitet und sinnvoll segmentiert sowie Embeddings und Retrieval-Verfahren ausgewählt.
Die Pipelines werden je nach Projekteignung mit LangChain, LangGraph oder LlamaIndex umgesetzt.
System- und Nutzerprompts werden geschrieben und versioniert, sodass Antworten auf ihre Quellen zurückgeführt werden können und das Modell Wissenslücken offenlegt.
Testsets mit typischen Kundenfragen werden erstellt; Retrieval- und Antwortqualität werden vor der Inbetriebnahme und nach jeder Änderung gemessen.
Gemeinsam mit dem Team wird abgewogen, ob ein Cloud-Modell wie Claude, GPT oder Mistral oder ein lokales Modell über Ollama zum Projekt passt.

Das solltest du mitbringen

Erforderlich

Mehrjährige Erfahrung in der Softwareentwicklung sowie mindestens ein selbst in den Produktivbetrieb überführtes RAG-System werden vorausgesetzt.
Der sichere Umgang mit LangChain oder LlamaIndex sowie mit mindestens einer Vektordatenbank oder einer Lösung für Vektorsuche wird vorausgesetzt.
Erwartet wird ein methodisches Verständnis dafür, Antwortqualität zu messen, statt sich auf das Bauchgefühl zu verlassen.
Technische Abwägungen müssen Kunden ohne technischen Hintergrund verständlich erklärt werden können.
Sichere Kommunikation auf Deutsch oder Englisch wird vorausgesetzt.
Eine eigene freiberufliche Tätigkeit oder ein selbstständiger Status mit Sitz in Deutschland, Österreich oder der Schweiz wird vorausgesetzt.

Von Vorteil

Erfahrung in der Softwareentwicklung mit Python ist ideal.
Erfahrung mit LangGraph oder Agenten-Frameworks wie CrewAI, mit Hugging Face oder mit dem Betrieb lokaler Modelle ist willkommen, aber nicht erforderlich.

So ist Remote hier geregelt

Die Zusammenarbeit erfolgt zu 100 % remote aus Deutschland, Österreich oder der Schweiz und vollständig mit der eigenen Arbeitsumgebung.

Das wird angeboten

Die Kundenprojekte haben klar definierte Ziele; eine feste Ansprechperson und regelmäßige Abstimmungen in vereinbartem Rhythmus begleiten die Zusammenarbeit.
Die für das Projekt benötigten KI-Werkzeuge werden zugänglich gemacht, beispielsweise Claude, Claude Code, ChatGPT oder OpenRouter.
Bei erfolgreicher Zusammenarbeit sind Folgeprojekte möglich, jedoch nicht garantiert.

So läuft die Bewerbung

Die Bewerbungsfrist endet am 6. Januar 2027.
Die Bewerbung umfasst einige Sätze zur Person und zu einem eigenen RAG-Projekt; auf Wunsch können dabei auch aufgetretene Schwierigkeiten beschrieben werden.
Ein Link zu einem Codeprofil, Portfolio oder beruflichen Profil genügt; formale Bewerbungsunterlagen sind nicht nötig. Eine Rückmeldung erfolgt üblicherweise innerhalb einer Woche.

Veröffentlicht: 05.10.2026 · Quelle geprüft: 17.10.2026.

Die Angaben sind für RemoteFruit einheitlich aufbereitet. Maßgeblich bleibt die Originalanzeige. RemoteFruit steht in keiner Partnerschaft mit dem ausschreibenden Unternehmen.