Junior AI Application Engineer LLM & RAG (m/w/d) - Munich

Salary: 36.500 - 64.500 € per year

Requirements:

Abgeschlossenes Studium in Informatik, Software Engineering, Data Science oder einem vergleichbaren technischen Bereich

Programmierkenntnisse in Python und modernen Backend-Frameworks sowie Erfahrung mit KI-, Machine-Learning- und generativen KI-Anwendungen

Erste Erfahrung in der Entwicklung skalierbarer Backend-Systeme, APIs und Microservices sowie Kenntnisse in RAG, Vektordatenbanken und Retrieval-Technologien

Praxis in Containerisierung und DevOps (z. B. Docker, CI/CD, Kubernetes) sowie Deployment von KI-Services in Cloud-Umgebungen (AWS, Azure, GCP)

Berührungspunkte mit relevanten Frameworks (z. B. LangChain, LlamaIndex, Hugging Face)

Kenntnisse in Monitoring, Observability sowie Evaluation und Optimierung von LLM-Systemen

Sehr gute Deutsch- und Englischkenntnisse für Workshops und Kommunikation

Responsibilities:

Konzeption und Entwicklung von KI-Anwendungen wie Enterprise-Assistenten, Copiloten, semantischen Suchplattformen und Automatisierungssystemen

Unterstützung bei der Entwicklung von LLM-basierten Lösungen (inkl. RAG) sowie End-to-End-KI-Produkten unter Integration von APIs, Unternehmensdaten und Backend-Services

Aufbau skalierbarer KI-Microservices, APIs sowie Vektorsuche-, Embedding- und Retrieval-Systeme

Schnelles Prototyping von KI-Features und deren Weiterentwicklung zu produktiven Systemen

Enge Zusammenarbeit mit Produktmanagern, Designern, KI-Ingenieuren und Kunden zur Entwicklung wirkungsvoller Lösungen

Deployment von KI-Systemen in Cloud- und Produktionsumgebungen unter Nutzung moderner DevOps-Praktiken

Sicherstellung von Zuverlässigkeit, Skalierbarkeit und Observability durch CI/CD, Monitoring und containerisierte Deployments

Technologies:

AI

AWS

Azure

Backend

CI/CD

Cloud

Data-Science

DevOps

Docker

GCP

Kubernetes

LLM

Machine Learning

Python

RAG

microservices

More:

Machine Learning Reply bietet maßgeschneiderte End-to-End-Lösungen im Data-Science-Bereich an, die den gesamten Projektlebenszyklus abdecken – von der initialen Strategieberatung über die Datenarchitektur und Infrastrukturthemen bis hin zur Datenverarbeitung und Qualitätssicherung unter Verwendung von Machine-Learning-Algorithmen. Wir verfügen über umfassende Expertise im Bereich der Datenwissenschaft in allen Schlüsselindustrien der deutschen HDAX-Unternehmen. Wir befähigen unsere Kunden, neue datenbasierte Geschäftsmodelle erfolgreich einzuführen sowie bereits bestehende Prozesse und Produkte zu optimieren – mit einem Schwerpunkt auf Open-Source- und Cloud-Technologien. Mit dem Machine Learning Incubator bieten wir ein Programm zur Ausbildung der nächsten Generation von Entscheidungsträgern, Data Scientists und Entwicklern an. Wir bieten regelmäßige und systematische externe und interne Weiterbildungsmöglichkeiten in den Bereichen Generative AI, LLM-Entwicklung, Cloud-Architektur und Data Science, arbeiten in einer offenen, flachen Umgebung innerhalb eines breiten Reply-Netzwerks zum Wissensaustausch und bieten preisgekrönte Büroräume in der Münchner Innenstadt mit Zugang zur Stammstrecke, ein Deutschlandticket sowie Unterstützung sportlicher Aktivitäten über den EGYM Wellpass. Zudem ermöglichen wir eine flexible Arbeitsumgebung zwischen Kunden, Reply-Büro und Remote-Arbeit.

last updated 37 week of 2026