Junior AI Application Engineer AI Products LLM & RAG (m/w/d)

Salary: 36.500 - 64.500 € per year

Requirements:

Abgeschlossenes Studium in Informatik, Software Engineering, Data Science oder einem vergleichbaren technischen Bereich

Programmierkenntnisse in Python und modernen Backend-Frameworks sowie Erfahrung mit KI-, Machine-Learning- und generativen KI-Anwendungen

Erste Erfahrung in der Entwicklung skalierbarer Backend-Systeme, APIs und Microservices sowie Kenntnisse in RAG, Vektordatenbanken und Retrieval-Technologien

Praxis in Containerisierung und DevOps (z. B. Docker, CI/CD, Kubernetes) sowie Deployment von KI-Services in Cloud-Umgebungen (AWS, Azure, GCP)

Berührungspunkte mit relevanten Frameworks (z. B. LangChain, LlamaIndex, Hugging Face)

Kenntnisse in Monitoring, Observability sowie Evaluation und Optimierung von LLM-Systemen

Sehr gute Deutsch- und Englischkenntnisse für Workshops und Kommunikation

Responsibilities:

Konzeption und Entwicklung von KI-Anwendungen wie Enterprise-Assistenten, Copiloten, semantischen Suchplattformen und Automatisierungssystemen

Unterstützung bei der Entwicklung von LLM-basierten Lösungen (inkl. RAG) sowie End-to-End-KI-Produkten unter Integration von APIs, Unternehmensdaten und Backend-Services

Aufbau skalierbarer KI-Microservices, APIs sowie Vektorsuche-, Embedding- und Retrieval-Systeme

Schnelles Prototyping von KI-Features und deren Weiterentwicklung zu produktiven Systemen

Enge Zusammenarbeit mit Produktmanagern, Designern, KI-Ingenieuren und Kunden zur Entwicklung wirkungsvoller Lösungen

Deployment von KI-Systemen in Cloud- und Produktionsumgebungen unter Nutzung moderner DevOps-Praktiken

Sicherstellung von Zuverlässigkeit, Skalierbarkeit und Observability durch CI/CD, Monitoring und containerisierte Deployments

Technologies:

AWS

Azure

Backend

CI/CD

Cloud

Data-Science

DevOps

Docker

GCP

Kubernetes

LLM

Machine Learning

Python

RAG

microservices

AI

More:

Machine Learning Reply bietet maßgeschneiderte End-to-End-Lösungen im Data-Science-Bereich an, die den gesamten Projektlebenszyklus abdecken – von der initialen Strategieberatung über die Datenarchitektur und Infrastrukturthemen bis hin zur Datenverarbeitung und Qualitätssicherung unter Verwendung von Machine-Learning-Algorithmen. Machine Learning Reply verfügt über umfassende Expertise im Bereich der Datenwissenschaft in allen Schlüsselindustrien der deutschen HDAX-Unternehmen. Machine Learning Reply befähigt unsere Kunden, neue datenbasierte Geschäftsmodelle erfolgreich einzuführen sowie bereits bestehende Prozesse und Produkte zu optimieren – mit einem Schwerpunkt auf Open-Source- und Cloud-Technologien. Mit dem Machine Learning Incubator bietet das Unternehmen ein Programm zur Ausbildung der nächsten Generation von Entscheidungsträgern, Data Scientists und Entwicklern an. Wir bieten regelmäßige und systematische Weiterbildungs- und Entwicklungsmöglichkeiten sowie eine offene, flache Umgebung innerhalb eines breiten Reply-Netzwerks zum Wissensaustausch. Zudem arbeiten wir in München in zentralen Büroräumen mit guter Anbindung und bieten eine flexible Arbeitsumgebung zwischen Kunden, Reply-Büro und Remote-Arbeit sowie weitere Benefits der Reply Gruppe.

last updated 38 week of 2026