AI Platform Engineer (w/m/d) - Karlsruhe

Salary: 40.000 - 65.000 € per year

Requirements:

Mehrjährige Erfahrung im DevSecOps/Platform-Engineering in produktiven Umgebungen; Automatisierung liegt dir im Blut.

Sehr gute Kenntnisse in Kubernetes, Python und Infrastructure as Code (Terraform, Ansible o. ä.) inkl. GitOps-Workflows.

Praxis im Betrieb verteilter Systeme inkl. Multi-Service-Orchestrierung (z. B. Reverse Proxies), Observability und Security-Hardening.

Erste oder vertiefte Erfahrung mit KI-Plattform-Bausteinen: LLM-Inferenz (z. B. vLLM/Triton), RAG, Vector-Datenbanken und Frameworks (z. B. Langchain, Pydantic, FastAPI).

Motivation, souveräne KI-Plattformen aktiv mitzugestalten und neue Technologien schnell zu erlernen; Deutsch & Englisch mind. C1.

Responsibilities:

Wir konzipieren, automatisieren und betreiben KI-Plattformen mit Kubernetes, IaC und GitOps – von Netzwerk & Security bis zu CI/CD.

Wir integrieren und konfigurieren AI-Komponenten (z. B. LLM-Serving, RAG-Pipelines, Vector-Datenbanken) und optimieren Performance & Kosten.

Wir verantworten Observability (Monitoring/Logging/Tracing) und Sicherheit (Secrets, Zertifikate, SSO/IAM, Hardening) für produktive Umgebungen.

Wir arbeiten eng mit DevOps, Architekt*innen und AI-Teams zusammen und entscheiden technologisch über Plattform-Bausteine.

Wir bauen mit uns den Managed Service für den Plattformbetrieb (SLIs/SLOs, On-Call, Incident-Prozesse) auf und entwickeln ihn weiter.

Technologies:

AI

Ansible

CI/CD

DevSecOps

DevOps

FastAPI

GitOps

IAM

Kubernetes

LLM

Python

RAG

Security

Terraform

vLLM

More:

Souveräne KI-Plattformen sind die Grundlage für sichere und leistungsfähige KI-Anwendungen. Als AI Platform Engineer (w/m/d) gestalten wir die technische Basis für LLM-Inferenz, Daten-/Vector-Stores und moderne AI-Workloads – automatisiert, skalierbar und compliant. Diese Stelle ist in Vollzeit sowie in Teilzeit zu besetzen. Wir bieten flexible Arbeitszeit- und Auszeitmodelle, mobiles Arbeiten – auch hybrid von Zuhause aus, ein Jobrad-Programm, verlängerte Entgeltfortzahlung und einen individuellen Familienservice. Capgemini ist ein globaler Partner für die KI-gestützte Geschäfts- sowie Technologietransformation. Das Unternehmen schafft messbaren Mehrwert für seine Kunden, indem es die Zukunft von Organisationen gestaltet und im Zusammenspiel von KI, Technologie sowie dem Mensch Realität werden lässt. Seit fast 60 Jahren steht Capgemini für Verantwortung wie auch Vielfalt und beschäftigt 420.000 Mitarbeitende in über 50 Ländern.

last updated 38 week of 2026