Intermediate Cloud AI & LLMOps Engineer (GN*)

Was Dich erwartet:

🤖 LLMOps-Infrastruktur: Du entwirfst und betreibst stabile Pipelines für das Deployment, das Monitoring und das Tracing von LLMs (z. B. mit LangSmith oder Arize Phoenix).

⚙️ Inferenz-Optimierung: Du optimierst die Performance und Latenz von Modellen in der Produktion durch Techniken wie Quantisierung.

☁️ Enterprise Cloud Integration: Du bindest Cloud-AI-Dienste (wie Azure OpenAI Service oder AWS Bedrock) nahtlos an bestehende Enterprise-Infrastrukturen an.

🏗️ AI FinOps: Du überwachst und optimierst die Token-Verbräuche und Cloud-Infrastrukturkosten (Cost Optimization).

👥 Automatisierung: Du schreibst „Infrastructure as Code“ (z. B. via Terraform), um KI-Umgebungen automatisiert und reproduzierbar aufzusetzen.

🚀 Schnittstellen-Brücke: Du bist das Bindeglied zwischen den AI-Software-Entwicklern und dem klassischen IT-Betrieb der Kunden.

Sehr gute Kenntnisse

• Konzeption, Aufbau und Betrieb von LLMOps-Pipelines (z. B. Deployment, Monitoring, Evaluation und Tracing mit LangSmith oder Arize Phoenix).
• Cloud-Plattformen (Azure, AWS oder GCP) und deren spezifischen KI-Diensten (z. B. Azure OpenAI Service, AWS Bedrock).
• DevOps-Tools zur Container-Orchestrierung (Docker, Kubernetes) und dem Entwurf von CI/CD-Pipelines.

Solide Kenntnisse

• Infrastructure as Code (IaC) mit Tools wie Terraform.
• Konzepte zur Inferenz-Optimierung (Quantisierung, Caching) und Kostenkontrolle (AI FinOps).
• Sicherheits- und Compliance-Standards im Umgang mit Unternehmensdaten in Cloud-Umgebungen.

Persönlich

• Systemisches Denken: Du behältst die Systemstabilität, Skalierbarkeit und Kosteneffizienz von Infrastrukturen immer im Blick.
• Kommunikationsstärke: Du agierst souverän und verständlich als Bindeglied zwischen der KI-Software-Entwicklung und dem IT-Betrieb unserer Kunden.
• Deutsch (sehr gut) und Englisch (gut) sowie ein abgeschlossenes IT-Studium oder eine vergleichbare Qualifikation.