Senior Cloud AI & LLMOps Engineer (GN*)

Was Dich erwartet:

🤖 Enterprise AI Operations: Du konzipierst und verantwortest die global skalierbare Betriebsinfrastruktur (Infrastruktur-Design) für geschäftskritische KI-Systeme.

⚙️ High-End Optimization: Du leitest komplexe Inferenz-Optimierungsprojekte, etablierst fortgeschrittene Quantisierungs-Verfahren und minimierst Systemlatenzen.

☁️ Global FinOps Governance: Du setzt unternehmensweite Richtlinien zur Budgetkontrolle und Kosteneffizienz im Bereich rechenintensiver KI-Anwendungen um.

🏗️ Security & Observability: Du stellst durch lückenloses Monitoring und Tracing sicher, dass alle Systeme den höchsten Standards für Datensicherheit und Compliance entsprechen.

👥 Mentoring & Teamlead: Du leitest das LLMOps-Team fachlich an, treibst die technische Standardisierung voran und berätst die Kunden-Architekten auf Augenhöhe.

🚀 Zukunftsfähigkeit: Du evaluierst wegweisende Cloud-Trends (z. B. Serverless LLM Serving) und machst unsere Betriebsinfrastrukturen fit für die nächste Generation.

Expertenkenntnisse

• Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen (Multi-Cloud, Hybrid) für geschäftskritische KI-Systeme.
• LLMOps auf Enterprise-Ebene: End-to-End Tracing, Continuous Evaluation, Monitoring, automatisierte Test-Pipelines und Governance-Schnittstellen.
• Performance- und Inferenz-Tuning von LLMs im Produktivbetrieb (Quantisierung, GPU-Auslastung, Serving-Optimierung via vLLM).

Sehr gute Kenntnisse

• Etablierung unternehmensweiter AI FinOps Strategien zur kontinuierlichen Kostenkontrolle und -optimierung.
• Sicherheits- und Compliance-Standards (Enterprise Security, API-Security, Verschlüsselung) für hochsensible Unternehmensdaten.
• Erfahrung in der fachlichen Leitung von DevOps- / Platform-Engineering-Teams und der Definition technischer Standards.

Persönlich

• Ownership: Du übernimmst die Verantwortung für die Betriebsstabilität und strategische Architekturentscheidungen hochverfügbarer KI-Infrastrukturen.
• Strategischer Weitblick: Du erkennst Technologietrends frühzeitig und überführst sie in zukunftssichere, stabile Betriebskonzepte.
• Wissensmultiplikator: Du liebst es, dein Wissen aktiv an das Team weiterzugeben und komplexe Infrastrukturthemen verständlich zu vermitteln.
• Deutsch (sehr gut) und Englisch (fließend) sowie ein abgeschlossenes IT-Studium oder eine vergleichbare Qualifikation.