Über die Rolle

Du arbeitest in einem kleinen, hands-on AI-Engineering-Team bei der MEDIAN Unternehmensgruppe — einem der größten Anbieter für Rehabilitation und Nachsorge in Deutschland. Wir bauen produktive AI-Systeme für klinische Anwendungsfälle: Voice Ambient Dokumentation, automatisierte Befundprüfung, Voice Agents im Patientenkontakt und ein internes AI-Portal. Unsere Plattform läuft vollständig on-premises auf eigener GPU-Infrastruktur und einer selbst entwickelten Linux-Distribution nach Immutable-OS-Philosophie — kein US-Hyperscaler im kritischen Pfad, harte EU-Souveränitäts- und DSGVO-/NIS2-Anforderungen.

• Entwicklung und Produktivsetzung von LLM-basierten Anwendungen für klinische Use Cases (Voice Ambient Dokumentation, Befundprüfung, Voice Agent)
• Betrieb und Skalierung unserer LLM-Inferenz-Infrastruktur (vLLM, Quantisierung, Prefix Caching, Multi-GPU-Serving)
• Konzeption und Umsetzung von Data Pipelines, inkl. DSGVO-konformer synthetischer Datengenerierung und PII-Verarbeitung
• Aufbau und Pflege von GraphRAG-Architekturen sowie Evaluierungs- und Monitoring-Pipelines (Langfuse, eigene Eval-Suiten)
• GitOps-basierte Automatisierung von Build-, Deploy- und Rollout-Prozessen (ArgoCD, Helm/Kustomize)
• Integration von Security- und Compliance-Anforderungen (DSGVO, NIS2, Betriebsrats-Dokumentation, SBOM-Pflege)
• Optimierung bestehender Systeme hinsichtlich Latenz, GPU-Auslastung und Genauigkeit
• Weiterentwicklung unserer internen AI-Plattform und Tools (Backend in Rust, Frontend in Svelte 5)
• Code- und Model-Reviews, Pair Programming, gemeinsame Architekturentscheidungen

• Programmierung: Sehr gute Kenntnisse in Python; Rust und/oder TypeScript/Svelte sind ein klarer Pluspunkt — wir bauen kritische Komponenten zunehmend in Rust
• KI-Frameworks: Sicherer Umgang mit PyTorch, transformers, vLLM oder vergleichbaren Inferenz-Stacks
• MLOps in der Praxis: Erfahrung mit Kubernetes, GitOps (ArgoCD o. ä.), Container-Builds, Helm/Kustomize
• Datenbanken & Storage: PostgreSQL (idealerweise mit Patroni/StackGres oder vergleichbaren HA-Setups), Vektor-Datenbanken (Qdrant von Vorteil); Erfahrung mit Knowledge Graphs und hybrider Suche willkommen
• KI-Technologien: Praktische Erfahrung mit LLM-Inferenz, LoRA-Fine-Tuning, GraphRAG/RAG, Long-Context-Strategien und Prompt-Engineering
• Fine-Tuning/Posttraining: Vertrautheit mit SFT, DPO/GRPO oder vergleichbaren Verfahren von Vorteil
• Software-Engineering: TDD, automatisierte Tests, Code-Reviews, Clean-Code-Prinzipien — wir liefern Produktionssysteme, keine Notebooks
• Methodik (optional, aber gern gesehen): Mehrjährige Erfahrung in agilen Teams (Scrum/Kanban), eigenverantwortliches Arbeiten in einem kleinen Team mit hoher technischer Verantwortung
• Kommunikation: Sicheres Deutsch und Englisch, Fähigkeit zur Vermittlung komplexer Themen an klinische und nicht-technische Stakeholder
• Compliance-Bewusstsein: Verständnis für DSGVO, NIS2 und Security-Best-Practices im Healthcare-Kontext
• Infrastruktur (optional, aber gern gesehen): Erfahrung mit On-Premises-Kubernetes, Immutable-OS-Konzepten, GPU-Operator, Confidential Computing oder verteilten Storage-Lösungen (z. B. Longhorn, TopoLVM)

Wir schätzen Vielfalt und fördern Chancengleichheit, unabhängig von Alter, Herkunft, Geschlecht, Behinderung oder Religion. Bei uns zählt der Mensch mit seiner Persönlichkeit und seinen Kompetenzen.