Für die Abteilung KI Plattform suchen wir zum nächstmöglichen Termin für den Standort Münster oder Hannover zwei
MLOps Engineer (m/w/d) CI / CD & Inference Services
~ Vollzeit
Als einer der größten Banken-IT-Dienstleister und Digitalisierungspartner Europas sind wir der Treiber der Digitalisierung innerhalb der Sparkassen-Finanzgruppe. 000 Mitarbeiter:innen an 3 Standorten machen wir digitales Banking von heute leistungsfähig und entwickeln smarte Finanz-Services von morgen. Ob App-Entwicklung, Netzwerktechnologien und Serverbetrieb oder Beratung, Schulung und Support â bei uns finden Sie Ihre Berufung Alles mit besten Karrierechancen, viel Raum für persönliche Entfaltung und zahlreichen Benefits.
Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.
Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen â und suchen Kollegen, die entweder im Bereich CI/CD & Plattformautomatisierung oder im Bereich LLM-Infrastruktur & Inferenzservices ihre Expertise mit einbringen und weiter ausbauen.
Entwicklung von APIs im Python-Ökosystem zur Steuerung von Modellbereitstellungen, Statusabfragen und Konfigurationsmanagement.
Unterstützung bei der Bereitstellung unimodaler (z.?B. LLM, OCR, SST/TTS) und multimodaler KI-Modelle mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM.
Interdisziplinäre Zusammenarbeit mit Fachbereichen, Einbringung von Erfahrung in Architekturentscheidungen sowie Beratung zur Weiterentwicklung der Plattformdienste.
Aktiver Austausch mit globalen Technologiepartnern zur zukunftsorientierten Weiterentwicklung der Plattformarchitektur.
Erfahrung in der Entwicklung von REST-APIs in Python (z.?B. mit FastAPI oder Flask)
Optional, aber wertvoll: Erfahrung mit LLM-Inferenz, z.?B. via Nvidia Triton, NIM, vLLM oder Huggingface TGI/TEI
Teamgeist, Eigeninitiative und die Lust, komplexe Systeme für echte Anwendungen nutzbar zu machen sowie analytisches und kreatives Denken und eigenverantwortliches Handeln
Sollten Sie vorab weitere Auskünfte zu dieser Stelle wünschen, steht Ihnen gerne Frau Maren Lukas zur Verfügung.