MLOps Engineer: Skills, Gehalt und der Weg in den Job

Was ein MLOps Engineer macht

Ein MLOps Engineer baut und betreibt die Maschinerie rund um Machine-Learning-Modelle: die Pipelines, die Daten aufbereiten und Modelle trainieren, die Registry, die jede Version festhält, die Services, die Anfragen beantworten, und das Monitoring, das meldet, wenn ein Modell veraltet ist. Das Ziel: Das Modell eines Data Scientists kommt vom Notebook in Produktion und zurück zum Neutraining, sicher und ohne Heldentaten. Anzeigen sagen MLOps Engineer, ML Platform Engineer, ML Infrastructure Engineer und in Deutschland manchmal MLOps Ingenieur.

Die Nachbarrollen teilen die Arbeit anders auf. Data Scientists finden das Signal und bauen die Modelle; der AI Engineer baut Produkte auf Machine Learning und großen Sprachmodellen; der Data Engineer verantwortet die Datenpipelines; der DevOps Engineer betreibt die Auslieferung von Software allgemein und der Platform Engineer die interne Plattform, auf der jedes Team baut. MLOps sitzt dort, wo sich diese Rollen treffen, für Modelle. Die Stufen vom Junior MLOps Engineer bis zum Head of ML Platform stehen in den Karrierewegen (auf Englisch).

Die Regeln für Modelle unterscheiden sich je nach Ort, und der Abschnitt jedes Landes nennt seine eigenen. Diese Seite beschreibt die Arbeit, Modelle zu betreiben; sie ist keine Rechts- oder Karriereberatung.

Die Skills, die Anzeigen verlangen

Wir lesen jeden Tag eine Stichprobe der Anzeigen und zählen die Skills, die sie nennen. Am Computer zeigt ein Skill im Text seinen Anteil, wenn du mit der Maus darauf zeigst; auf dem Handy steht dasselbe in der Tabelle.

Der Kern ist die Praxis von MLOpsDen ganzen Lebenslauf eines Modells in Produktion betreiben: bauen, testen, ausrollen, beobachten und neu trainieren, mit so wenig Handarbeit wie möglich.: CI/CDModelle und Pipelines durch dieselben automatischen Prüfungen testen und ausrollen wie andere Software. für Modelle, ContainerEin Modell und seine Abhängigkeiten in ein Image packen, das auf dem Laptop genauso läuft wie in Produktion., KubernetesTrainingsjobs und Modell-Services auf Kubernetes betreiben, mit sinnvollen Limits, Skalierung und Health Checks., Infrastruktur als Code mit TerraformDie Infrastruktur der Plattform als Code beschreiben, damit sich Umgebungen neu aufbauen und prüfen lassen. und Pipelines, die Werkzeuge wie AirflowDaten- und Trainings-Pipelines planen und überwachen, mit Wiederholungen und Alarmen, die Sinn ergeben. planen. Dazu kommen Model ServingModelle im Batch oder in Echtzeit bereitstellen, innerhalb der Latenz und der Kosten, die das Produkt tragen kann., Model MonitoringEingaben, Ausgaben und Qualität eines Live-Modells beobachten und Alarm schlagen, wenn sie sich verschieben. und in größeren Teams Feature StoresWissen, wann ein Feature Store einem Team hilft, Features wiederzuverwenden und Training und Betrieb im Gleichschritt zu halten.. Anzeigen wollen PythonDen Klebstoff der Plattform, Pipeline-Schritte und Tests in Python schreiben und den Code der Data Scientists mühelos lesen. und genug Machine LearningVerstehen, wie Modelle trainiert und bewertet werden, gut genug, um eine kaputte Metrik oder ein Datenleck zu erkennen. und PyTorchPyTorch-Trainingscode lesen und ausführen und seine Modelle für den Betrieb verpacken., um zu verstehen, was die Data Scientists übergeben.

Die Plattformen stehen gleichrangig nebeneinander, und keine ist überall Pflicht: MLflowExperimente tracken und Modelle in MLflow registrieren, mit den Parametern, Daten und Metriken, die jedes erklären. für Experimente und die Model Registry, dazu Kubeflow, SageMaker, Vertex AI und Azure ML als ML-PlattformenEine verwaltete ML-Plattform wie SageMaker, Vertex AI oder Azure ML oder Kubeflow nutzen und wissen, was sie dir abnimmt., jede an ihre Cloud gebunden, AWSML-Infrastruktur auf AWS bauen: Speicher, Rechenleistung, Berechtigungen und die Dienste, die ein Modell braucht., Google CloudML-Infrastruktur auf Google Cloud bauen, mit seinen Diensten für Speicher, Rechenleistung und verwaltete Services. oder AzureML-Infrastruktur auf Azure bauen, mit seinen Diensten für Identitäten, Speicher und Rechenleistung., außer Kubeflow, das auf jedem Kubernetes läuft. Ein großer Teil des Jobs ist, Data Scientists und Produktteams Abwägungen zu erklärenEine Plattform-Entscheidung oder einen Vorfall Data Scientists, Entwicklern und Führungskräften in einfachen Worten erklären., auf EnglischDie Sprache der Werkzeuge, der Dokumentation und der meisten internationalen ML-Teams. und in vielen deutschen Teams auf DeutschIn vielen deutschen Anzeigen verlangt, für Teams und Stakeholder in Deutschland..

Wo die Jobs sind, Land für Land

Jedes Land unten hat seine eigenen Zahlen: welche Städte die meisten Jobs in unserer Liste haben, ob die Zahl steigt oder sinkt, wie oft Anzeigen Homeoffice oder hybrides Arbeiten anbieten, die Titel im Land und Gehaltsspannen aus veröffentlichten Studien in der Landeswährung. Für Österreich haben wir keine eigene Gehaltsrecherche; dort steht, wie du eine Anzeige liest.

Die Regeln für Modelle in Produktion stehen hier gleichrangig nebeneinander, jede mit ihrem Ort. In der EU verlangt der EU AI Act Risikomanagement, Protokollierung und menschliche Aufsicht für hochriskante Systeme, und die DSGVO gilt für personenbezogene Daten in Trainingsdaten; manche deutschen Teams prüfen Cloud-KI-Dienste gegen den AIC4-Katalog des BSI; in den USA ist das NIST AI Risk Management Framework eine freiwillige Leitlinie; Großbritannien wendet die UK GDPR und seine Branchenaufsichten an; Schweizer Teams folgen dem DSG; und Indien hat seinen Digital Personal Data Protection Act. Welche davon gilt, hängt vom System und von den Daten ab, und das entscheiden die Juristen der Firma.

Ein Modell, vom Notebook in Produktion

1. Verpacken: den Trainingscode des Data Scientists in einen Pipeline-Schritt mit festen Versionen und Tests verwandeln.
2. Festhalten: jeden Trainingslauf mit seinen Daten, Parametern und Metriken protokollieren und das Modell registrieren, das die Prüfungen besteht.
3. Ausrollen: die neue Version als Canary oder im Schattenbetrieb bereitstellen, mit der alten vergleichen und dann umschalten.
4. Beobachten: Latenz, Fehler, Eingabedaten und die Qualität der Vorhersagen verfolgen, verglichen mit dem, was das Modell im Training gesehen hat.
5. Neu trainieren: einen neuen Lauf starten, wenn sich die Daten verschoben haben oder die Qualität sinkt, und die Runde beginnt von vorn.

Die meisten Fehler von Modellen in Produktion sind leise: Nichts stürzt ab, die Antworten werden einfach schlechter. Deine Aufgabe ist, das sichtbar zu machen, bevor das Geschäft es merkt.

Dein Lebenslauf für einen Job als MLOps Engineer

Den Lebenslauf eines MLOps Engineers liest zuerst eine Software, die ihn nach den Wörtern der Anzeige durchsucht, dann ein Lead Engineer, der wissen will, welche Modelle du in Produktion gebracht hast, wie sie bereitgestellt wurden und was du getan hast, als sie gedriftet sind. Zeig beides: die Stichwörter und die Belege.

Nutze die Stichwörter der Anzeige

• Beschreib die Arbeit so wie die Anzeigen: „MLOps“, „Model Deployment“, „Kubernetes“, „CI/CD“, „Monitoring“ und die Plattform, die du genutzt hast. Die Skill-Tabelle oben zeigt, welche Stichwörter die Anzeigen am häufigsten nutzen.
• Nenne den Umfang: wie viele Modelle, Anfragen pro Sekunde oder Teams die Plattform bedient hat, so weit du es sagen darfst.
• Sag, was live war: Ein Modell in Produktion für echte Nutzer zählt mehr als eine Demo.
• Einen Cloud-Kurs oder eine Prüfung, die du noch machst, schreibst du als „laufend“ mit dem geplanten Termin in den Lebenslauf.

Belege jeden Skill

Eine MLOps-Zeile belegt sich mit einem Modell, dem System darum herum und dem, was sich für das Team geändert hat.

Lass weg, was der Arbeitgeber vertraulich hält: keine Kundendaten, keine Details zu Modellen, die die Firma als Geheimnis behandelt.

Wie wir unsere Daten lesen

• Die Jobs: die Jobs als MLOps Engineer, ML Platform Engineer und ML Infrastructure Engineer und mit dem deutschen Titel MLOps Ingenieur in unserer Jobsuche, so zugeordnet, wie die Suche sie findet. Unsere Liste ist nicht der ganze Markt, deshalb nennen wir Anteile und Rangfolgen, nie Anzahlen.
• Die Skills: Wir lesen jeden Tag eine Stichprobe der Anzeigen und zählen die Skills darin mit einer festen Wortliste. Wir behalten nur diese Zählung, nie den Text der Anzeige.
• Gehalt: aus veröffentlichten Gehaltsstudien, mit Quelle und Datum, als Spanne vom Berufseinstieg bis Senior. Es ist nicht aus unseren Anzeigen berechnet.
• Datum: Jede Zahl wird täglich neu berechnet und nennt den Tag, an dem sie berechnet wurde.

Mehr zu diesem Beruf