Karriere als Machine Learning Engineer: vom Junior zum Senior, Staff und darüber hinaus
Jeder Schritt auf der Leiter als Machine Learning Engineer, vom Junior bis zum Staff und darüber hinaus: was sich im Job ändert, welche Lücke du schließen musst, wie du es im Lebenslauf und im Vorstellungsgespräch zeigst und ein realistischer Plan.
Das cvscored-Team
Inhalt
Die Leiter auf einen Blick
| Schritt | Woran du als Nächstes gemessen wirst | Typische Dauer |
|---|---|---|
| Vom Junior Machine Learning Engineer zum Machine Learning Engineer | Features, die du ohne Hilfe lieferst, getestet und gemessen | 1 bis 2 Jahre |
| Vom Machine Learning Engineer zum Senior Machine Learning Engineer | Features, die du von Anfang bis Ende verantwortest, mit Evals und Kosten | 2 bis 3 Jahre |
| Vom Senior zum Staff oder Lead Machine Learning Engineer | Standards und gemeinsame Werkzeuge, die andere Teams übernehmen | 2 bis 4 Jahre |
| Vom Staff oder Lead zum AI Architect | Entwürfe, die in einer ganzen Firma oder bei Kunden übernommen werden | 2 Jahre oder mehr |
| Vom Staff oder Lead zum Head of AI Engineering | Lieferung, Recruiting und Entwicklung eines Teams | Nachdem du ein Team geleitet hast |
| Vom Senior oder Staff zum AI Product Lead | Ergebnisse für Nutzer und dass das Richtige gebaut wird | Nach mehreren ausgelieferten KI-Features |
Wer Modelle lieber in der Produktion betreibt, als Features darauf zu bauen, kann der Leiter im MLOps bis zum Head of ML Platform folgen, beschrieben in den Karrierewegen für MLOps Engineers (auf Englisch).
Die Schritte bis zum Staff
Vom Junior Machine Learning Engineer zum Machine Learning Engineer
Was sich ändert: Du lieferst ein Feature selbstständig, von einer klaren Aufgabe bis zu einem getesteten Ergebnis, und du weißt, dass es funktioniert, weil du es gemessen hast.
Was dir fehlt: PythonIn 58 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Python für die Produktion: typisierter Code, asynchrone API-Aufrufe, Tests mit pytest, Pakete und ein kleiner Webdienst. Notebooks allein reichen nicht. für die Produktion, Aufrufe von Modell-APIs (LLMIn 59 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eine Modell-API mit Tool Use und strukturierter Ausgabe aufrufen. Tokens und Kosten zählen; Rate Limits, Wiederholungen und Timeouts behandeln.), ein erstes Retrieval-Feature (RAGIn 28 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Retrieval von Anfang bis Ende bauen: Chunking, Embeddings, Stichwort- und Vektorsuche, Reranking, Quellenangaben und ein Eval-Set, das es misst.), ein kleiner Satz Testfragen (EvalsIn 5 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eval-Sets, Stichproben, LLM als Bewerter und deren Grenzen, Regressions-Gates sowie Budgets für Kosten und Wartezeit in der CI.), GitIn 32 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Branches, Reviews und eine saubere Historie; Prompts und Eval-Sets werden wie Code versioniert. und CI/CDIn 37 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Jede Änderung durchläuft Tests und Evals, bevor sie live geht; ein gescheitertes Gate stoppt das Release..
Im Lebenslauf und im Vorstellungsgespräch: eine Zeile pro Feature, das du gebaut hast, mit dem, was es tut, und einem Ergebnis. Rechne mit Fragen dazu, wie du die Antworten eines Modells testen würdest und was du tust, wenn es scheitert.
Plan (6 bis 12 Monate, im Job): Bring ein Feature von Anfang bis Ende; schreib seine Testfragen; lass jede Änderung reviewen; lies jede Woche die Logs deines Features.
Vom Machine Learning Engineer zum Senior Machine Learning Engineer
Was sich ändert: Du verantwortest ein Feature von der Frage bis zur Produktion, mit seinen Evals, seinen Kosten und dem, was passiert, wenn es kaputtgeht. Du wählst die Entwürfe, und andere bauen darauf auf.
Was dir fehlt: Systemdesign mit Zahlen, Methoden für EvalsIn 5 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eval-Sets, Stichproben, LLM als Bewerter und deren Grenzen, Regressions-Gates sowie Budgets für Kosten und Wartezeit in der CI. und Release-Gates, Abwägungen zwischen Kosten und Tempo, AgentenIn 35 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eine Tool-Calling-Schleife mit Grenzen für Schritte, Zeit und Kosten, klaren Tool-Beschreibungen, Fehlerbehandlung und einem Protokoll jedes Schritts. mit Grenzen, die Arbeit anderer reviewen, Design-Dokumente schreiben.
Im Lebenslauf und im Vorstellungsgespräch: eine Zeile pro System, das du verantwortet hast, mit einem gemessenen Ergebnis. Rechne mit einer Designfrage mit Abwägungen und einer Geschichte über einen Fehler in der Produktion und was du danach geändert hast.
Plan (6 bis 12 Monate, im Job): Leite ein Feature von Anfang bis Ende; schreib sein Eval-Set und sein Release-Gate; schreib zwei Design-Dokumente und lass sie reviewen; mach jede Woche Code-Reviews.
Vom Senior Machine Learning Engineer zum Staff oder Lead Machine Learning Engineer
Was sich ändert: Dein Einfluss reicht über Teams hinweg. Du setzt gemeinsame Werkzeuge und Standards, etwa den Eval-Aufbau, die Wahl der Modelle und die Sicherheitsregeln, und du schreibst selbst weniger Features.
Was dir fehlt: Planung über mehrere Systeme hinweg, Leute überzeugen, die nicht an dich berichten, Mentoring, Risiken steuern, entscheiden, was gekauft und was selbst gebaut wird, und KI-Dienste zuverlässig betreiben (MLOpsIn 12 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Modelle ausliefern und betreiben: versionierte Daten und Modelle, CI/CD, Serving, Monitoring, Rollbacks., KubernetesIn 22 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Einen Dienst ausrollen und skalieren: Deployments, Autoscaling, Secrets, GPU-Knoten für das Model Serving.).
Im Lebenslauf und im Vorstellungsgespräch: Standards, die andere Teams übernommen haben, und wie weit sie gereicht haben. Rechne mit einer Geschichte über eine Meinungsverschiedenheit, die du mit Daten gelöst hast.
Plan (12 Monate oder mehr): Bau oder verantworte ein gemeinsames Werkzeug, zum Beispiel das Release-Gate für Evals; schreib ein Entscheidungsprotokoll, dem andere folgen; begleite zwei Entwickler als Mentor.
Die Schritte nach dem Staff
Vom Staff oder Lead Machine Learning Engineer zum AI Architect
Was sich ändert: Du entwirfst die KI-Seite einer ganzen Firma oder der Systeme von Kunden: welche Anwendungen gebaut werden, Referenzarchitekturen, Sicherheit, Datenschutz und Anbieter. Oft hat die Rolle Kundenkontakt, bei einer Beratung oder einem Cloud-Partner.
Was dir fehlt: Unternehmensarchitektur, eine Cloud wie AzureIn 23 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eine sehr verbreitete Cloud für KI-Arbeit in Europa: Identitäten, Netzwerk, Speicher und Azure OpenAI. oder AWSIn 15 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Kerndienste, IAM und Netzwerk; Bedrock oder SageMaker für Modelle. je nach Anbieter auf Architektenniveau, Datenschutz und KI-Recht in der Praxis (DSGVOIn 23 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Personenbezogene Daten in Prompts, Logs und Indizes (DSGVO): Zweck, Datensparsamkeit, Ort der Verarbeitung und Löschung. und der EU AI Act in Europa), Kostenschätzungen und Präsentationen vor Entscheidern.
Im Lebenslauf und im Vorstellungsgespräch: Referenzarchitekturen, die übernommen wurden, die Größe der Projekte, Zertifikate. Rechne mit einem Entwurf am Whiteboard vor Leuten, die keine Entwickler sind.
Plan (9 bis 12 Monate): ein Zertifikat als Cloud-Architekt; zwei schriftliche Referenzarchitekturen, zum Beispiel eine Suche über Firmendokumente und ein Agent, der mit Geschäftssystemen arbeitet; stell eine davon einem gemischten Publikum vor.
Vom Staff oder Lead Machine Learning Engineer zum Head of AI Engineering
Was sich ändert: Die Menschen kommen zuerst: Recruiting, Entwicklung, Lieferung und die Gesundheit des Teams. Dein eigener Code wird ein kleiner Teil der Woche, und du stehst dafür ein, was das Team ausliefert.
Was dir fehlt: Einzelgespräche, Feedback, Recruiting, Planung und Budgets, der Umgang mit schwacher Leistung und die KI-Arbeit dem Rest der Firma erklären.
Im Lebenslauf und im Vorstellungsgespräch: die Größe des Teams und was es geliefert hat, die Menschen, die du eingestellt und entwickelt hast. Rechne mit Fragen zu Konflikten und Feedback; bereite echte Beispiele vor und was danach passiert ist.
Plan (6 bis 12 Monate): Leite zuerst ein kleines Team als Tech Lead; führ das Recruiting für eine Stelle; such dir einen Mentor, der schon Menschen führt; übernimm die Planung des Quartals deines Teams.
Vom Senior Machine Learning Engineer zum AI Product Lead
Was sich ändert: Du entscheidest, was gebaut wird und warum, für einen ganzen Produktbereich mit KI. Du verantwortest das Problem, die Nutzer und den Maßstab für Erfolg. Es ist ein Schritt nach oben, in dem du den Produktbereich führst, kein Wechsel in eine Junior-Rolle im Produktmanagement.
Was dir fehlt: Nutzerforschung, Prioritäten, Produktspezifikationen, Erfolgskennzahlen und die Zusammenarbeit mit Recht und Vertrieb. Dein Wissen über EvalsIn 5 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eval-Sets, Stichproben, LLM als Bewerter und deren Grenzen, Regressions-Gates sowie Budgets für Kosten und Wartezeit in der CI. ist ein echter Vorteil: Du kannst Ziele schreiben, an denen sich ein Modell testen lässt.
Im Lebenslauf und im Vorstellungsgespräch: Entscheidungen und ihre Ergebnisse, geschrieben als das, was die Nutzer gewonnen haben. Rechne mit einer Produkt-Fallstudie zu einem KI-Feature, einschließlich dessen, was du nicht bauen würdest.
Plan (6 bis 12 Monate): Führ die Nutzerforschung für ein Feature an deinem Arbeitsplatz; schreib eine Produktspezifikation mit Zielen auf Basis von Evals; mach einen Kurs in Produktmanagement; leite die Roadmap eines Bereichs.
Dein Lebenslauf für den nächsten Schritt
Ein Schritt nach oben zeigt sich im Lebenslauf als Beleg für die größere Verantwortung, in den Wörtern der Anzeigen dieser Stufe, unter einer echten Stelle. Drei Regeln:
- Ergänzen, nie umbenennen. Behalte deine bisherigen Jobtitel. Füg Zeilen hinzu, die die neue Arbeit zeigen.
- Nutze die Wörter der nächsten Stufe. Eine Staff-Rolle will „Standards“, „gemeinsame Werkzeuge“, „teamübergreifend“; eine Rolle als Head of Engineering will „eingestellt“, „entwickelt“, „geliefert“.
- Ein Ergebnis pro Zeile. Qualität, Tempo, Kosten, Nutzer oder gesparte Zeit.
| Skill | Schwache Zeile | Starke Zeile, mit Beleg |
|---|---|---|
| EvalsIn 5 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Eval-Sets, Stichproben, LLM als Bewerter und deren Grenzen, Regressions-Gates sowie Budgets für Kosten und Wartezeit in der CI. | Qualitätsbewusst. | Ein Eval-Gate eingeführt, das 4 Teams nutzen; in 6 Monaten ist keine kritische Regression live gegangen. |
| KubernetesIn 22 % der Anzeigen für Machine Learning Engineer gefragt (Stand 05.11.2026).Einen Dienst ausrollen und skalieren: Deployments, Autoscaling, Secrets, GPU-Knoten für das Model Serving. | An der Infrastruktur gearbeitet. | Das Model Serving mit Autoscaling auf Kubernetes umgezogen; Antworten zur Spitzenzeit doppelt so schnell. |
| Führung | Juniors betreut. | 3 Entwickler als Mentor begleitet; 2 verantworten heute Features von Anfang bis Ende. |
| Produkt | Eng mit dem Produktmanagement zusammengearbeitet. | Nutzerforschung mit 12 Support-Mitarbeitern geführt; die 2 Features ausgeliefert, die die Übergaben um ein Viertel gesenkt haben. |
Das Wichtigste
- Die Leiter: Junior, Machine Learning Engineer, Senior, Staff oder Lead, dann AI Architect, Head of AI Engineering oder AI Product Lead.
- Jeder Schritt ändert, woran du gemessen wirst; bereite Belege dafür vor, nicht nur neues Wissen.
- Senior heißt, Features von Anfang bis Ende zu verantworten; Staff heißt, Standards zu setzen, die andere Teams übernehmen.
- Nach dem Staff wählst du zwischen Systeme entwerfen, Menschen führen und einen Produktbereich leiten.
- Ergänze Belege in deinem Lebenslauf in den Wörtern der nächsten Stufe, ein Ergebnis pro Zeile.
Häufige Fragen
- Was kommt nach dem Senior Machine Learning Engineer?
- Staff oder Lead Machine Learning Engineer, und von dort AI Architect, Head of AI Engineering oder AI Product Lead.
- Wie lange dauert es, Senior Machine Learning Engineer zu werden?
- Oft ein paar Jahre, in denen du Features von Anfang bis Ende verantwortest. Was zählt, ist die Verantwortung, die du belegen kannst, nicht die Jahre.
- Muss ich Menschen führen, um aufzusteigen?
- Nein. Rollen als Staff und Architekt sind Schritte nach oben ohne Personalverantwortung; Head of AI Engineering ist der Schritt nach oben, der sie mitbringt.
- Was sollte der Lebenslauf für eine Staff-Rolle zeigen?
- Standards und gemeinsame Werkzeuge, die andere Teams übernommen haben, und die Entscheidungen, die du geleitet hast, jeweils mit einem Ergebnis.