Blick in die Blackbox: Tracing-Architekturen für Generative KI (m/w/d)

Was du bei uns bewegst

KI-Agenten und LLM-Anwendungen laufen inzwischen im echten Betrieb. Was zwischen Prompt und Antwort passiert, bleibt aber oft unsichtbar. Klassisches Monitoring zeigt Latenz und Fehlerraten, aber nicht, warum sich ein KI-System so verhalten hat.

Für dieses Problem gibt es gerade viele Lösungen: spezialisierte Plattformen wie MLflow, Arize oder Langfuse, eigene Ansätze der großen Cloud-Anbieter und den offenen Standard OpenTelemetry. Alles entwickelt sich schnell und ist oft noch nicht ausgereift. Im Mittelpunkt deiner Arbeit steht OpenTelemetry: Der Standard entwickelt sich gerade aktiv weiter und wird von immer mehr Anbietern unterstützt. Andere Ansätze ziehst du zum Vergleich heran. Genau hier setzt du an, ganz vorne bei einem Thema, das sich gerade erst formt.

Deine Aufgaben:

• Du verschaffst dir einen Überblick über aktuelle Ansätze für Tracing und Observability bei Generativer KI.
• Du erarbeitest Referenzarchitekturen und wägst sie gegeneinander ab.
• Du beurteilst, wie ausgereift die Ansätze heute sind: Was funktioniert schon gut, und wo gibt es noch offene Fragen?
• Du baust einen praktischen Demonstrator, an dem du deine Ergebnisse testest und belegst.

• Distributed Tracing und Observability
• LLM- und Agent-Frameworks
• aktuelle Tools und Plattformen rund um KI im Betrieb

Deine Werkzeuge für den M&M Alltag

Das passt zu dir, wenn …

• Du studierst Informatik, Softwaretechnik, Wirtschaftsinformatik oder etwas Vergleichbares.
• Du programmierst sicher in mindestens einer gängigen Sprache, zum Beispiel Python, TypeScript oder C#.
• Du hast schon praktisch mit LLMs gearbeitet, zum Beispiel über APIs oder Agent-Frameworks, gerne auch in eigenen Projekten.
• Du kennst die Grundlagen von Logging, Monitoring oder Tracing in verteilten Systemen.
• Du gehst sicher mit Git, Docker und Schnittstellen bzw. APIs um.
• Du liest technische Dokumentationen auf Englisch ohne Probleme.
• Du arbeitest eigenständig, strukturierst offene Fragen selbst und begründest deine Entscheidungen gut.

Mehr als nur ein Job

• Individuelle Unterstützung: Ein/e dedizierte/r Betreuer:in an deiner Seite unterstützt dich bei deinem Projekt und steht für Fragen zur Verfügung
• Networking: Bei uns kannst du dein berufliches Netzwerk ausbauen und wertvolle Kontakte innerhalb des Unternehmens knüpfen. Diese Masterthesis wird von unseren Expert:innen des Competence Centers Data & AI begleitet.
• Regelmäßige Feedbackgespräche: Wir werden regelmäßig Feedback austauschen, um deinen Fortschritt zu überprüfen und deine Entwicklung zu fördern
• Hybrides Arbeiten: In Abstimmung mit deiner Führungskraft wählst du aus einer Kombination von Remote-Arbeit und Büro-Präsenz, für mehr Flexibilität und Freiheit
• Großzügige Gleitzeitregelung: In Abstimmung mit deiner Führungskraft legst du deine Arbeitszeiten nach deinen Präferenzen fest, um deinen persönlichen Bedürfnissen gerecht zu werden

Deine Ansprechpartnerin

Fiona Laube, Specialist Recruiting & HR Marketing
jobs@mm-software.com
Tel.: +49 7724 9415-36

Bewirb dich gerne per du und nutze unsere Vornamen!