MLOps - Production Setup for a Deep Learning Recommender Model

AI Quick Summary

Jaywalker Digital entwickelt Recommender-Technologien für Banken und Bank-nahe Unternehmen. Im Rahmen dessen wurde ein komplexes Transformer-Modell entwickelt, welches Empfehlungen auf Basis von Transaktionen für Firmen und Produkte ausspielen kann. Für dieses Modell soll nun eine Produktiv-Setup entwickelt werden, welches den MLOps Zyklus implementiert. Die Produktiv-Umgebung umfasst Kubernetes und Gitlab. Das Modell ist in Python, Tensorflow geschrieben. Jaywalker Digital entwickelt Recommender-Technologien für Banken und Bank-nahe Unternehmen. Im Rahmen dessen wurde ein komplexes Transformer-Modell entwickelt, welches Empfehlungen auf Basis von Transaktionen für Firmen und Produkte ausspielen kann.Für dieses Modell soll nun eine Produktiv-Setup entwickelt werden, welches den MLOps Zyklus implementiert. Einerseits muss das System mit einem Stream von Transaktionen, sowie historischen Transaktionen umgehen können, die Daten für das Modell aufbereiten und Anfragen ans Modell beantworten können. Weiter soll gezeigt werden, wie Feature-Drifts und die Model-Performance überwacht und Warnungen ausgelöst werden sollen. Es soll gezeigt werden, wie mit einer CI/CD Pipeline eine neue Model-Version ohne Unterbrechung veröffentlicht werden kann. Das Ganze soll prototypisch implementiert werden.Für das Setup wird angenommen, dass das Modell keine GPU Unterstützung braucht. Die Produktiv-Umgebung umfasst Kubernetes und Gitlab. Das Modell ist in Python, Tensorflow geschrieben. Für den Featurestore wird feast (https://feast.dev/) vorgesehen, weitere Frameworks werden nach Absprache mit dem Betreuer und Auftraggeber festgelegt.

Project Idea Metadata

• Project Idea Name: MLOps - Production Setup for a Deep Learning Recommender Model
• Date: 11/30/2022 2:24:08 PM
• Administrators:
  • Daniel Pfäffli

Project Idea Description

Jaywalker Digital entwickelt Recommender-Technologien für Banken und Bank-nahe Unternehmen. Im Rahmen dessen wurde ein komplexes Transformer-Modell entwickelt, welches Empfehlungen auf Basis von Transaktionen für Firmen und Produkte ausspielen kann.

Für dieses Modell soll nun eine Produktiv-Setup entwickelt werden, welches den MLOps Zyklus implementiert. Einerseits muss das System mit einem Stream von Transaktionen, sowie historischen Transaktionen umgehen können, die Daten für das Modell aufbereiten und Anfragen ans Modell beantworten können. Weiter soll gezeigt werden, wie Feature-Drifts und die Model-Performance überwacht und Warnungen ausgelöst werden sollen. Es soll gezeigt werden, wie mit einer CI/CD Pipeline eine neue Model-Version ohne Unterbrechung veröffentlicht werden kann. Das Ganze soll prototypisch implementiert werden.

Für das Setup wird angenommen, dass das Modell keine GPU Unterstützung braucht. Die Produktiv-Umgebung umfasst Kubernetes und Gitlab. Das Modell ist in Python, Tensorflow geschrieben. Für den Featurestore wird feast (https://feast.dev/) vorgesehen, weitere Frameworks werden nach Absprache mit dem Betreuer und Auftraggeber festgelegt.

Jaywalker Digital entwickelt Recommender-Technologien für Banken und Bank-nahe Unternehmen. Im Rahmen dessen wurde ein komplexes Transformer-Modell entwickelt, welches Empfehlungen auf Basis von Transaktionen für Firmen und Produkte ausspielen kann. Für dieses Modell soll nun eine Produktiv-Setup entwickelt werden, welches den MLOps Zyklus implementiert. Die Produktiv-Umgebung umfasst Kubernetes und Gitlab. Das Modell ist in Python, Tensorflow geschrieben.