Skip to content

MLflow

MLflow ist eine Open-Source-Plattform für KI-Engineering, die entwickelt wurde, um den gesamten Lebenszyklus des maschinellen Lernens zu verwalten. Sie bietet Tools für Experiment-Tracking, reproduzierbare Ausführungen und Modellbereitstellung.

Kostenlos · Web, API

stork0:00 / 0:05
Lena, eine von 89 Stimmen. Auf Play drücken.
Ein Voiceover kostet $0.05 pro Minute.
Bis zu 20 000 Zeichen tippen, MP3 erhalten. 89 Stimmen, 38 Sprachen. Drei pro Tag kostenlos, je eine Minute.
Voiceover erstellen

Was ist MLflow?

MLflow ist eine Open-Source-Plattform für KI-Engineering, die von der MLflow-Community entwickelt wurde und Datenwissenschaftlern, ML-Ingenieuren und Entwicklern ermöglicht, den gesamten Lebenszyklus des maschinellen Lernens zu verwalten. Sie bietet Tools für Experiment-Tracking, reproduzierbare Ausführungen und Modellbereitstellung und unterstützt die Automatisierung von Aufgaben nach dem Training, wie Modellversionierung und -paketierung. Die Plattform erweitert ihre Fähigkeiten auf LLMs und KI-Agenten und bietet Funktionen für Bewertung, Beobachtbarkeit, Prompt-Optimierung und Governance. Sie umfasst produktionsreifes Tracing, Prompt-Management und ein AI Gateway, zusammen mit umfassenden Tools für traditionelles Modelltraining und -bereitstellung. MLflow ist weit verbreitet, mit über 60 Millionen monatlichen Downloads, und wird von Tausenden von Organisationen genutzt, um KI in die Produktion zu bringen.

Hauptmerkmale von MLflow

MLflow bietet eine umfassende Suite von Tools für KI-Engineering, die sowohl traditionelle ML-Modelle als auch moderne LLM-/agentenbasierte Anwendungen umfasst. Die Kernkomponenten umfassen MLflow Tracking für die Protokollierung von Experimenten, MLflow Projects für die Paketierung von Code, MLflow Models für die Standardisierung von Modellformaten, MLflow Model Registry für die Versionierung und MLflow Deployment für die Bereitstellung von Modellen. Jüngste Updates, insbesondere MLflow 3, haben erhebliche Verbesserungen für generative KI eingeführt.

  • MLflow Tracking: Protokolliert und organisiert ML-Experimente, zeichnet Parameter, Metriken und Artefakte mit einer Benutzeroberfläche zur Visualisierung auf.
  • MLflow Projects: Bietet ein standardisiertes Format für die Paketierung von ML-Code, fördert Reproduzierbarkeit und Zusammenarbeit.
  • MLflow Models: Definiert ein Standardformat für die Paketierung von ML-Modellen in verschiedenen Frameworks und dient als Repository.
  • MLflow Model Registry: Verwaltet Modellversionen und deren Lebenszyklusphasen (z.B. Staging, Produktion) mit Genehmigungsworkflows.
  • MLflow Deployment: Unterstützt die Bereitstellung von Modellen auf verschiedene Ziele, einschließlich REST APIs, Cloud-Plattformen und containerisierten Umgebungen.
  • AI Gateway: Bietet produktionsreifes Tracing, Prompt-Management und Schutzmechanismen für LLM-Anwendungen.
  • Multimodales Tracing: Speichert multimodale Inhalte (PDFs, Audio, Bilder) in Tracing-Spans mit reichhaltiger UI-Darstellung.
  • Review Queues für Traces: Ermöglicht die Zuweisung von Traces an Prüfer für strukturiertes Feedback und Ground-Truth-Annotationen.
  • LLM Playground: Zum Iterieren von Prompts im Browser gegen AI Gateway-Endpunkte und Prompt Registry-Versionen.
  • Pytest Integration: Ermöglicht das Schreiben von GenAI-Regressionstests als Pytest-Funktionen und die Überprüfung der Ergebnisse in der Benutzeroberfläche.

Wer sollte MLflow verwenden?

MLflow ist für ein breites Publikum innerhalb des KI- und maschinellen Lern-Ökosystems konzipiert, einschließlich Datenwissenschaftlern, ML-Ingenieuren, Entwicklern und Forschungsteams. Es unterstützt den gesamten Lebenszyklus sowohl traditioneller ML-Modelle als auch moderner LLM-/agentenbasierter Anwendungen, wodurch es für Organisationen geeignet ist, die ihre KI-Entwicklungs- und Bereitstellungsprozesse optimieren möchten.

  • Datenwissenschaftler: Für Experiment-Tracking, den Vergleich mehrerer Modell-Experimente und die Visualisierung von Metriken.
  • ML-Ingenieure: Für Modellversionierung, die Verwaltung von Modellphasen und die Bereitstellung von Modellen in Produktionsumgebungen.
  • Entwickler: Für die Paketierung von ML-Code, die Sicherstellung der Reproduzierbarkeit und die Integration von ML-Modellen in Anwendungen.
  • Forschungsteams: Für die Zusammenarbeit an ML-Projekten und das Teilen reproduzierbarer Ergebnisse.
  • KI-Ingenieure: Für das Debugging, die Bewertung, Überwachung und Optimierung von produktionsreifen LLM-Anwendungen und KI-Agenten, einschließlich Prompt-Management und Kostenkontrolle.

Wie man MLflow verwendet

Der Einstieg in MLflow beinhaltet die Installation der Plattform und deren Integration in Ihre Machine-Learning-Workflows. Die Plattform bietet APIs und eine Benutzeroberfläche zur Verwaltung von Experimenten, Modellen und Bereitstellungen.

  1. MLflow installieren: Verwenden Sie pip install mlflow, um die Kernbibliothek einzurichten.
  2. Tracking initialisieren: Konfigurieren Sie MLflow Tracking, um Parameter, Metriken und Artefakte für Ihre ML-Experimente zu protokollieren.
  3. Code mit MLflow Projects paketieren: Definieren Sie Ihren ML-Code in einem standardisierten Format für Reproduzierbarkeit.
  4. Modelle registrieren: Verwenden Sie MLflow Model Registry, um die Versionierung und den Lebenszyklus Ihrer trainierten Modelle zu verwalten.
  5. Modelle bereitstellen: Nutzen Sie MLflow Deployment, um Ihre Modelle als REST APIs bereitzustellen oder sie in verschiedene Plattformen zu integrieren.
  6. AI Gateway nutzen: Für die LLM- und Agentenentwicklung konfigurieren Sie das AI Gateway für Prompt-Management, Tracing und Bewertung.

MLflow Preise & Pläne

MLflow ist eine Open-Source-Plattform und kostenlos verfügbar. Dies umfasst alle Kernfunktionen für Experiment-Tracking, Modellverwaltung und Bereitstellung. Es gibt keine kostenpflichtigen Stufen oder Abonnementpläne, die direkt vom MLflow-Projekt selbst angeboten werden, obwohl kommerzielle Anbieter gehostete oder Unternehmenslösungen anbieten können, die auf MLflow basieren.

  • MLflow: Kostenlos (Open-Source-Kern)

Vorteile

  • Open-source and vendor-neutral under the Apache 2.0 license, preventing vendor lock-in.
  • Comprehensive experiment tracking (MLflow Tracking) for logging parameters, metrics, and artifacts.
  • Supports the full machine learning and generative AI lifecycle, including LLM evaluation and observability.
  • Framework-agnostic, integrating with over 100 ML tools and frameworks like PyTorch, TensorFlow, and scikit-learn.
  • MLflow Model Registry provides centralized model versioning and lifecycle management.
  • MLflow Tracing is fully compatible with OpenTelemetry for enhanced observability.

Nachteile

  • The UI for experiment visualization can be less polished compared to some commercial alternatives like Weights & Biases.
  • Requires self-hosting and infrastructure management, which can be a barrier for smaller teams without dedicated MLOps resources.
  • While modular, integrating all components for a full MLOps pipeline might require more manual configuration compared to opinionated, all-in-one platforms.
  • Native data versioning is not a primary function, requiring integration with tools like DVC for comprehensive data management.

MLflow vs. Wettbewerber

MLflow agiert in einem Wettbewerbsumfeld mit mehreren Tools, die ähnliche oder ergänzende Funktionalitäten für MLOps und KI-Engineering bieten. Seine Open-Source-Natur und das umfassende Lebenszyklusmanagement unterscheiden es von vielen Alternativen.

MLflow

Kostenlos · Web, API

Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.

eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte