✳ainav.
MLflow 截图
MLflow 网站预览

产品概览

MLflow 是什么?

MLflow 是一个开源 AI 工程平台,面向智能体、LLM 应用和机器学习模型,由 Linux 基金会支持。针对 LLM 和智能体工作,它提供兼容 OpenTelemetry 的追踪与可观测性、使用 LLM-as-a-judge 评分器和自定义指标的系统化评估、提示词版本管理与优化、用于路由和成本控制的 AI Gateway,以及用于部署的 Agent Server。针对传统 ML,它提供实验跟踪、模型评估、模型注册表和部署工具。它可与 100+ 框架集成,并支持 Python、TypeScript/JavaScript、Java 和 R。团队使用它来调试、评估和监控生产 AI 应用,同时控制成本和模型访问。MLflow 在 Apache 2.0 下完全开源,可在本地、本地部署环境或托管服务上运行。

如何使用 MLflow

  1. 1

    启动 MLflow 服务器

    运行 `uvx mlflow server`(或使用 Docker 设置)即可在大约 30 秒内启动本地 MLflow 跟踪服务器。

  2. 2

    启用追踪

    使用 `mlflow.set_tracking_uri` 将 SDK 指向你的服务器,并启用自动追踪,例如 `mlflow.openai.autolog()`,以捕获追踪、指标和参数。

  3. 3

    运行代码并检查追踪

    照常执行你的应用,然后打开 MLflow UI 查看追踪、指标和评估结果。

  4. 4

    试用公开演示

    访问 demo.mlflow.org 或运行 `uvx mlflow demo`,无需运行服务器即可探索预加载的 MLflow 实例。

MLflow 核心功能

兼容 OpenTelemetry 的追踪,用于 LLM 和智能体可观测性

使用 LLM-as-a-judge 评分器和自定义指标进行系统化评估

提示词版本管理、血缘跟踪和自动化提示词优化

AI Gateway,提供统一的 OpenAI 兼容路由和成本控制

Agent Server,用于部署智能体,支持请求验证和流式传输

面向 ML 的实验跟踪、模型评估、模型注册表和部署

与 100+ 框架集成,并支持 Python、TypeScript/JavaScript、Java 和 R

MLflow 使用场景

  • 通过详细追踪调试 LLM 应用和智能体

  • 在生产发布前运行回归测试和评估

  • 监控生产 AI 质量、延迟和 token 成本

  • 跨应用版本管理和优化提示词模板

  • 跨提供商路由 LLM 请求并控制成本

  • 跟踪 ML 实验并管理模型版本和部署

MLflow 常见问题

MLflow 是一个开源 AI 工程平台,面向智能体、LLM 应用和 ML 模型。它帮助团队调试、评估、监控和优化 AI 应用,同时控制成本并管理对模型和数据的访问。

MLflow 被描述为 Apache 2.0 许可证下 100% 开源且永久免费。云提供商提供的托管 MLflow 服务由这些提供商另行记录。

使用 `uvx mlflow server` 启动 MLflow 服务器,设置跟踪 URI,并启用追踪,例如 `mlflow.openai.autolog()`。你也可以访问 demo.mlflow.org 的公开演示或运行 `uvx mlflow demo`。

MLflow 支持 Python、TypeScript/JavaScript、Java 和 R,并与 100+ 工具集成,包括 OpenAI、Anthropic、LangChain、PyTorch 和 HuggingFace。它还与 OpenTelemetry 原生集成。

可以,MLflow Tracing 被描述为稳定且可用于生产。对于生产环境,建议使用更轻量的 `mlflow-tracing` SDK,异步日志记录可降低性能开销。

MLflow 使用内置的 LLM-as-a-judge 评分器或自定义评分器对数据集运行评估,并随时间跟踪质量指标,以便在生产前发现回归。

AI Gateway 是面向 LLM 提供商的统一 OpenAI 兼容 API 网关,可路由请求、管理速率限制、处理回退并控制成本。

MLflow 提供文档、Slack 社区和 GitHub 问题跟踪器,用于提问和报告错误。

MLflow 官方信息

公司
MLflow Project, a Series of LF Projects, LLC
官网
https://mlflow.org/
文档
https://mlflow.org/docs/latest/

MLflow 价格方案

免费

免费指 Apache 2.0 下的开源、自托管 MLflow 软件;所提供的官方页面未列出付费层级或价格。检查于 2026-11-19。

MLflow(开源)

$0USD / 永久

Apache 2.0 下的开源 AI 工程平台,可免费使用,无供应商锁定。

  • Apache 2.0 许可证下 100% 开源
  • 永久免费,无附加条件
  • 可与任何云、框架或工具配合使用
  • LLM 追踪、评估、提示词管理、AI Gateway、Agent Server
  • 实验跟踪、模型注册表和部署工具

查看官方价格 ↗

用户评价

MLflow 用户评论

读者评价

暂无评论。

分享你的 MLflow 使用体验

登录后可发表评论。审核通过后,显示名称、评分及评论内容将公开,每个账号对同一工具只能评价一次。

你的评分