MLflow(开源)
Apache 2.0 下的开源 AI 工程平台,可免费使用,无供应商锁定。
- Apache 2.0 许可证下 100% 开源
- 永久免费,无附加条件
- 可与任何云、框架或工具配合使用
- LLM 追踪、评估、提示词管理、AI Gateway、Agent Server
- 实验跟踪、模型注册表和部署工具
AI 智能体构建工具

产品概览
MLflow 是一个开源 AI 工程平台,面向智能体、LLM 应用和机器学习模型,由 Linux 基金会支持。针对 LLM 和智能体工作,它提供兼容 OpenTelemetry 的追踪与可观测性、使用 LLM-as-a-judge 评分器和自定义指标的系统化评估、提示词版本管理与优化、用于路由和成本控制的 AI Gateway,以及用于部署的 Agent Server。针对传统 ML,它提供实验跟踪、模型评估、模型注册表和部署工具。它可与 100+ 框架集成,并支持 Python、TypeScript/JavaScript、Java 和 R。团队使用它来调试、评估和监控生产 AI 应用,同时控制成本和模型访问。MLflow 在 Apache 2.0 下完全开源,可在本地、本地部署环境或托管服务上运行。
运行 `uvx mlflow server`(或使用 Docker 设置)即可在大约 30 秒内启动本地 MLflow 跟踪服务器。
使用 `mlflow.set_tracking_uri` 将 SDK 指向你的服务器,并启用自动追踪,例如 `mlflow.openai.autolog()`,以捕获追踪、指标和参数。
照常执行你的应用,然后打开 MLflow UI 查看追踪、指标和评估结果。
访问 demo.mlflow.org 或运行 `uvx mlflow demo`,无需运行服务器即可探索预加载的 MLflow 实例。
通过详细追踪调试 LLM 应用和智能体
在生产发布前运行回归测试和评估
监控生产 AI 质量、延迟和 token 成本
跨应用版本管理和优化提示词模板
跨提供商路由 LLM 请求并控制成本
跟踪 ML 实验并管理模型版本和部署
MLflow 是一个开源 AI 工程平台,面向智能体、LLM 应用和 ML 模型。它帮助团队调试、评估、监控和优化 AI 应用,同时控制成本并管理对模型和数据的访问。
MLflow 被描述为 Apache 2.0 许可证下 100% 开源且永久免费。云提供商提供的托管 MLflow 服务由这些提供商另行记录。
使用 `uvx mlflow server` 启动 MLflow 服务器,设置跟踪 URI,并启用追踪,例如 `mlflow.openai.autolog()`。你也可以访问 demo.mlflow.org 的公开演示或运行 `uvx mlflow demo`。
MLflow 支持 Python、TypeScript/JavaScript、Java 和 R,并与 100+ 工具集成,包括 OpenAI、Anthropic、LangChain、PyTorch 和 HuggingFace。它还与 OpenTelemetry 原生集成。
可以,MLflow Tracing 被描述为稳定且可用于生产。对于生产环境,建议使用更轻量的 `mlflow-tracing` SDK,异步日志记录可降低性能开销。
MLflow 使用内置的 LLM-as-a-judge 评分器或自定义评分器对数据集运行评估,并随时间跟踪质量指标,以便在生产前发现回归。
AI Gateway 是面向 LLM 提供商的统一 OpenAI 兼容 API 网关,可路由请求、管理速率限制、处理回退并控制成本。
MLflow 提供文档、Slack 社区和 GitHub 问题跟踪器,用于提问和报告错误。
免费指 Apache 2.0 下的开源、自托管 MLflow 软件;所提供的官方页面未列出付费层级或价格。检查于 2026-11-19。
Apache 2.0 下的开源 AI 工程平台,可免费使用,无供应商锁定。
用户评价
暂无评论。