Helicone
一行代码 LLM 观测——开源 Proxy + AI Gateway，2026-03 被 Mintlify 收购、维护模式运行
最容易接入的 LLM 观测，改 baseURL 几分钟看到 cost/latency/errors。被 Mintlify 收购转维护模式后路线图不确定——做新项目权衡：要快上手 + 不期待新功能 OK；要 nested span + 持续演进走 Langfuse。
TL;DR
Helicone 是 YC W23 出身的开源 LLM 观测平台，主打『一行代码接入』：改 baseURL，立刻看到 cost / latency / errors / token 详情。背后还有 Rust 写的 AI Gateway，路由 100+ 模型 + 缓存 + fallback + 限流。2026-03-03 被 Mintlify 收购后转维护模式（安全 patch + 新模型 + bug fix 继续，主动新功能停）。Hobby 免费 10K req/月，Pro $79，Team $799（SOC2 + HIPAA），Enterprise 定制。SOC2 + GDPR 合规，可 Docker / Kubernetes 自托管。
适合：要 5 分钟接入 LLM 观测的小团队 / 早期产品；改 baseURL 模式想看 cost / latency 即可；预算紧 → Hobby 10K 免费 + 自托管 OSS。不适合：复杂 agent 调试需要 nested span（Langfuse）；要 250+ 模型 / MCP Gateway / 治理（Portkey）；担心维护模式带来的路线图风险（Mintlify 收购后主动开发结束）。
核心能力
- Proxy 模式：改 baseURL，零 SDK 改造
- Async 模式：SDK 异步上报，0 延迟 + 容错
- Request logging：每条请求 + 响应 + cost + token + latency
- Custom properties + sessions：把多步工作流分组看
- Prompt management + playground
- Custom scoring：基础打分 + 数据集
- AI Gateway（Rust 写）：100+ 模型 + caching + fallback + rate limit
- OpenAI / Anthropic / Azure / LiteLLM / Anyscale / Together / OpenRouter 集成
- Trace API：手动 POST 多步 trace 数据（弥补 proxy 看不到 agent 内部）
- Dashboard API：查 dashboard 数据
- Self-host：Docker / Kubernetes，开源 MIT
- 合规：SOC 2 + GDPR；Team+ HIPAA
- 导出：webhook + 外部 reporting
价格
- Hobby：$0 / 10K req/月 / 7 天 retention / 1 seat / 1GB 存储
- Pro：$79/月 / 10K 起 + usage / 1 月 retention / unlimited seats / alerts / HQL
- Team：$799/月 / 10K 起 + usage / 3 月 retention / SOC 2 + HIPAA / 5 orgs
- Enterprise：Custom / 自定义 retention / 永久存储 / SSO / on-prem
自托管版（OSS）= $0 + 无限 logs，但运维 / Postgres / Clickhouse 全要自己搞。
实测（早期 SaaS / 5 人团队）
亮点：
- 5 分钟接入，OpenAI SDK 改 baseURL + 加 Helicone-Auth header
- Dashboard 看 cost / latency / error 第一天就帮发现 prompt 失控
- Custom properties 给每个 user / feature 打标，分摊成本清晰
- Sessions 把 multi-step workflow 串起来（不像 Langfuse 是真 trace，但够小项目用）
- AI Gateway 给 fallback / caching 一处接入
- 开源自托管对预算紧团队是真救命
- 与 LiteLLM 集成顺滑
踩坑：
- 2026-03 被 Mintlify 收购转维护模式后，主动功能开发停，长期路线图不确定
- Proxy 模式 5–20ms 延迟在高 QPS 场景叠加可观
- Proxy 看不到 agent 内部 tool / sub-agent / retries——复杂 agent 调试不够
- Custom scoring 浅，不如 Langfuse 的 LLM-as-judge + 数据集 eval 体系完整
- Free tier 10K req 小型生产几天就用完
- 文档自 Mintlify 收购后部分整合到 Mintlify Docs，导航变化
- 中文场景体验有限
- Prompt caching 需要 cache-aware prompt design（含 timestamp / nonce 命中率为 0）
上手
# Proxy 模式
import openai
client = openai.OpenAI(
base_url="https://oai.helicone.ai/v1",
api_key=OPENAI_KEY,
default_headers={
"Helicone-Auth": f"Bearer {HELICONE_KEY}",
"Helicone-User-Id": "user_123",
"Helicone-Property-Feature": "summarize"
}
)
# 立刻在 https://us.helicone.ai 看到 cost / latency / log
# 自托管
git clone https://github.com/Helicone/helicone
cd helicone && docker compose up -d
对比
| 维度 | Helicone | Langfuse | Portkey |
|---|---|---|---|
| 架构 | Proxy / Async | SDK | Gateway |
| 接入时间 | 分钟（改 URL） | 小时（代码改造） | 分钟（改 URL） |
| Tracing 深度 | 浅（请求级） | 深 nested | 中 |
| Multi-provider routing | 基础 fallback | 250+ | |
| Prompt mgmt | playground + 基础版本 | 版本 + playground | 模板 + 管理 |
| Eval | 基础 scoring | LLM-as-judge + datasets | 基础 |
| Self-host | OSS 完整 | MIT 19K+ stars | OSS Gateway only |
| 合规 | SOC2 + HIPAA (Team+) | SOC2 (Enterprise) | SOC2 + HIPAA + ISO27001 |
| Free tier | 10K req/月 | 50K events/月 | 10K logs/月 |
| Paid 起价 | $79 | $29 | $49 |
| 路线图 | 维护模式 | 活跃 | 活跃（PANW 收购） |
避坑
- 维护模式风险：被 Mintlify 收购后主动开发停，新项目长期演进考虑 Langfuse / Portkey
- Proxy 延迟 + SPOF：Helicone 挂了，业务也挂；敏感链路用 async
- Proxy 看不到 agent 内部：tool call / sub-agent / retries 不可见，复杂 agent 用 Trace API 或转 Langfuse
- Hobby 10K 跑不久：小型生产几天用完，预算够直接上 Pro
- Cache-aware prompt 设计：prompt 含 timestamp / random nonce 命中率 = 0
- Custom scoring 浅：复杂 eval 用 Langfuse 数据集 + LLM-as-judge
- Air-gapped 价格：自托管时部分模型价格表要手动维护
- PII 路径敏感：所有 prompt 经过 Helicone，要 review PII 处理 + retention + 自托管选项
适合 / 不适合
- 早期产品 + 想 5 分钟接入观测
- 改 baseURL 模式偏好 / 不想 SDK 改造
- 预算紧 + 自托管接受
- 想用 Rust AI Gateway 做 fallback + caching
- SOC2 / HIPAA Team+ 合规
- 复杂 agent 多步骤调试（用 Langfuse）
- 要 250+ 模型 + MCP + 强治理（用 Portkey）
- 长期路线图敏感（维护模式 risk）
- 中文运营（社区 / 文档 / UI 均英文）
相关阅读
Long-tail quick picks
长尾检索速查：下面三项对应「Helicone 开源版 / 免费版 / 国内可用」等搜索意图，方便直接跳转。
Open-source alternatives
Free tier
- 是否有免费档：是
- 价格概要：Hobby 免费 10K req/月 / Pro $79/月 / Team $799/月 / Enterprise 定制
- 预算敏感用户可先用免费档；进阶需求参考 通义灵码 / CodeGeex（国内免费额度更友好）。
China availability
相关替代品：
来源
- Inference.net — Helicone Pricing & Alternatives 2026（含 Mintlify 收购 + 维护模式细节）https://inference.net/content/helicone-pricing-alternatives
- Helicone 官网 https://www.helicone.ai/
- QASkills — Helicone LLM Monitoring Complete Guide 2026 https://qaskills.sh/blog/helicone-llm-monitoring-complete-guide
- AiPedia — Helicone Features Pricing & Failure Modes https://www.aipedia.wiki/tools/helicone/
- BuildMVPFast — Langfuse vs Helicone vs Portkey https://www.buildmvpfast.com/blog/llm-observability-stack-langfuse-helicone-portkey-2026
| 计划 | 价格 | 限制 | 国内支付 | 备注 |
|---|---|---|---|---|
| Hobby | $0 | — | — | |
| Pro | $79/月 | — | — | |
| Team | $799/月 | — | — | |
| Enterprise | Custom | — | — |
- · 要 5 分钟接入 LLM 观测的小团队 / 早期产品
- · 改 baseURL 模式想看 cost / latency 即可
- · 预算紧 → Hobby 10K 免费 + 自托管 OSS
- · 复杂 agent 调试需要 nested span（Langfuse
- · 要 250+ 模型 / MCP Gateway / 治理（Portkey
- · 担心维护模式带来的路线图风险（Mintlify 收购后主动开发结束
Helicone 被收购后还能用吗？
2026-03-03 Mintlify 收购 Helicone，产品转维护模式：安全 patch + 新模型支持 + bug fix 继续发，但主动新功能开发结束。现存生产部署仍稳定，但选型时要权衡：路线图不动 / 不期待新观测形态 / 接受工具被 Mintlify 整合或归档的风险。新项目长期演进建议看 Langfuse 或 Portkey。
Proxy 和 async 模式哪个好？
Proxy（改 baseURL，所有请求走 Helicone）= 接入快 + 完整捕获，但加 ~5–20ms 延迟、Helicone 挂了请求也挂。Async（SDK 异步上报）= 0 延迟 + Helicone 故障不影响业务，但失败窗口可能漏 log。生产敏感链路用 async，开发 / 内部用 proxy。
Proxy 能看到 agent 内部工具调用吗？
不能——proxy 只能看到穿过它的 LLM 请求，agent 框架内的 tool execution / sub-agent / retries 都不可见。复杂 agent 调试需要 trace 级深度，要 Langfuse 的 nested span 或 Helicone Trace API（手动 POST）。
和 Langfuse / Portkey 怎么选？
Helicone = proxy-based，URL 一改分钟上手，请求级日志 + 基础 gateway 路由。Langfuse = SDK-based，代码改造小时级，但 nested span 深度 tracing + LLM-as-judge eval 一等。Portkey = gateway-first，250+ 模型 + MCP + 强合规但定价复杂。简单 + 快 → Helicone；agent 调试 → Langfuse；网关 + 治理 + 合规 → Portkey。