工具与前沿：按场景选型，看清 2026 走向

前三章把"一棵 trace 树"从概念讲到落地。这一章补上最后一块：这棵树由谁发出（emitter）、发到哪里（backend）、两头之间谁做标准桥接，以及面对十几个工具时怎么按场景反推选型——不是复述每个产品的 feature 列表，而是给出判据。

工程师在做可观测性选型时最常遇到两种陷阱：一是把 emitter 和 backend 的选择混在一起（实际上两者可以独立决定）；二是把工具的"哪稳哪变"当成静态答案记忆，但这个领域的并购和规格变更速度使任何超过一年的印象都可能过时。这一章把两个问题都显式地回答。

4.1工具按原型：先分层，再点名

工具生态的分层逻辑：emitter 负责在进程内/外把调用转成 span，backend 负责存储、查询、告警；两层之间用 OTLP 协议通信，选型锁定风险主要在 backend 不在 emitter。

把工具按功能原型分成四类，比按厂商名记忆更稳——因为工具会并购、改名、转维护，但原型分类是稳定的架构结构。

Emitter 层：OpenLLMetry 与 OpenInference

OpenLLMetry（Traceloop 开源，Python/TypeScript/Go/Ruby）是纯 OTel 对齐的 emitter。它把 OpenAI、Anthropic、LangChain、LlamaIndex 等框架的调用自动转成符合 gen_ai.* 语义约定的 span，通过标准 OTLP 协议路由到任意 backend。工程师只需一行 Traceloop.init()，不改业务代码即可获得结构化 trace。

OpenInference（Arize 开源）同样是 emitter，但在 OTel 基础上扩展了 LLM 领域的额外 span kind（RETRIEVER / RERANKER / GUARDRAIL / EVALUATOR 等），把 openinference.* 属性与 OTel gen_ai.* 属性并列携带。Phoenix（Arize 的 backend）原生消费 OpenInference span；其他 OTel backend 则通过 normalization 层把 openinference.* 属性映射到标准字段。

Backend 层：从纯 obs 到 all-in-one

Backend 的核心差异在"是否把 eval 能力也内置进来"——即从纯可观测性平台向 LLMOps 一体化平台演进的程度。

• LangSmith（LangChain 出品，SaaS 为主）：与 LangChain/LangGraph 深度集成；把 span 叫 run，把会话分组叫 thread；内置 prompt 管理、dataset 管理、在线评估，是 LangGraph 用户的自然选择。
• Langfuse（开源 MIT，自托管/SaaS 均可）：把 span 叫 observation，LLM span 叫 generation，会话分组叫 session；2025-06 开源了 LLM-as-judge 在线评估；2026-01 被 ClickHouse 以 4 亿美元收购（$15B 估值），开源/自托管暂不变，但路线图存不确定性。
• Phoenix（Arize 开源，可自托管）：OpenInference 生态的 backend，擅长 RAG 检索质量评测（context recall、faithfulness）；内置 eval 模板，面向 AI 质量监控。
• Braintrust（SaaS，$80M B 轮，2025）：eval-first 定位，把离线评估、prompt 版本管理、在线评分打包成一体；2025 年快速扩展可观测性能力。
• Weave（Weights & Biases 旗下）：ML 实验追踪 + LLM trace 一体，适合已在 W&B 生态的团队。
• Datadog（传统 APM，LLM Observability 模块）：2024 年加入 OTel GenAI semconv 支持；优势在 HIPAA/SOC2 合规、告警基础设施、与现有 APM 的统一视图；2025 年加入 LLM Experiments（eval 能力）。企业场景下已有 Datadog 合约的团队首选。
• HoneyHive（SaaS）：专注 AI 产品的评测与监控一体化，偏 product analytics + eval 视角。

代理网关层：Helicone 与 LiteLLM

代理网关在 HTTP 路径上拦截请求，不需要修改应用代码即可获得 token 计数、成本、延迟。其代价是：看不到进程内的推理状态（链式思维、工具路由决策），只能观测 HTTP 请求/响应的边界。

Helicone 是这个模式的代表产品——但 2026-03 被 Mintlify 收购后已转入维护模式。代理网关这个模式值得理解（成本低、零代码改动、适合快速原型），但新项目不应选择 Helicone 这个具体产品；可考虑 LiteLLM proxy 或云厂商 AI gateway 作为替代。

LiteLLM 是开源的统一 LLM proxy，支持 100+ 模型 API 统一接口，内置基础的 token 计数和成本追踪，可作为代理网关使用。

4.2五条判别轴与场景选型

不是每个项目都需要 all-in-one；按五条轴逐一定位约束，比对号入座"推荐工具榜"更可靠。

五条判别轴是正交的——每条轴的选择不强制另一条轴的选择，但轴之间有常见的共现组合。先逐轴理解含义，再对照场景综合决策。

三个对照场景

场景 A：LangGraph 自托管创业团队（即上方差旅助理案例）——如上，OpenLLMetry + 自托管 Langfuse。五轴结论：开放标准、自托管、框架无关（妥协 LangSmith 耦合换数据主权）、all-in-one（Langfuse 内置 eval）、进程内。

场景 B：Datadog + HIPAA 企业——已有 Datadog 合约且受 HIPAA 约束。五轴结论：传统 APM 厂商提供 OTel GenAI 支持（开放标准侧）、SaaS 但 Datadog 有 HIPAA BAA（合规 SaaS）、框架无关、从纯 obs 向 all-in-one 演进（LLM Experiments 2025）、进程内（Datadog Agent auto-instrumentation）。主要代价：Datadog per-GB 定价在大 LLM trace 体量下成本显著，需配采样策略（见第 03 章）。

场景 C：想 OTel-native 自选 backend——不想被任何 backend 锁定，已有 Grafana 或 Jaeger 等通用 OTel backend。五轴结论：开放标准强制要求、自托管、框架无关、纯 obs（eval 另行选型）、进程内。工具路径：OpenLLMetry 发 OTLP → 已有 OTLP backend；对通用 backend 的代价是：缺少 LLM 专属展示（prompt diff、token 趋势、eval 分数视图），需自行搭 Grafana dashboard。

成本信号与 Helicone 的教训

在成本比较的历史数据点（10M 请求/月量级）中，Helicone 的代理网关模式约为 LangSmith 一半、Braintrust 五分之一的费用——这个数字说明代理网关模式的低成本来自它只看 HTTP 边界，不存完整 prompt/completion 体积。

然而 Helicone 已于 2026-03 被 Mintlify 收购，转入维护模式。这个产品本身不应再被选入新项目，但它所代表的代理网关模式——零代码改动、HTTP 层成本追踪——仍是理解工具分层的重要原型。新项目可参考 LiteLLM proxy 或云厂商 AI gateway（AWS Bedrock Gateway、Azure AI Gateway）实现同类功能。

4.3标准之争：OTel GenAI、OpenInference、OpenLLMetry

三套约定在 2026-06 仍并存，不是竞争关系而是层次关系；工程师需要理解它们的归属层，才能在 emitter 和 backend 之间选对粘合剂。

三套约定的定位：

• OTel GenAI semconv：CNCF/OTel 官方维护的 gen_ai.* 语义约定，规定 LLM 调用 span 的标准属性名。截至 2026-06 仍处于 Development 状态（即过去的 Experimental，2025 年改名），意味着属性名可能随版本变更——v1.38.0（2024 末）弃用了 gen_ai.prompt/gen_ai.completion，改为 gen_ai.input.messages/gen_ai.output.messages；v1.41.0（2025-04）又拆分了 invoke_agent、加入 reasoning.output_tokens、流式 time_to_first_chunk、cache token 属性。
• OpenInference（Arize）：OTel 的超集，在 gen_ai.* 之上增加 RETRIEVER、RERANKER、GUARDRAIL、EVALUATOR 等额外 span kind，以及 openinference.* 前缀属性。定位是补足 OTel GenAI 在 RAG 和 eval 链路上的空白。Phoenix 原生消费 OpenInference；其他 backend 需 normalization 层。
• OpenLLMetry（Traceloop）：定位是纯 OTel 对齐的 emitter 实现，不是新标准。2025-02 宣布将 OpenLLMetry 捐赠给 OTel 社区，但截至 2026-06 停滞超过 14 个月，代码库仍由 Traceloop 维护，捐赠未完成。此外 OpenLLMetry 内部仍有 v1.38 弃用属性的遗留 bug（#3515）。

捐赠停滞的实际影响

OpenLLMetry 捐赠卡壳意味着：OTel GenAI semconv 和 OpenInference 的分裂短期内不会消失。两套约定并存的实务影响：

• 工程师在查属性名时必须确认是查的哪套约定（gen_ai.request.model vs openinference.span.kind 是不同层次的问题）。
• 切换 backend 时，属性是否能被新 backend 正确展示，取决于 backend 对两套约定的支持情况。
• OTel GenAI agent/framework span 的语义约定仍处于 SIG needs-triage 状态——多 agent 编排、plan/step/decision 级 span 尚无 stable 规范（2026-06），各 backend 实现各异。

4.42026 前沿与并购：哪稳、哪变、哪过时

可观测性工具领域正经历两条并行的力量：eval 与 obs 的融合重塑 backend 的产品边界；并购潮重组了供应商格局——这两条力量共同决定当前选型的时效性。

已稳定的部分

• trace/span 数据模型——trace_id、span_id、parent_span_id、gen_ai.* 属性前缀已在主流 backend 稳定实现。
• 主流 SaaS 格局——LangSmith / Langfuse / Phoenix / Braintrust / Datadog 的市场定位已清晰，短期内不太可能消失。
• OTLP 为传输协议的共识——无论哪个 backend，OTLP 是事实上的 lingua franca，emitter→backend 链路已标准化。

正在变化的部分（带日期）

Eval × Obs 融合：Langfuse 2025-06 开源 LLM-as-judge 在线评估；Datadog 2025 年加入 LLM Experiments；Braintrust 从 eval-first 向 obs 扩张。"可观测性 backend"与"eval 平台"的边界正在快速模糊，LLMOps 一体化平台成为主流方向。这意味着第 03 章讲的"在线评估接缝"正在被直接内置进可观测性平台，而不再需要单独搭 scorer 服务。

多 agent trace 拓扑：当多个 agent 协作时（如差旅助理把订票任务交给预订子 agent），plan/step/decision 级 span 的语义约定仍处于 SIG needs-triage 状态（2026-06，无确定日期）。目前最具体的实现是 LangGraph Studio 的 checkpoint 时间旅行回放（2025），允许从任意历史 checkpoint 重新执行——这是 trace-based replay 的雏形，但依赖 LangGraph 框架，不是通用标准。

OTel GenAI semconv 属性 churn：v1.38.0（2024 末）弃用旧 prompt/completion 属性名；v1.41.0（2025-04）拆分 invoke_agent 并加入多个新属性。Development 状态意味着这种 churn 会持续到 Stable 为止，工程师需要在升级 emitter 版本时检查属性变更日志。

已过时 / 维护模式

• 手写 callback 追踪：LangChain on_llm_end 等手写回调——被 OTel auto-instrumentation 取代，维护成本高。
• gen_ai.prompt / gen_ai.completion 属性名：v1.38.0 已弃用，新项目不应使用。
• Helicone：2026-03 被 Mintlify 收购转维护模式——代理网关模式有价值，Helicone 产品已不适合新项目。
• 用 print 语句做 LLM 调试：被结构化 span + trace 视图取代，在多步 agent 场景下几乎不可用。

OpenAI 收购 Promptfoo 与 Braintrust B 轮

OpenAI 收购 Promptfoo（eval 工具）进一步加速了 eval×obs 融合的趋势——厂商在把 eval 能力内置进自身生态，减少工程师外部组合的空间。Braintrust 2025 年完成 $80M B 轮融资，在独立 LLMOps 赛道坚持 eval-first 定位，是这轮并购潮中为数不多保持独立的玩家。