AI项目博客
记录 AI 工程实践与大模型应用

LangChain 1.2 入门(十二):LangSmith 是什么

模型能调起来之后,下一个问题是「它到底跑得怎么样」。LangSmith 就是 LangChain 生态里负责这件事的平台:把大模型应用的调用链路、性能指标、测试数据和提示词放到一个地方管理。

12.1 什么是 LangSmith

LangSmith 是 LangChain 生态中专门用于 LLM 应用调试、监控、评估和管理的平台。四个关键词可以概括它的定位:

  • 追踪(Tracing):记录每次 LLM 调用的详细信息;
  • 监控(Monitoring):实时查看应用性能;
  • 调试(Debug):排查问题、优化性能;
  • 评估(Evaluate):系统化测试 LLM 应用。

登录后的主界面以 Tracing 项目列表为中心,可以看到每个项目最近的运行时间、Trace 数量、错误率、P50/P99 延迟、Token 消耗和成本。

LangSmith 主界面:Tracing 项目列表与运行指标

首页还会用卡片引导你完成 Tracing、Studio、Playground 和 Experiment 四件事,下方直接展示最近 7 天的 Tracing 项目和数据集入口。

LangSmith 欢迎页:Tracing、Studio、Playground 与 Experiment 引导

12.2 核心应用与开发

12.2.1 Tracing(追踪)

这是 LangSmith 最核心的功能。它会完整记录大模型应用的每一次调用链路(Trace)。当 Agent 或 RAG 系统运行变慢、报错时,点进对应的项目,就能看到每一步的 Prompt 是什么、模型返回了什么、消耗了多少 Token,以及每个链条节点的耗时。排查 Bug 和优化性能都靠它。

12.2.2 Monitoring(监控)

提供生产环境的数据可视化看板,从宏观角度观察应用在一段时间内的运行状况:Token 消耗趋势、QPS(每秒请求数)、错误率、平均延迟以及成本预估。应用上线后,用来看系统稳定性和开销。

12.2.3 Datasets & Experiments(数据集与实验)

用于管理测试数据集并运行对比实验。可以把用户的真实输入、特定的边界情况(Edge Cases)存成数据集。修改 Prompt 或更换底层模型后,在这里跑自动化对比测试,就能直观看到新旧版本在同一批测试集上的表现差异。

12.2.4 Evaluators(评估器)

用于配置和自动化评估任务。大模型的输出往往难以用传统断言(Assert)测试,LangSmith 允许配置基于规则(如关键词匹配)或基于模型(LLM-as-a-judge)的评估指标,例如答案相关性、是否包含幻觉,然后对追踪到的数据或实验结果自动打分。

12.2.5 Annotation Queues(标注队列)

人工反馈与数据清洗工具。在开发或初上线阶段,可以把一部分 Trace 发送到标注队列,让核心成员、业务专家或人工客服手动打分、纠正回答或贴标签。这些高质量的人工标注数据,后续可以直接用于微调模型或充当测试集。

12.3 提示词与调试工具

12.3.1 Prompts(提示词管理)

可以理解为「提示词版的 GitHub」。它把 Prompt 从代码中解耦出来,统一在云端管理:支持版本控制(v1、v2),代码里可以通过 API 动态拉取最新提示词,还支持团队协作和 Prompt 分享。

12.3.2 Playground(演练场)

一个网页端的模型交互界面。不用写代码,直接选择不同模型(OpenAI、Anthropic 或本地模型),快速微调并测试 Prompt 效果,还可以一键把调整好的 Prompt 保存到 Prompts 仓库。

12.3.3 Studio(工作室)

通常与 LangGraph 深度集成,提供可视化的图形交互界面。如果应用是基于图结构的复杂 Agent 架构,Studio 可以让你看到状态机(State)在各个节点之间如何流转,甚至支持在某个节点暂停、手动修改数据后再继续执行。调试复杂智能体交互时很有用。

12.3.4 Context Hub(上下文中心)

用于管理全局上下文或通用组件配置,存放可以在多个项目或 Prompt 中复用的公共上下文模板、全局变量或系统预设提示。

12.4 部署与沙盒

12.4.1 Deployments(部署)

一键把 LangChain 应用或 LangGraph Agent 部署为线上可用的 API 服务(通常依托 LangGraph Cloud)。平台负责高并发、队列管理和状态持久化,开发者只需要专注业务逻辑。

12.4.2 Sandboxes(沙盒)

提供轻量级的在线运行和测试环境,在不污染生产环境的前提下,安全地试运行、测试新部署的 Agent 或执行自动化脚本。当前 Sandboxes 可能以私有预览的形式开放,需要加入 waitlist。

LangSmith Sandboxes 页面:私有预览与 waitlist 入口

12.5 学习建议

现阶段重点关注两件事:用 Tracing 观察项目里的调用细节,用 Playground 快速调优提示词。等应用结构变复杂,例如引入复杂的 RAG 检索或多 Agent 协同,再逐步引入 Datasets 做量化评估,并用 Studio 做可视化调试。

12.6 小结

LangSmith 不是模型,也不是框架,而是围绕 LLM 应用全生命周期的观测与评估平台。先把 Tracing 用起来,就能解决「模型为什么这么答、慢在哪、花了多少 Token」这三个最常见的问题。

下一篇:LangChain 1.2 入门(十三):注册 LangSmith 并配置 API Key;上一篇:输出美化、profile 与 config。

本文根据公开课程课件整理,并结合 LangSmith 官方文档核对与补充。

赞(0)
未经允许不得转载:AI项目博客 » LangChain 1.2 入门(十二):LangSmith 是什么

评论 抢沙发

AI项目博客

专注 AI 工程化落地 —— 覆盖智能体、大模型、Java AI 与 Python 的学习笔记,以及 AI 平台的项目实战记录。

关于本站文章归档

登录

找回密码

注册