标签：大模型 第2页

上一章解决了「LangChain 是什么」，从这一章开始进入代码。模型初始化是每条链路的起点：选谁家的 API、密钥放在哪里、模型部署在线上还是本地，这三件事决定了后面所有调用怎么写。 06.1 一张老图看大模型的调用 LangChain v0.3 时代提出过 Model I/O 的概念，把一次模型调用拆成三段：输入提示（Format）、调用模型（Predict）、输出解析（Parse），分别对应 Prompt Template、Mod…

赞(0)admin2026-10-20AI框架 阅读(15)去评论

环境就绪后，最后一节看应用落地的形态。大模型应用的技术特点是「门槛低、天花板高」：写第一个对话程序只要几行代码，但要做到生产可用，需要组合检索、工具、记忆、评测等一整套能力。 05.1 RAG 开发 背景。大模型有两个绕不开的问题。第一是知识冻结：随着 LLM 规模扩大，训练成本和周期增加，模型无法实时学习最新信息，遇到「请推荐现在的热门影片」这类时间敏感的问题就答不准。第二是幻觉：问题涉及训练中从未学过的信息时，模型无法给出准确答复，…

赞(0)admin2026-10-19LangChain 阅读(31)去评论

这一篇只做环境准备。目标很明确：建一个独立的 Python 3.13.12 环境，装好 langchain 1.2.12，并让 PyCharm 使用这个解释器。 04.1 前置知识 Python 基础语法。需要掌握变量、流程控制、函数与参数机制、类与对象、装饰器；常用容器（列表、元组、集合、字典）、JSON 处理、异常处理；模块导入、包管理（pip 或 conda）、线程与协程。 大语言模型基础。了解 LLM、Token、Prompt、…

赞(0)admin2026-10-18LangChain 阅读(14)去评论

这一篇看生态分工。LangChain 家族现在由四块组成：LangChain、LangGraph、Deep Agent 与 LangSmith。它们不是四个互相替代的产品，而是同一套智能体技术栈的四层。 03.1 四大支柱总览 截至 2025 年 11 月，LangChain 已经从一个独立的开发框架，成长为覆盖智能体系统全生命周期的技术生态。四块分别对应基础能力层、运行时编排层、智能体抽象层、监控与评估层，串起来就是从技术验证到生产部…

赞(0)admin2026-10-17LangChain 阅读(17)去评论

上一篇交代了 LangChain 为什么存在，这一篇回答「它是什么」：从诞生到现在经历了哪几个阶段、v0.3 和 v1.x 差在哪、包结构怎么划分，以及文档该去哪里查。 图中是官方仓库的版本徽章（截图时为 1.2.15）；本系列安装仍以第四节锁定的 1.2.12 为准，小版本差异不影响主体内容。 02.1 五个发展阶段 第 1 阶段：诞生（2022 年 10 月）——哈佛大学机器学习项目工程师 Harrison Chase（哈里森·蔡斯…

赞(0)admin2026-10-16LangChain 阅读(21)去评论

这是 LangChain 1.2 系列的第一篇。先把三个问题说清楚：为什么只调用大模型 API 不够、LangChain 在系统里处于什么位置、它主要解决哪几类问题。 01.1 从传统应用到智能体时代 应用形态已经走过 PC 互联网和移动互联网两个阶段，现在进入 AI 智能化阶段。前两个阶段的应用流程由开发者预先写死：用户点哪个按钮、系统走哪条分支，都在代码里规定好。到了智能体阶段，应用把目标交给大模型，由模型判断下一步做什么，需要时再…

赞(0)admin2026-10-15LangChain 阅读(50)去评论

「企业级大模型私有化部署」系列第 4 篇。目标：在第二台 GPU 服务器上装 Xinference，部署 bge-large-zh-v1.5 和 reranker，再通过 6007 隧道接进 Dify。 结论：RAG 的效果不只看大语言模型。向量化决定了能不能召回，Rerank 决定了召回的片段排得对不对；这两个模型用 Xinference 管，比用 Ollama 更稳。 一、Xinference 是什么 Xinference 是一个强…

赞(0)admin2026-10-12大模型 阅读(60)评论(1)

「企业级大模型私有化部署」系列第 3 篇。目标：在 AutoDL 的 RTX 4090 上装 Ollama，跑 qwen3:4b，再通过 SSH 隧道接进 Dify。 结论：Ollama 负责「把大模型跑起来」，Dify 负责「把大模型用起来」。中间那根线是 SSH 隧道；隧道没通，Dify 里怎么配都看不到模型。 一、AutoDL 是什么 AutoDL 是面向开发者和企业的 GPU 算力平台，提供 RTX 4090、3090、A 系列…

赞(0)admin2026-10-11大模型 阅读(26)去评论

「企业级大模型私有化部署」系列第 2 篇。目标：在腾讯云 4 核 8GB 的 CVM 上，用 Docker 把 Dify 跑起来，完成首次管理员设置，并接一个在线模型验证。 结论：Dify 是应用层，本身不重；真正容易卡住的是 Docker 安装、镜像拉取和首次访问。把这三步做稳，后面接模型才有意义。 一、Dify 能做什么 Dify 是一个综合性的 LLM 应用开发平台，内置了构建生成式 AI 应用所需的大部分技术栈： 基于 Agen…

赞(0)admin2026-10-10大模型 阅读(41)去评论

「企业级大模型私有化部署」系列共 4 篇：场景与拓扑、Dify、Ollama、Xinference。这是第 1 篇。 结论：私有化部署不是「装一个 Dify」就结束了。它是一条从应用平台到模型服务的链路：Dify 负责应用，Ollama 负责大语言模型，Xinference 负责 Embedding 与 Rerank，三台服务器各司其职。 一、为什么企业要做私有化部署 企业在使用大模型时，第一约束是数据安全。把制度、客户资料、代码、合同…

赞(0)admin2026-10-09大模型 阅读(26)去评论