Yash Patil：智能——解锁企业内部知识

Karpathy 用“锯齿状智能”描述当前大模型：它可以在某些复杂任务上表现惊人，却可能在看似简单的任务上失败。能力不是沿着人类难度直线均匀增加，而是受训练数据、任务表达、验证信号和推理结构影响。

预训练让模型从海量文本、代码和图像中学习一般规律；后训练则用人类偏好、可验证奖励和任务反馈塑造行为。Karpathy 认为，行业重心正在从单纯扩大预训练，转向更复杂的后训练和 Agent 系统。

公开互联网是上一阶段模型的主要数据来源，但高质量人类数据增长速度有限。模型开始通过合成数据、推理轨迹、工具使用和环境互动产生新数据。

Silver 与 Sutton 提出的核心结构是：智能体不只模仿人类过去留下的数据，而是在持续环境中行动，通过真实结果学习。

最小闭环是：

观察当前状态
    ↓
选择行动
    ↓
环境发生变化
    ↓
获得新的观察和奖励
    ↓
调整后续行为

这与一次性问答不同。长期 Agent 需要处理连续时间、延迟结果、部分可观察状态和不断变化的环境。企业世界尤其复杂：竞争者会反应，政策会改变，同一动作在不同客户和时间产生不同结果。

AlphaZero 的环境相对封闭：规则固定、状态清晰、胜负可判断。企业 Agent 面对的是开放世界：

因此，经验学习不能简单等同于“让 Agent 自己多试”。它需要沙盒、权限限制、分级风险和可信评价。

企业谈“记忆”时常把几种不同机制混在一起。可以按更新速度区分：

现实业务状态
    ↓ 被读取
当前观察与工作上下文
    ↓ 被整理
外部长时记忆、文件与系统记录
    ↓ 被反复使用
技能、规则、评价器和工作流
    ↓ 更慢更新
模型权重

• 业务状态回答“世界现在怎样”；

• 工作上下文回答“这次任务需要知道什么”；

• 长时记忆保存跨任务历史；

• 技能与工作流保存可复用做法；

• 模型权重沉淀更广泛、更稳定的行为。

当前系统更接近“快速外部记忆、较慢权重更新”。这不是智能的终极结构，而是现有训练和安全条件下的工程选择。持续学习仍面临灾难性遗忘、错误累积、审计和权限问题。

Yash 用 DoorDash 的菜单录入解释企业数据怎样变成模型能力。商家上传的菜单照片格式混乱，通用模型和提示词无法稳定按照 DoorDash 的商品、加料和选项规则生成正确页面。

DoorDash 已经拥有一套真实反馈：模型先生成菜单，人再修正错误，系统可以比较修改前后差异，并用最终错误率评价结果。Applied Compute 据此训练模型，而不是只把更多内部文档塞进提示词。

在 Yash 的框架中，企业数据最有价值的部分不是“只有这家公司看过”，而是它能否连接具体任务、模型行动、人类修正和最终结果。持续学习同样依赖这条链：系统必须看到产品怎样被使用，以及一次行动在下游造成了什么后果。¹

今天多数训练数据是存量知识。不同模型公司获取的数据不完全相同，但互联网文本、代码和论文高度重叠，合成与蒸馏又能重建部分分布。仅仅声称“我们有很多用户日志”，通常不足以证明数据壁垒。

Agent 真正进入工作后，会产生过去不存在的经验轨迹：

真实目标
→ 当时环境状态
→ Agent 尝试多个动作
→ 工具返回结果
→ 人类修正或批准
→ 最终是否成功
→ 是否产生后续错误

这些数据不是“世界已经说过什么”，而是“在这个环境里怎样做才有效”。

经验数据的价值不代表平台可以自由使用。企业 API 和商业产品通常对训练用途有明确限制；OpenAI 与 Anthropic 的公开政策都区分消费者产品、企业产品和用户选择。⁵⁶

所有权问题可以拆成五层：

因此，“拥有客户”不自动等于拥有训练数据，“托管模型”也不自动等于看到最终业务结果。产业中的数据优势取决于合同、产品架构和工作流位置。

Sutton 的“苦涩的教训”指出，长期来看，依靠通用计算和学习的方法往往超过大量手工编码知识。这并不要求产品取消所有工作流、规则和工具。

通用学习方法负责从规模中获得能力；结构化工具则缩小行动空间、降低错误和验证成本。比如代码 Agent 使用编译器和测试，不是因为模型不够通用，而是因为确定性反馈让学习和执行更可靠。

通用模型：提出计划、处理模糊信息、适应新情况
结构工具：限定动作、保存状态、提供可靠反馈

最有效的系统往往不是“完全手写”或“完全自由探索”，而是让模型在一个可观察、可验证的环境中行动。

课堂用一张图概括 AI 发展中的瓶颈迁移。

大模型过去主要在语言空间中输出；Agent 通过 API、浏览器、代码环境和操作系统获得行动能力。计算机因此成为一种通用执行器：只要任务已经数字化，Agent 就可能通过软件接口影响现实业务。

这也是企业软件的重要变化。图形界面原本是给人设计的；Agent 更适合 API、命令行、结构化工具和机器可读反馈。它甚至可以绕过部分界面，直接与系统记录交互。

但行动能力使安全问题升级。只读错误可能产生一段错误回答；具有付款、删除、部署或签约权限的 Agent，错误会直接改变企业状态。经验学习必须和最小权限、审批、日志、回滚共同设计。

企业常希望把内部知识训练进一个专用模型。但专用模型同时面临两类折旧：

1. 前沿能力折旧：下一代通用模型可能覆盖它原有的能力优势；

2. 定制位置折旧：越来越多定制需求可以由上下文、技能、工具、记忆和验证器完成，不必改权重。

专用模型仍有明确价值，但适用条件要更严格：

• 任务分布长期稳定且规模巨大；

• 通用模型在该领域仍有显著能力缺口；

• 延迟、能耗、隐私或单位成本差异足够大；

• 企业拥有高质量可验证数据；

• 定制收益能覆盖持续训练和运维。

企业数据的价值不由私有性或数量决定，而由它能否组成行动—结果—评价—改进的闭环决定。静态文档提供知识，真实任务状态、动作轨迹和可归因结果提供经验。Agent 从回答问题走向执行工作后，可能第一次持续生产原本不存在的高价值数据。

这条经验飞轮不会自动成立。平台必须接近真实工作、看见结果、获得可信反馈，并拥有抽象和再利用经验的权利。专用模型也不是企业知识的唯一归宿；上下文、技能、工具、记忆和验证器会共同吸收定制需求。长期竞争的核心，是谁能以更高频率完成可信闭环，并把经验转成下一次更好的行动。