AI
全景洞察

预训练发生在使用模型之前。下面演示已训练好的语言模型如何生成回复；模型参数通常保持不变。

• Token 是模型处理信息的最小离散单元。
• 预训练让模型获得通用语言、知识与模式能力；它是前置的训练过程。
• 上下文学习指模型利用当前提供的任务、示例等信息作答，不等于每次都重新训练。
• 推理阶段不更新参数，而是在上下文中完成条件生成。

关键认识：大模型不是在“查答案”，而是在给定上下文下做条件概率预测。

复杂能力并非来自显式规则，而是来自规模化表示学习与上下文建模。

• 通常不需要重做预训练。
• 重点在后训练使用能力与业务域适配。
• 工具调用与评测决定可用性。

企业应用更关注“怎么把模型用好”，而不是“怎么重新训练一个基础模型”。

把大模型当作概率引擎使用，并用外部系统提供约束与校验。

• 企业 AI 不只是调用一个模型
• 效果由上下文组织和工具接入共同决定
• 可用性取决于流程编排与异常处理
• 上线能力依赖评测、观测和回归机制
• 规模化运行必须具备权限、安全与成本治理

企业落地的核心对象不是单个模型，而是一套可控、可评估、可迭代的 AI 系统。

真正需要建设的，往往不是最底层模型，而是中间能力层与平台层。

选型取决于任务开放度与流程确定性，而不是技术热度。

• 能用 RAG 的，不必先做微调。
• 能用 Workflow 的，不必强上 Agent。
• 多数企业主流组合：RAG + Workflow + 少量 Agent 化。

不要把所有问题都交给 Agent，技术选型应与任务结构匹配。

很多效果问题，并不是模型差，而是上下文组织方式差。

提示词只是上下文工程的一部分，真正关键是信息如何被组织并进入模型。

多模态让 AI 不再只读文字，而是理解更丰富的业务信息，驱动更可靠的决策与执行。

• 价值不只是“看懂图片”，而是把感知输入转成流程可处理的信号。
• 企业价值来自多模态与流程、系统、规则的结合。

多模态正在把 AI 从文本助手扩展为可感知真实业务环境的系统能力。

规模化可用性 =（效果 × 稳定性）/ 单位成本

• 模型越大效果可能更好，但延迟与成本更高。
• 链路越复杂能力更强，但失败点更多。
• 真正上线比拼单位成本下的稳定效果。

企业最终竞争的不是单次演示效果，而是可持续、可观测、可规模化的运行能力。

一旦 AI 连接企业数据与业务动作，治理就必须成为架构的一部分。

安全与治理不是上线后补救，而是从设计阶段就应内建在 AI 系统中的底层能力。

Agent 并不是突然出现的新概念，而是模型、工具与编排能力逐步成熟后的系统形态。

关键判断：Agent 的本质是把模型嵌入执行闭环；Tool + Memory + Planning 让 AI 从回答走向行动。

Agent 化的起点不是更会聊天，而是能够围绕目标进行感知、决策与执行。

1. 01接收任务
2. 02解析目标与约束
3. 03分解子任务 / 规划
4. 04选择知识 / 工具
5. 05执行 Action
6. 06读取 Observation
7. 07判断是否完成 / Evaluation

真正可用的 Agent，不是多想一步，而是能在循环中持续修正并推进任务完成。

没有记忆、工具、状态与约束，很多系统只是高级 Prompt，而不是完整的 Agent。

企业实践：以 Workflow 为骨架，Agent 处理不确定与复杂部分。

Workflow 与 Agent 不是互斥关系，最常见的企业实践是前者兜底、后者增强。

角色数量并不是重点，复用、治理与工程化能力往往比“多几个 Agent”更重要。

多 Agent 不等于更好，平台能力决定可复制与可治理性。

企业更需要的是可复用、可管理、可演进的 Agent 基础设施，而不只是几个新角色。

没有工程化的 Agent = 不稳定的黑箱

Agent 不能直接裸奔上线，必须配套评测、观测、异常处理与人工兜底机制。

真正决定 Agent 能否复用、治理和扩展的，往往不是模型本身，而是平台底座。

目标：构建一套可复用、可治理、可观察、可迭代的 Agent 基础设施。

平台化不是额外包装，而是把零散 Agent 应用转化为组织级能力资产的关键步骤。

代码不再是唯一资产 · 数据 · 提示 · 工具 · 评测集 · 日志

AI 应用开发的核心对象，不再只是代码本身，而是一个可调优、可观测、可持续改进的系统。

企业 AI 应用不是一次性上线，而是快速验证、持续迭代、逐步扩大覆盖面的过程。

1. 01场景选择与价值定义识别高价值场景；明确目标与指标
2. 02任务拆解与输入输出拆解业务流程；定义输入与输出
3. 03提示与上下文设计设计模板；构建上下文与约束
4. 04知识与工具接入接入 RAG；连接工具与 API
5. 05原型验证实现原型；验证业务价值
6. 06评测集构建建设数据集；确定指标与基线
7. 07灰度上线小范围试点；监测效果与风险
8. 08线上观测与迭代建设指标与告警；持续优化

快速验证价值 · 持续迭代优化 · 逐步扩大覆盖

AI 项目不应先做大而全平台，而应先围绕高价值闭环任务完成验证与复制。

效果不能靠主观判断，需要通过评测集、线上观测与反馈闭环持续验证。

持续、可回放、可比较的评测体系，是把 AI 应用从 Demo 推向生产的基础设施。

分层解耦可以提升复用、治理与迭代效率，也便于按需替换模型与能力组件。

分层解耦、能力可复用，便于治理与演化。

企业真正要建设的，不只是单个应用，而是一套可复用、可治理、可持续演进的 AI 能力底座。

核心价值：提升非结构化信息与知识密集型工作的效率和质量。

企业 AI 最先创造价值的，通常不是完全自治，而是人机协同增强型场景。

关键是把 AI 嵌入真实运营节点，形成“感知—决策—执行—反馈”闭环。

制造场景的落地重点，是把 AI 能力嵌入实际业务链条，而不是停留在问答入口。

规模化难点：组织协同、流程再造与能力持续建设。

真正的壁垒不在做出 Demo，而在持续复制、治理与演进能力。