Token:AI 眼里的“文字积木”
AI 不像人一样直接读整句话。它把内容切成小块,再根据前文预测下一块最可能是什么。
“整理客户反馈,找出本周最值得优先解决的 3 个问题。”
不用从模型架构学起。记住三个直觉,就能理解大多数生成式 AI 产品。
AI 不像人一样直接读整句话。它把内容切成小块,再根据前文预测下一块最可能是什么。
你给的任务、资料和对话都放在这张“桌子”上。桌面越乱、信息越缺,结果越容易跑偏。
像一次会议
没带进会议室的资料,AI 也不知道。
大模型根据学过的大量模式组织答案,不是在数据库里复制标准答案,所以可能流畅但不一定正确。
关键提醒
语言很自信 ≠ 事实已核验。
前四者主要描述“智能能力从哪里来”,Agent 描述“这些能力怎样被组织起来完成目标”。
把模型放进一个能感知、记忆、规划、调用工具并检查结果的系统中。
大模型像经过大量训练的大脑;Agent像给这个大脑配上目标、手脚、记事本和工作制度。
规则系统、搜索算法、机器学习、机器人等都可以属于人工智能,不是所有 AI 都使用大模型。
系统通过数据调整参数、发现模式。推荐系统、风险评分和图像识别都可能使用机器学习。
它擅长理解和生成语言,也能处理图像、音频等信息,但单独的模型通常只完成一次输入到输出。
它可以使用大模型,也可以结合规则、传统模型和业务系统;核心是围绕目标持续选择并执行行动。
Agent 的关键不只是模型更聪明,而是系统能够观察环境、选择行动,并根据反馈继续推进。
AI Agent 是一个围绕目标运行的系统:它感知当前环境,维护必要的状态,决定下一步行动,调用工具改变环境,再根据结果调整后续行动。
定义里最重要的不是“像不像人”,而是它是否真的拥有目标、行动能力和反馈闭环。只回答一次问题的模型不是完整 Agent;固定执行预设步骤的自动化流程,也不一定是 Agent。
明确要实现的结果、成功标准与停止条件。
理解意图、分析信息、生成计划并选择下一步。
读取用户输入、文件、页面、数据库或环境状态。
搜索、计算、写文档、调用业务系统或发起流程。
保存任务进度、关键事实、历史选择与待办事项。
控制权限、检查质量,并在关键节点请求人确认。
如果结果还没达到目标,就带着新信息继续下一轮;遇到高风险动作,则停下来请人确认。
自主越高,不代表一定越好;任务越稳定、风险越高,越应该保留确定流程和人工审批。
输入一次,输出一次。
例:改写一封邮件步骤由人预先定义,模型完成其中部分。
例:分类 → 摘要 → 入库系统根据结果动态选择步骤,关键动作由人确认。
例:客户研究与拜访准备在较长时间与较大权限范围内独立推进。
适合少数可监控、可恢复任务“能感知环境并采取行动”的思想很早就存在;大模型让 Agent 第一次拥有了更通用的语言理解、规划和工具使用能力。
研究者尝试把知识和推理规则直接写进程序。系统在边界清楚的领域有效,但规则维护成本高、适应性有限。
关键词:规则、搜索、知识库Agent 被用于描述能够感知环境、采取动作并追求目标的软件实体;强化学习则研究如何通过奖励反馈学会行动策略。
关键词:环境、行动、奖励神经网络在图像、语音和语言任务上快速进步,机器更擅长“看懂”和“听懂”,但多数系统仍围绕单一任务构建。
关键词:神经网络、表征学习Transformer 架构推动大规模语言模型发展。模型逐渐具备更通用的语言理解、生成和少样本任务适应能力。
关键词:Transformer、基础模型ReAct 等研究展示了语言模型交替进行推理与工具行动的方式;函数调用、检索和代码执行让模型能够影响外部世界。
关键词:ReAct、工具使用、RAG重点从“能不能自主”转向“能否可靠落地”:上下文工程、权限控制、可观测性、评估、协议连接与人在回路成为核心。
关键词:可靠性、治理、多 Agent过去的 Agent 往往需要人为写清大量规则;今天的大模型 Agent 可以用自然语言理解新任务,但也带来了不确定性。因此,现代 Agent 的竞争力不只来自模型,也来自上下文、工具设计、评估和治理。
选择一个场景,看 Agent 如何与人分工。
越符合右侧特征,越适合先做小范围试点。
不要只说“帮我做一下”。像带一位新同事一样,交代目标、材料、规则和验收标准。
判断一件事能否自动化,先看风险,再看效率。
做法:抽样检查,逐步扩大使用范围。
做法:发送、采纳或执行前,由负责人确认。
做法:必须有明确授权、审批和操作留痕。
数据最小化只提供完成任务所必需的信息,敏感信息先脱敏。
事实可追溯重要结论要求给出处,不把“听起来合理”当成事实。
权限最小化只开放需要的工具和数据,高风险动作设置审批。
责任不转移最终判断仍由业务负责人作出,并对结果负责。
每题选择一个你认为最合适的答案。
不要问“AI 能不能替我工作”,回到开头 ↑
要问“我能否把工作拆成目标、资料、行动和检查”。