Agent = LLM (大脑) + Planning (规划) + Tool use (执行) + Memory (记忆)

普通的 LLM:One-shot(一次性)响应
Agent : Iterative(迭代),思考、行动、观察(LLM)循环往复。

LLM 的智力天花板决定 Agent 智力上限

AI 底层架构

核心名词释义

Transformer(核心):并行处理并深度理解全局上下文,当前大模型核心架构,通过自注意力机制建立 Token 之间关联关系。
Token:模型处理文本最小单位,可为子词、单词、字符或符号。
Prompt:给到模型的输入指令,用来设定角色、控制行为、规范输出格式与目标。
RAG:检索增强生成,先检索外部专业知识库,再交由 LLM 整合生成精准答案。
MCP:模型上下文协议 ( Model Context protocol ),统一 AI 与工具、数据库、外部服务的通信标准。
Agent:在 LLM 基础上叠加目标+规划+执行能力的自主智能系统。
Tool Calling:模型主动识别需求、调用外部工具完成实际操作,不局限纯文本回复。
Memory:为 AI 提供短期会话记忆 + 长期持久记忆,解决上下文遗忘问题。

AI Agent 完整运行流程

用户输入:用户下发指令 Prompt,进入上下文窗口 Context Window。
记忆增强:系统联动 Memory 会话记忆 + RAG 外部知识库,补充上下文与专业知识。
LLM 推理:通过 Transformer 架构对 Token 序列做注意力计算,进行语义理解与初步生成。
Agent 规划:智能体自主判断、拆解任务,决策是否需要多步骤执行或调用外部工具。
工具执行:基于 MCP 协议,调用 API、数据库、搜索引擎等外部能力完成实操。
输出结果:汇总工具返回数据与模型推理结果,整理后返回用户,同时写入记忆存档。