LLM Agent 架构:ReAct、工具调用、规划、记忆与反思

大语言模型从静态文本预测向动态智能体演进,核心在于构建“感知—决策—行动”闭环。本文深入解析 ReAct 推理行动交替、工具调用协议、思维树规划及反思记忆机制,探讨如何克服长时程任务中的错误累积与上下文限制。通过剖析 CoALA 架构与安全边界,帮助读者系统掌握 LLM 作为控制器的设计范式,实现从知识检索到复杂任务执行的跨越。

本文属于《AI 深度培训》系列 · 难度:专家 · 篇幅:约 7000 字

大语言模型从静态文本预测向动态智能体演进,核心在于构建“感知—决策—行动”闭环。本文深入解析 ReAct 推理行动交替、工具调用协议、思维树规划及反思记忆机制,探讨如何克服长时程任务中的错误累积与上下文限制。通过剖析 CoALA 架构与安全边界,帮助读者系统掌握 LLM 作为控制器的设计范式,实现从知识检索到复杂任务执行的跨越。

1. 导读:从对话模型到智能体

传统的大语言模型(LLM)本质上是一个静态的文本预测器,其核心任务是在给定前缀的条件下预测下一个 token。这种“输入-输出”的范式在处理单轮问答或文本生成时表现优异,但在面对需要多步交互、环境感知及状态维护的复杂任务时,其局限性便暴露无遗。例如,在解决数学应用题或执行代码调试时,模型往往缺乏将中间推理结果与外部工具反馈结合的能力,导致错误累积且无法自我修正。 智能体(Agent)架构的兴起,正是为了解决这一“感知—决策—行动”循环中的断点。与被动响应不同,智能体将 LLM 视为一个控制器(Controller),该控制器不仅处理语言输入,还负责解析环境状态、规划行动序列,并根据行动后的观测结果(Observation)动态调整后续策略。这一转变标志着 LLM 从“知识检索器”向“任务执行器”的演进。 在此框架下,语言模型的角色发生了根本性变化:

  1. 感知:不再仅限于文本上下文,而是扩展至结构化的环境反馈(如 API 返回值、代码执行日志)。
  2. 决策:从单一的 token 预测升级为多步规划,需要在思维链(Chain-of-Thought)与具体行动之间进行权衡。
  3. 行动:通过标准化的接口与外部世界交互,实现闭环控制。

这种架构的重要性在于,它赋予了 LLM 处理长时程任务(Long-horizon tasks)的能力,使其能够应对现实世界中充满不确定性和动态变化的场景。然而,这也引入了新的挑战,如循环发散、安全性风险以及评估难度的增加。 本文旨在深入剖析 LLM Agent 的核心组件,帮助读者构建系统化的认知框架。读完本节及后续章节,你将能够:

  • 理解 ReAct 如何通过交替生成推理与行动来协同增强任务表现(Yao et al., 2022)。
  • 掌握工具调用的协议设计与自监督学习机制(Schick et al., 2023)。
  • 辨析思维链、自一致性与思维树在规划层面的差异(Wei et al., 2022; Wang et al., 2022; Yao et al., 2023)。
  • 了解记忆机制与反思策略如何弥补上下文窗口的限制(Shinn et al., 2023; Park et al., 2023)。
  • 从 CoALA 架构视角审视智能体的记忆、动作空间与决策过程(Sumers et al., 2023)。
  • 识别并缓解间接提示注入等安全风险(Greshake et al., 2023)。

接下来的章节将沿着“基础范式 -> 核心机制 -> 高级策略 -> 工程实践”的路线展开,逐步拆解智能体架构的各个关键模块。

2. ReAct:推理与行动交替

在构建 LLM Agent 时,最核心的挑战在于如何让模型不仅“想得通”,还能“做得对”。传统的 Chain-of-Thought (CoT) 提示工程(Wei et al., 2022)虽然显著提升了模型的内部推理能力,但它存在一个根本缺陷:幻觉。模型在封闭的文本空间中生成推理步骤,无法验证中间结论的真实性。例如,在回答“某公司 CEO 的出生地”时,模型可能基于过时的训练数据或逻辑谬误编造一个地址,且无法自我纠正。 ReAct 框架(Yao et al., 2022)提出了一种更稳健的范式:将推理(Reasoning)与行动(Acting)交织在一起。其核心思想是,模型不应一次性生成完整的推理链,而是交替生成“思考”(Thought)、“行动”(Action)和“观察”(Observation)。

轨迹结构:Thought / Action / Observation

如下图所示,ReAct 的执行轨迹是一个循环过程,而非线性的文本生成:

  1. Thought (推理):模型根据当前状态和之前的观察,分析下一步该做什么。这是模型的“内心独白”,用于规划或解释意图。
  2. Action (行动):模型输出一个具体的、可执行的动作指令。通常是一个函数调用或搜索查询,例如 Search[Python 3.11 release date] 或 GetWeather[Beijing]。
  3. Observation (观察):环境(如搜索引擎、API、数据库)执行该动作后返回的结果。这个结果是外部真实世界的数据,直接注入回模型的上下文窗口。
Thought: I need to find the latest version of Python.
Action: Search["Python latest version 2024"]
Observation: Python 3.12 was released in October 2023...
Thought: The search result says 3.12, but I should verify if there are patches.
Action: Search["Python 3.12 patch release"]
Observation: 3.12.1 released in November 2023...
Thought: Now I have the specific patch info. I can answer the user.
Action: Finish[Python 3.12.1 is the latest patch version.]

与纯 CoT 及纯行动的对比

为了理解 ReAct 的优势,我们需要将其与两种极端情况进行对比:

范式 机制 优势 劣势
纯 CoT 模型在内部生成完整的推理链,最后给出答案。 推理连贯,适合数学、逻辑题。 无法获取外部事实;容易陷入幻觉循环;错误一旦产生无法修正。
纯行动 (Act) 模型直接根据输入生成动作,不生成解释性思考。 响应速度快,延迟低。 缺乏规划能力;面对复杂多步任务时容易迷失方向;无法解释决策过程,调试困难。
ReAct 推理与行动交替进行,观察结果反馈给推理。 可验证性:通过外部观察纠正错误;可解释性:Thought 提供了决策依据;适应性:能根据动态环境调整策略。 推理步骤增加,导致 Token 消耗和延迟增加;对提示工程要求较高。

ReAct 的关键洞察在于:推理有助于制定行动计划,而行动有助于获取新的信息以支持后续推理。这种闭环机制使得 Agent 能够处理那些需要实时信息或多步交互的任务,例如网页浏览、代码调试或数据库查询。 在工程实现中,ReAct 轨迹通常通过 Few-shot Prompting 实现,即提供几个完整的 Thought-Action-Observation 示例,引导模型模仿这种交互模式。虽然 ReAct 最初是为了解决知识密集型任务(如 HotpotQA)而设计,但其“感知-决策-行动”的循环结构已成为现代 LLM Agent 架构的基础范式,后续的 Toolformer(Schick et al., 2023)等研究进一步证明了模型可以通过自监督学习掌握这种工具调用能力,而无需依赖复杂的提示工程。

ReAct 循环
图 1:ReAct 循环

Yao et al. (2022)。每一步的思考、动作和观察都追加到上下文,构成可审计的轨迹。

3. 工具调用:协议与学习

在构建 LLM Agent 时,工具调用是将模型从“文本生成器”转化为“行动执行者”的关键接口。这一过程涉及两个核心维度:标准化的通信协议以及模型习得调用行为的能力。

1. 协议:JSON Schema 与函数描述

现代 Agent 框架普遍采用基于 JSON Schema 的函数描述协议(如 OpenAI Function Calling 或 Anthropic Tool Use)。这种协议将工具定义为一组结构化的元数据,包括函数名、描述、参数类型及约束。

{
  "name": "get_weather",
  "description": "Get the current weather in a given location",
  "parameters": {
    "type": "object",
    "properties": {
      "location": {
        "type": "string",
        "description": "City name, e.g. San Francisco"
      },
      "unit": {
        "type": "string",
        "enum": ["celsius", "fahrenheit"]
      }
    },
    "required": ["location"]
  }
}

从工程角度看,JSON Schema 的优势在于其自描述性和机器可解析性。模型只需根据 Schema 生成合法的 JSON 对象,后端即可安全地执行对应函数。这种解耦设计使得 Agent 可以动态加载工具,而无需重新训练模型。然而,这也要求模型具备极强的指令遵循能力,以严格匹配 Schema 约束(如 required 字段、enum 值域)。

2. 学习:Toolformer 的自监督机制

虽然现代大模型通常通过指令微调(SFT)学习工具调用,但 Toolformer 展示了一种更优雅的自监督学习路径(Schick et al., 2023)。其核心思想是:模型可以通过观察工具调用是否提升了后续文本生成的似然性,来自动学会何时调用工具。 Toolformer 的训练过程分为三步:

  1. 候选生成:在文本生成过程中,模型在特定位置(如实体后)尝试调用候选工具(如搜索、计算器)。
  2. 效用评估:比较调用工具后,后续文本的负对数似然(NLL)是否低于不调用工具的情况。
  3. 数据筛选:仅保留那些显著降低 NLL 的调用样本,用于后续微调。
# Toolformer 核心逻辑伪代码
def toolformer_step(token, context, tools):
    # 1. 预测下一个 token 的分布
    dist_no_tool = model.forward(context)
    nll_no_tool = -log_prob(next_token, dist_no_tool)
    # 2. 尝试调用工具
    for tool in tools:
        if tool.is_applicable(context, token):
            result = tool.execute(token)
            new_context = context + [result]
            dist_with_tool = model.forward(new_context)
            nll_with_tool = -log_prob(next_token, dist_with_tool)
            # 3. 如果工具调用降低了 NLL,则标记为有效样本
            if nll_with_tool < nll_no_tool - threshold:
                save_sample(context, tool, result)

这种方法无需人工标注“何时该调用工具”,而是让模型通过信息增益来发现工具的价值。实验表明,Toolformer 学会了在不确定事实时调用搜索,在复杂计算时调用计算器,且显著减少了幻觉。

3. 错误处理与重试

在实际系统中,工具调用可能失败(如 API 超时、参数格式错误、权限拒绝)。Agent 必须具备鲁棒的错误处理机制:

  • 结构化错误反馈:将工具返回的错误信息(如 {"error": "Invalid location format"})作为 Observation 反馈给模型,而非直接终止。
  • 重试策略:模型应根据错误信息调整参数并重新生成调用。例如,若 location 格式错误,模型可尝试标准化城市名。
  • 降级方案:若多次重试失败,Agent 应回退到纯文本推理或向用户澄清,避免无限循环。
# 带重试的工具调用封装
def call_tool_with_retry(tool_name, args, max_retries=3):
    for i in range(max_retries):
        try:
            result = tool_registry[tool_name](**args)
            return {"status": "success", "result": result}
        except Exception as e:
            if i == max_retries - 1:
                return {"status": "error", "message": str(e)}
            # 将错误信息反馈给模型,由模型决定下一步
            return {"status": "retry", "error": str(e), "hint": "Adjust arguments"}

常见误区:许多实现将工具调用视为“一次性成功”的黑盒,忽略了错误反馈对模型推理路径的影响。实际上,错误信息是 Agent 学习的重要信号,应被纳入上下文窗口,引导模型进行自我修正。

4. 规划:思维链、自一致性与思维树

直觉:从线性推演到搜索空间

在解决复杂问题时,大模型常陷入“一条路走到黑”的困境。思维链(Chain-of-Thought, CoT)通过显式生成中间推理步骤,将隐式的内部计算转化为可读的文本轨迹,显著提升了多步推理能力(Wei et al., 2022)。然而,CoT 本质上是贪心的线性搜索,一旦某一步推理错误,后续步骤往往无法挽回。 为突破这一局限,规划(Planning)引入了更广泛的搜索策略。其核心直觉是将问题求解视为在状态空间中的探索:不仅生成一条路径,而是生成多条候选路径,通过评估、回溯或投票选出最优解。这标志着 LLM 从“反应式生成”向“主动式规划”的范式转变。

自一致性:采样与投票机制

自一致性(Self-Consistency)是对 CoT 的简单但有效的增强(Wang et al., 2022)。其核心思想利用 LLM 的随机性:对于同一问题,以不同的温度参数采样多条 CoT 轨迹,最后对最终答案进行多数投票。

def self_consistency(question, prompt, k=5, temperature=0.7):
    # 采样 k 条不同的推理轨迹
    trajectories = []
    for _ in range(k):
        # 生成完整的 CoT 轨迹
        trace = llm.generate(prompt + question, temperature=temperature)
        trajectories.append(trace)
    # 提取每条轨迹的最终答案
    answers = [extract_final_answer(t) for t in trajectories]
    # 多数投票决定最终结果
    final_answer = majority_vote(answers)
    return final_answer

这种机制在算术推理和常识推理任务上表现优异,因为它通过集成多个“专家”视角降低了单次推理的方差。然而,其计算成本随 k 线性增加,且假设正确答案在采样分布中占多数,这在高难度问题上可能失效。

思维树:显式搜索框架

思维树(Tree of Thoughts, ToT)将规划形式化为树搜索问题(Yao et al., 2023)。与 CoT 的线性序列不同,ToT 允许模型在中间步骤进行分支、评估和回溯。 ToT 的算法流程通常包含三个关键操作:

  1. 生成(Generation):从当前节点扩展出多个子节点(即不同的推理步骤)。
  2. 评估(Evaluation):利用 LLM 作为评估器,判断子节点的状态是否接近目标或是否有希望。
  3. 搜索(Search):采用 BFS 或 DFS 策略选择下一个扩展节点。
# 状态空间定义
S = s_0, s_1, ..., s_n # 所有可能的推理状态
A = a_1, a_2, ... # 动作空间(推理步骤)
V(s) = LLM_evaluate(s) # 价值函数,由 LLM 评估状态质量
# 搜索过程伪代码
def tot_search(initial_state, goal, depth_limit):
frontier = [initial_state]
best_state = None
while frontier and depth < depth_limit:
next_frontier = []
for state in frontier:
# 1. 生成多个候选下一步
candidates = [llm.generate_next(state, i) for i in range(branching_factor)]
# 2. 评估每个候选
scored = [(llm.evaluate(c), c) for c in candidates]
# 3. 保留 Top-K 候选进入下一层
next_frontier.extend([c for _, c in sorted(scored, reverse=True)[:k]])
# 4. 检查是否达到目标
if llm.check_goal(state, goal):
return reconstruct_path(state)
frontier = next_frontier
return best_state

ToT 的优势在于其“深思熟虑”的能力,特别适合需要回溯和试错的谜题(如 24 点游戏)。但其代价高昂,每一步都需要多次 LLM 调用,且评估器的准确性直接决定了搜索效率。

任务分解与子目标

在实际工程应用中,纯 ToT 往往过于昂贵。更常见的策略是任务分解(Task Decomposition),即由 LLM 将复杂任务拆解为一系列原子子目标,然后依次执行。 这种“分治”策略结合了 CoT 的线性执行效率与规划的结构性。关键在于子目标的定义必须清晰、可验证。例如,在代码生成任务中,子目标可以是“定义接口”、“实现核心逻辑”、“编写单元测试”。每个子目标完成后,可引入轻量级的验证步骤(如运行测试),若失败则仅回溯到该子目标,而非整个推理链,从而大幅降低错误传播的风险。

工程含义与常见误区

  1. 评估器偏差:ToT 和自一致性都依赖 LLM 作为评估器。如果评估器本身存在系统性偏差(如偏好特定格式),搜索方向可能偏离正确路径。
  2. 计算成本:ToT 的分支因子和深度需根据任务复杂度动态调整。对于简单任务,CoT 或自一致性已足够,盲目使用 ToT 是资源浪费。
  3. 状态表示:在 ToT 中,如何紧凑地表示中间状态至关重要。过长的上下文会导致评估器“迷失”在细节中,应设计简洁的状态摘要机制。

规划的本质是用计算换取准确性。在资源受限的场景下,应优先优化 CoT 提示词质量或采用自一致性;在关键决策且算力充足时,ToT 或分层任务分解才是更优选择。

5. 记忆与反思

记忆与反思:构建长程一致性的认知架构

在长程任务中,LLM Agent 面临的核心瓶颈并非单次推理能力,而是状态保持与经验复用。将上下文窗口视为“工作记忆”(Working Memory)是工程上的基本假设,但受限于固定长度(如 8K 或 128K tokens),模型无法直接承载无限的历史交互。因此,引入外部化的长期记忆机制与自我反思回路,成为提升 Agent 可靠性的关键。 1. 上下文窗口即工作记忆 工作记忆对应于当前推理步骤中激活的短期状态。在 Agent 架构中,这通常体现为 Prompt 中的 System Message、历史对话轨迹(Trajectory)以及当前任务的中间变量。然而,随着任务复杂度增加,上下文迅速饱和。若简单截断早期信息,会导致关键约束丢失;若保留全部历史,则计算成本呈平方级增长(Attention 机制特性)。因此,工作记忆的设计需遵循“相关性优先”原则,仅保留对当前决策最具信息量的片段,或通过摘要压缩(Summarization)将长序列映射为低维表示。 2. 向量库长期记忆与检索 长期记忆(Long-term Memory)需独立于上下文窗口存在,通常由向量数据库(Vector Database)实现。其核心流程为:

  1. 编码:将历史事件、用户偏好或知识库文档通过 Embedding 模型映射为高维向量。
  2. 存储:持久化存储向量及其元数据(时间戳、来源、权限)。
  3. 检索:在决策前,将当前查询向量与库中向量进行相似度计算(如余弦相似度),召回 Top-K 相关记忆片段注入上下文。

这种机制借鉴了人类海马体与皮层协同的记忆巩固过程。值得注意的是,检索质量直接决定 Agent 的表现。若检索噪声过大,反而引入干扰。因此,需结合重排序(Re-ranking)模型或混合检索(Hybrid Search,结合关键词 BM25 与向量检索)以提升精度。 3. Reflexion:语言形式的强化学习 传统强化学习依赖数值奖励更新权重,而 Reflexion 提出了一种“语言强化学习”范式:Agent 在执行任务失败后,生成一段自然语言的自我反思(Self-Reflection),并将该反思文本存入记忆,作为后续尝试的额外上下文(Shinn et al., 2023)。 这一机制的本质是将“失败经验”转化为“可执行的指导原则”。例如,若 Agent 在代码调试中多次陷入死循环,Reflexion 可能生成:“注意检查递归终止条件,避免无限递归”。在下一次尝试中,该反思被置于 Prompt 前端,引导模型规避已知陷阱。与 CoT 不同,Reflexion 不改变推理路径的结构,而是通过元认知(Metacognition)调整策略参数。实验表明,该方法在 HumanEval 等基准上显著提升了代码生成成功率,且无需微调模型权重,具有极高的工程灵活性。 如下图所示,Agent 的四个核心组件(感知、记忆、规划、行动)通过记忆与反思模块形成闭环,实现了从“静态响应”到“动态适应”的跃迁。

工程提示:在实现 Reflexion 时,需设置反思生成的最大长度与重试次数上限,防止模型陷入“过度反思”导致的推理发散。同时,反思内容应结构化(如 JSON 格式),便于后续解析与验证。

Agent 的四个核心组件
图 2:Agent 的四个核心组件

6. 可靠性、安全与评估

循环与发散:控制流的稳定性

在 Agent 系统中,最显著的失效模式并非单次生成错误,而是状态空间的发散。当模型陷入“思考-行动-观察”的无效循环(Looping)时,系统资源被消耗且任务无法推进。从控制论角度看,这源于反馈增益过高或缺乏收敛判据。 工程对策:

  1. 硬性步数限制:设置最大迭代次数(Max Steps),超出即强制终止或切换至人工介入。
  2. 状态去重检测:对 Thought 和 Action 序列进行哈希或语义相似度比对。若连续 N 步的状态向量余弦相似度高于阈值 τ,判定为停滞。
  3. 反思机制介入:借鉴 Reflexion 的思想(Shinn et al., 2023),当检测到失败或停滞时,不直接重试,而是生成语言形式的自我反思(Verbal Reinforcement),将错误原因写入短期记忆,改变后续决策路径,而非仅依赖权重更新。

权限与沙箱:最小权限原则

Agent 具备工具调用能力后,其攻击面从“文本生成”扩展至“系统执行”。间接提示注入(Indirect Prompt Injection)是核心威胁:恶意内容可能隐藏在网页、邮件或文档中,诱导 Agent 执行非预期操作(如删除文件、泄露密钥)(Greshake et al., 2023)。 安全架构设计:

  1. 工具白名单与参数校验:严格限制可调用的函数集合。所有工具输入必须符合 JSON Schema 约束,拒绝执行未定义的操作。
  2. 沙箱隔离:代码执行、文件读写、网络请求必须在隔离容器(如 Docker、gVisor)中进行。禁止 Agent 直接访问宿主机文件系统或敏感环境变量。
  3. 人机协同(Human-in-the-Loop):对于高风险操作(如支付、数据删除、发送外部消息),必须设置确认门控(Confirmation Gate)。Agent 生成意图,人类确认执行。
  4. 审计日志:记录完整的轨迹(Trace),包括每一步的输入、输出、工具调用及结果,以便事后追溯与合规审计。

轨迹级评估:超越最终答案

传统 LLM 评测关注最终输出的准确率,但 Agent 任务的成功不仅取决于结果,更取决于路径的合理性、效率与安全性。仅看结果会掩盖中间步骤的逻辑缺陷或安全隐患。 评估维度:

  1. 过程正确性:检查每一步推理是否符合常识,工具调用参数是否准确。
  2. 效率指标:平均步数、Token 消耗、工具调用次数。
  3. 安全性指标:是否触发敏感操作、是否泄露隐私信息。
  4. 鲁棒性:在噪声输入或工具故障下的恢复能力。

评估方法:

  • 人工标注轨迹:构建专家轨迹数据集,使用 LLM-as-a-Judge 对模型轨迹进行逐步打分。
  • 自动化规则检查:通过正则表达式或 AST 解析工具调用日志,检测违规操作。
  • 模拟环境测试:在沙箱环境中运行 Agent,监控其行为是否符合预期策略。

关键洞察:Agent 的可靠性不是模型能力的线性延伸,而是系统工程问题。必须将安全约束、控制逻辑与评估体系内建于架构之中,而非事后修补。

7. 小结与思考题

在构建 LLM Agent 系统时,核心在于将语言模型从单纯的文本生成器转化为具备感知、决策与行动能力的控制器。回顾前文,我们梳理了从基础推理到复杂规划的技术演进路径。 首先,ReAct 范式确立了“推理-行动-观察”的交替循环机制(Yao et al., 2022)。其核心公式可抽象为状态转移过程:

S_t+1 = Act(S_t, Thought_t)

这种机制有效缓解了纯思维链(CoT)中的幻觉问题,通过外部环境的反馈(Observation)修正内部推理轨迹。 其次,工具调用实现了模型能力边界的扩展。无论是通过 JSON Schema 定义接口,还是如 Toolformer 所示的自监督学习调用能力(Schick et al., 2023),关键在于降低模型对长尾知识记忆的依赖,转而依赖外部工具的确定性输出。 在规划层面,从 CoT 的线性推理(Wei et al., 2022),到自一致性投票提升鲁棒性(Wang et al., 2022),再到思维树(ToT)的搜索框架(Yao et al., 2023),本质是在计算资源与推理深度之间寻找平衡。ToT 引入了类似 MCTS 的探索与利用策略,允许模型回溯并评估不同分支的可行性。 最后,记忆与反思机制解决了上下文窗口的局限性。CoALA 架构从记忆、动作空间与决策过程三个维度系统化地描述了语言智能体(Sumers et al., 2023)。其中,Reflexion 机制通过语言形式的自我反思作为反馈来改进后续尝试,而不更新模型权重(Shinn et al., 2023),这种“语言强化学习”为长程任务的自我修正提供了轻量级方案。

设计清单

在工程落地时,建议遵循以下检查清单:

  1. 状态管理:明确工作记忆(Context Window)与长期记忆(Vector DB/RAG)的边界,确保关键状态不丢失。
  2. 工具契约:严格定义工具的输入输出 Schema,并实现幂等性与错误重试机制。
  3. 安全沙箱:所有外部动作(如 API 调用、代码执行)必须在隔离环境中运行,防止间接提示注入(Greshake et al., 2023)导致的权限滥用。
  4. 终止条件:设置最大迭代次数、置信度阈值或显式终止信号,避免无限循环。

思考题

  1. 记忆压缩与检索冲突 当 Agent 的长期记忆库规模超过上下文窗口限制时,如何设计检索策略以平衡“相关性”与“完整性”? > 提示:考虑结合语义相似度检索与基于任务状态的动态过滤,或引入层级化摘要机制。
  2. 反思机制的收敛性 Reflexion 机制依赖语言反馈进行自我修正,但在复杂多步任务中,这种反馈可能陷入局部最优或循环震荡。如何量化反思的有效性并引入更结构化的奖励信号? > 提示:思考是否可以将中间步骤的正确性验证转化为可量化的奖励函数,而非仅依赖自然语言描述。
  3. 工具调用的鲁棒性 当外部工具返回非预期格式(如 HTML 错误页面而非 JSON)时,Agent 应具备何种降级策略? > 提示:设计一个“解析-验证-重试”的闭环,并考虑在 Prompt 中注入错误处理的元指令(Meta-instruction)。

参考文献

  1. Yao et al., 2022. ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629 arxiv.org/abs/2210.03629
  2. Schick et al., 2023. Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761 arxiv.org/abs/2302.04761
  3. Wei et al., 2022. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903 arxiv.org/abs/2201.11903
  4. Wang et al., 2022. Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171 arxiv.org/abs/2203.11171
  5. Yao et al., 2023. Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601 arxiv.org/abs/2305.10601
  6. Shinn et al., 2023. Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366 arxiv.org/abs/2303.11366
  7. Park et al., 2023. Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442 arxiv.org/abs/2304.03442
  8. Sumers et al., 2023. Cognitive Architectures for Language Agents. arXiv:2309.02427 arxiv.org/abs/2309.02427
  9. Greshake et al., 2023. Not What You’ve Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. arXiv:2302.12173 arxiv.org/abs/2302.12173

Paragoger衍生者AI训练营。发布者:稻草人,转载请注明出处:https://www.shxcj.com/archives/10443

赞 (0)
创业及变现第6课:需求证据的强弱排序
上一篇 4小时前
12-24 A100 和 4090 傻傻分不清?看了就明白训练卡和推理卡的区别
下一篇 2024-06-24 11:52 下午

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

本文授权以下站点有原版访问授权 https://www.shxcj.com https://www.2img.ai https://www.2video.cn