ALLE RESEARCH / CODE · SCIENCE · AGENTS
← 返回 Benchmark 目录
REASONING / SHARED BUDGETS

R³-Bench

LLMs Struggle with Resource-Rational Reasoning under Shared Budgets

当六道题共享一份预算,模型能否合理分配计算资源?R³-Bench 对照同一模型已展示的单题能力,评测跨任务的资源分配与策略调整。

3任务领域
6每组问题数
50每领域任务组
01 / RESEARCH OVERVIEW

评测问题

单题能解出来,不代表共享预算下能实现同样的能力。R³-Bench 考察模型如何选择问题、分配计算投入,以及何时继续、切换或停止,将解题能力与资源分配表现区分开。

R³-Bench Figure 2:基准构建、评测协议与行为诊断
Figure 2 · R³-Bench 评测框架 · 点击查看大图
02 / RESEARCH OVERVIEW

共享预算的任务设计

覆盖数学、竞赛编程和抽象推理三个领域。每个领域从 300 道题构建 50 组六题任务,每组包含 3 道低资源需求、2 道中等需求和 1 道高需求题。无工具设置以输出 Token 计预算,Agent 设置以计数动作计预算;强压力与中等压力分别对应模型自身基线资源用量的 20% 和 80%。

03 / RESEARCH OVERVIEW

同一模型的能力参照

匹配的单题实验建立预算—成功率响应曲线,并构造均等分配回放与离线经验 Oracle。Oracle 在同一总预算内选择各题的预算档位,作为已观察单题能力的分配参照。它使用离线信息,不是可直接部署的在线策略,也不代表理论上的能力上限。

04 / RESEARCH OVERVIEW

主要发现

主表覆盖 6 个模型、两种设置、两档预算压力和三个领域,共 72 个组合。Oracle 均值在所有组合中不低于实际共享预算表现,其中 71 个组合严格更高。中等压力、无工具设置下,均等分配回放也超过了 6 个模型中的 3 个。增加预算或开放工具并未一致消除差距。

05 / RESEARCH OVERVIEW

从执行轨迹理解差距

强压力下,模型更常因预算花在其他问题上而错过可解题;中等压力下,则更常在已有部分进展后停止。三模型的强压力 Agent 诊断中,固定调度器在 9 个模型—领域组合中的 6 个超过原始任务均值,但没有一种策略在所有领域占优。

内容与实验结果据论文原文整理,结果对应文中模型与评测协议。

浏览全部 17 项 Benchmark ↗
START A CONVERSATION

与 ALLE 研究团队交流

数据、环境、评测与合作。

czi447@alleai.cloud ↗