控制方程
通过步骤数、数值范围和运算类型控制题目的数学结构与难度。
DATA SYNTHESIS / MATHEMATICAL REASONING
ControlMath
EMNLP 2024可控生成，高质量的推理数据。
ControlMath: Controllable Data Generation Promotes Math Generalist Models
训练数据如何超越已有题目的改写？ControlMath 从可控的数学方程出发，把题目生成与数据选择放进同一流程，探索更具多样性的数学推理训练语料。
≈190kControlMathQA 数学应用题
3 类方程生成方向
2 个承担生成与筛选的 Agent
01 / THE RESEARCH
让数据的多样性，从生成源头开始。
只围绕已有题目扩写，容易保留原有分布的局限。ControlMath 用 Python 方程生成器控制运算步骤、运算符与数值范围，再把形式化表达转成自然语言任务，覆盖多步计算、多项式与概率问题。
生成问题
Problem-Crafter 将方程组织为应用题，保留可求解的数学关系。
筛选数据
结合问题改写与模型求解表现选择训练样本，减少重复、低价值数据。
02 / EVIDENCE & FINDINGS
同时观察域内学习与域外泛化。
论文将 ControlMathQA 与 GSM8K 等语料组合训练，并在域内和域外数学任务上比较。实验说明，训练数据的结构与筛选方式会影响泛化；单纯扩大同分布数据量，未必带来相同收益。
实验口径
约 19 万条指 ControlMathQA 的数据规模。不同基础模型、训练组合与测试集的结果分别见论文实验表格；数据规模本身不代表效果保证。
CONTINUE EXPLORING