想象你是一位登山教练,要判断一个新来的队员到底能不能挑战高海拔路线。你当然不会第一天就把他扔上悬崖,而是先让他在景区栈道上走一圈——栈道有护栏、有路标,走起来不算太难;等他适应了,再送他去攀岩墙,那里没有护栏,每一步都得自己找手点。AI 的数学能力评测,走的就是同一条路线:AMC 像栈道,AIME 像岩壁,两者连起来构成从易到难的“难度海拔线”。这篇文章带你认识这条路线上的每一个观测点:赛题长什么样、教练用什么协议记录成绩、模型在不同海拔的完赛率如何变化,以及最终怎么用这张成绩单诊断出 AI 的推理短板。
掌握 AMC/AIME 评测体系,你就能看懂主流数学基准的协议细节,用统一难度梯度为大模型做“数学体检”,在模型发布与能力对齐时拿出有说服力的诊断证据。
目录
可视化演示
展示AMC至AIME难度阶梯递进、AI模型在AIME上的准确率演进趋势,以及整数答案精确匹配评测机制。切换步骤查看各维度。
本节配有交互动效(进入视口后自动加载,约 3KB)。
AMC至AIME难度阶梯递进 AMC系列呈阶梯递进:AMC 8(基础)→AMC 10(中等)→AMC 12(进阶)→AIME(竞赛级),难度逐级攀升,晋级率分别约5%/2.5% AIME每题答案为0-999间非负整数,15题×15分=225分满分,AMC 10前约2.5%或AMC 12前约5%可获邀参加AIME AMC8 → AMC10(top 5%) → AMC12(top 2.5%) → AIME(15Q×15pt) 阶梯式难度设计实现能力分层
赛事体系概览:一张登山路线图
登山基地的墙上挂着两张地图:一张是景区栈道,一张是岩壁线路。AMC 和 AIME 就是这两张图——它们是美国数学竞赛体系里最广为人知的两段赛道,前者是入门选拔,后者是进阶邀请。
AMC(American Mathematics Competitions,美国数学竞赛)是一个按年级分组的系列赛,最常见的是 AMC 8、AMC 10、AMC 12;AIME(American Invitational Mathematics Examination,美国数学邀请赛)则是只有收到邀请才能参加的进阶赛,相当于从栈道毕业才允许摸岩壁。
AMC 10/12 都是 25 道选择题、75 分钟、满分 150 分;成绩进入全美前 5%(AMC 12)或前 2.5%(AMC 10)的考生会收到 AIME 邀请。AIME 只有 15 道题,却给 180 分钟,平均每题 12 分钟,是 AMC 的两倍多。对 AI 评测而言,这条“晋级链”天然构成难度梯度:先用栈道过滤会做选择题的模型,再上岩壁考验能写完整推理的模型。官方还把计分规则公开,这让评测协议可以一比一复刻到模型身上。
两张地图画的是同一座山,但线路难度完全不同。评测师要做的是把两条线路都铺给同一个模型,看它在哪条线上走得更远——这正是竞赛体系作为 AI 基准的起点。
- 正确题量每道答对的题给 6 分,鼓励模型把会做的题稳稳做对。
- 空白题奖励每道留空的题给 1.5 分,答错零分,所以“留白”比“乱猜”更划算。
- 总分合成两部分相加得到 AMC 总分,满分是 $6 \times 25 = 150$ 分。
题目特征差异:栈道的护栏与岩壁的手点
栈道最舒服的地方是有护栏——选择题的四个选项就是护栏,即使走不稳也能扶着“排除法”前进;岩壁没有护栏,你得自己找手点——AIME 的填空题没有选项可以参考,每一步都要自己推导出来。
两种题型的本质差异在于答案形式:AMC 是四选一,模型可以靠选项之间的分布特征、表面词频甚至猜测拿分;AIME 要求填 0 到 999 之间的整数,机器阅卷,写错一个数字就是零分。这意味着 AIME 强制模型生成一条端到端的推理链:读题、建模、演算、验算,任何一环出错都会让最终答案前功尽弃,因此它被称为“推理试金石”。
难度梯度与时间压力也随之分层:AMC 每题约 3 分钟,比拼快速反射与策略性取舍;AIME 每题约 12 分钟,考验深度沉思与长链条推演。一个在 AMC 上靠排除法横扫千军的模型,到了 AIME 可能连第一题都摸不到手点——因为选项这个“护栏”一旦撤掉,它过去扶墙走路的习惯全变成了负担。若每道题独立做对的概率为 $p$,15 道题全部做对的概率就是 $p$ 的 15 次方,这个指数关系把“侥幸”压缩到几乎为零。
一个在栈道上健步如飞的模型,可能在岩壁第一段就掉下来——护栏一撤,它对“像不像答案”的依赖全部暴露,这正是 AIME 作为高难度评测段的独特价值。
- 单题成功率$p$ 表示模型独立做对一道 AIME 题的概率。
- 串联事件15 道题必须全部做对,每道之间相互独立,概率连乘。
- 合并幂形式连乘 15 次缩写为幂形式,指数就是题数。
评测协议设计:教练的秒表与规则手册
教练组织测试不能随手记成绩:要统一秒表、统一路线、还要防着有人抄近路。AI 评测同理,协议设计的核心就是让所有模型在完全相同的条件下答题。
评测协议通常包含四要素。提示词规范:所有模型用同一套指令模板,禁止联网检索、禁止附带示例答案,就像所有队员从同一条起跑线出发。采样策略:填空题没有过程分,模型可以独立作答多次,再取最优解或多数表决作为最终答案,这相当于允许队员多试几次,但必须在规则手册里写明试了几次。评分标准:严格按官方计分公式,AMC 用 $S = 6C + 1.5B$,AIME 用答对题数。防泄漏机制:公开赛题可能出现在训练语料里,正规评测必须使用未公开的私有题或隔离年份的题目做 holdout 集,否则就是让队员提前踩点。
采样策略是最容易被忽视的一环:同一个模型,单次作答与 16 次采样取最优,得分可能相差 20 个百分点。如果单次成功率为 $p$,独立采样 $n$ 次后至少成功一次的概率是:
统一的规则手册保证“所有队员在同一阵风里跑”,否则教练记下来的成绩没有任何比较价值。读任何数学基准的论文,先找它的协议四要素,再谈分数高低。
- 单次失败率$1 - p$ 表示一次作答没做对的概率。
- 全部失败$n$ 次独立采样都失败的概率,按乘法原理连乘 $n$ 次。
- 至少一次成功用 1 减去“全部失败”,得到采样策略的整体成功率。
通过率表现:成绩单上的海拔线
教练给每个队员记录“完赛率”:多少人能在规定时间到达规定海拔。评测报告里的通过率,就是这条最直观的海拔线。
通过率的定义很简单:达到分数线的样本数占总样本数的比例。以 AIME 2024 为例,人类参赛者平均分约 4-5 分(满分 15);公开报道中,GPT-4o 约 13%,o1-preview 约 56%,DeepSeek-R1 约 79.8%,o3 在高算力下约 96.7%。如果把 AMC 晋级线(通常约 90-100 分)当成“及格线”,还能看到典型的难度分层:赛段越难,模型之间的差距拉得越大,弱模型在 AMC 段就被大量淘汰,强模型则要到 AIME 段才显出高下。
这提醒我们:榜单必须同时报告“赛段 + 采样数 + 是否私有题”,否则数据不可比。一个在 AIME 上 60% 通过率的模型,如果用的是 16 次采样和泄露题,含金量可能不如单次采样 40% 的私有题成绩。通过率这条海拔线,画出来的不仅是绝对高度,更是模型之间的相对间距。
成绩单上不是一条线,而是很多条海拔线。看一个模型不能只看它登顶没有,还要看它在每一段海拔上甩开了多少队友——这就是通过率分层带来的诊断粒度。
- 分子通过数$N_{\text{pass}}$ 表示分数达到或超过分数线的样本数量。
- 分母总数$N_{\text{total}}$ 表示参与评测的全部样本数量,两者相除得到比例。
- 百分比折算乘以 100% 让结果更直观,便于跨模型对比。
能力提升趋势:登山海报上的海拔记录
教练把每个队员历次训练的海拔高度连成曲线贴在墙上,进步快慢一目了然。AI 数学能力的提升趋势,也是这样一条可以被记录和预测的海拔曲线。
过去两年,前沿模型在 AIME 上的通过率从 13% 级别跃升到 96% 级别,主要驱动来自强化学习让模型学会“自我纠错”——在推理中途发现矛盾就回头重算,相当于攀岩时发现手点不对会主动下降调整。研究者发现,把通过率对训练算力取对数,曲线接近直线,这说明提升具有显著的规模化效应:算力每翻几倍,通过率就稳定爬升一截。
但曲线末端开始出现平台期:长推理链(几十步以上)的误差累积、推理成本指数上升、公开赛题污染导致的“虚高”,都让进一步提升变慢。面对瓶颈,评测协议要引入更新鲜的题源和更细分的难度梯度,才能继续分辨模型差异——就像教练在队员接近山顶后,必须设计更陡的新路线来拉开差距。
曲线告诉我们,登山没有捷径:前段是体能的快速适应,后段拼的是每一个微小手点的精确控制。读懂这条对数曲线,就能平和地看待“刷分”与“真实能力”之间的差距。
- 对数变换$\ln t$ 把快速增长的训练量压缩成平缓刻度,让曲线更接近直线。
- 斜率系数$a$ 表示每翻一倍训练量带来的通过率增量,$a$ 越大爬升越快。
- 起点截距$b$ 是训练量为零时的基线通过率,通常来自预训练阶段的底子。
诊断价值应用:体检报告的短板定位
教练手里的成绩单不是为了排名,而是为了写训练计划——哪块肌肉弱就练哪块。AMC/AIME 评测的最高价值,就是输出这样一份能指导改进的诊断报告。
做法很简单:把竞赛题按知识领域打标签(代数、几何、数论、组合),统计模型在每个领域的得分率,就得到一张“能力雷达图”。再与基准人类得分率对比,差距最大的几项就是优先改进方向。例如一个模型几何类得分率比代数低 30 个百分点,说明它的空间建模与辅助线构造能力薄弱,训练数据就该向几何推理倾斜。
误差分析还能进一步细分错误类型:计算失误、题意误读、推理链断裂——三类错误的改进手段完全不同。计算失误要靠自我校验,题意误读要靠指令微调,推理链断裂要靠强化学习。这正是竞赛评测相对普通数学题库的独特价值:既有难度梯度,又有结构化标签,能同时回答“多强”和“弱在哪”两个问题。
最好的教练从不问“你行不行”,而是问“你哪一段路线不行”。AI 评测最终要交付的,正是这样一张能直接指导训练数据的诊断报告。
- 基准得分率$P_{\text{base},j}$ 是人类参赛者在第 $j$ 类题型上的平均得分率。
- 模型得分率$P_{\text{model},j}$ 是模型在同一类题型上的得分率。
- 差距计算两者相减得到差距 $d_j$,排序后最大的几个就是改进优先级最高的短板。
AI 应用场景
大模型发布前的数学能力验收
阶段:评测与基准测试
解决的问题:传统方式靠人工出题、人工判分,题量小、难度难标定,不同团队的测试结果无法横向对比。用 AMC/AIME 构成的多级题库,自动判分、统一协议,把数学推理能力量化为可复现的通过率,还能在发布前找出模型的“应试水分”。
具体案例:某模型团队发布新一代推理模型前,用 50 道 AMC 12 题加 15 道私有 AIME 题做验收,报告注明“单次采样、无检索”。通过率从旧版的 31% 提升到 67%,并附上分题型得分率雷达图,作为发布文档里“数学能力”一章的核心证据。
数学教育 AI 教练
阶段:模型应用与产品化
解决的问题:传统教辅千人一卷,无法定位学生具体短板。借助竞赛题的题型标签(代数/几何/数论/组合)做能力画像,AI 可以动态推荐难度,让每个学生只在最需要的地方发力。
具体案例:一款 AI 辅导产品把 AMC 历年题按知识点打标,学生每做完一组题就生成雷达图。系统发现某学生“数论”类得分率比其他类低 20%,便自动推送数论专项训练,并用 AIME 风格的启发式讲解引导他补上推理链的断点。
数学推理强化学习的奖励信号
阶段:模型训练与迭代
解决的问题:传统监督微调缺少过程反馈,模型只会模仿答案,不会自己纠错。把 AIME 填空题的“标准答案匹配”作为强化学习奖励信号,让模型在试错中学会自我校验,是推理能力突破的关键一环。
具体案例:参考 DeepSeek-R1 的做法,训练团队用数千道竞赛题构造带格式约束的推理轨迹,奖励函数对“答案正确 + 推理步骤完整”双重打分。迭代后私有 AIME 子集得分率从 42% 提升到约 79.8%,充分验证了竞赛题作为奖励信号的有效性。
Python 演示
# AMC/AIME 评测模拟:计算得分,通过率与采样增益import random def amc_score(correct, blank): # AMC 计分:答对 6 分,空答 1.5 分,答错 0 分 return 6 * correct + 1.5 * blank def aime_total(correct_list): # AIME 计分:15 道填空题,答对 1 题得 1 分 return sum(correct_list) def pass_rate(scores, cutoff): # 通过率 = 达到分数线的样本数 / 样本总数 return sum(s >= cutoff for s in scores) / len(scores) def sample_success(p, n): # 独立采样 n 次,至少一次命中的概率 return 1 - (1 - p) ** n def main(): random.seed(42) n = 300 # 模拟 300 个模型在 AMC 上的答题情况 correct = [random.randint(8, 18) for _ in range(n)] scores = [amc_score(c, 25 - c) for c in correct] print("AMC 平均分:", round(sum(scores) / n, 1)) cutoff = 100 # AIME 晋级线按当年 top 5% 划定,此处取 100 print("晋级线:", cutoff) print("AMC 通过率:", round(pass_rate(scores, cutoff), 3)) # 每道 AIME 题独立正确率 0.25,共 15 道 p = 0.25 aime_correct = [sum(1 for _ in range(15) if random.random() < p) for _ in range(n)] print("AIME 平均得分:", round(sum(aime_correct) / n, 2)) print("得 13 分以上比例:", round(sum(s >= 13 for s in aime_correct) / n, 3)) print("采样 4 次整体成功率:", round(sample_success(p, 4), 3)) if __name__ == "__main__": main()
return 6 * correct + 1.5 * blank复刻 AMC 官方计分公式,答对 6 分、空白 1.5 分、答错零分。random.seed(42)固定随机种子,保证每次运行结果可复现,这是评测可复现性的最小实践。cutoff = 100模拟 AMC 12 晋级 AIME 的分数线,对应当年 top 5% 的难度。pass_rate(scores, cutoff)通过率就是二值门槛统计:超过分数线算过关,再除以总样本数。random.random() < p对每道 AIME 题按单题成功率建模,15 道独立成败合成一个人的得分。sample_success(p, 4)展示采样增益公式:单次 25% 的成功率,采样 4 次后整体接近 68%。
常见误区
误区觉得 AIME 只是把 AMC 的题出得更长、计算更复杂,掌握了 AMC 就能自然拿下 AIME。
正解两者本质差别在答题形式:AMC 是选择题,有护栏;AIME 是填空题,没有护栏。选择题可以靠排除法和选项分布拿分,填空题必须端到端生成精确整数答案,任何一步推理出错都拿不到分。AIME 测的是推理链完整性与误差控制,而不是“更强的计算”。
为何常见:两者都叫“数学竞赛”,分数也在类似的框架下,初学者容易从“题量 × 难度”的线性维度理解,忽略了答题形式对能力要求的质变。
误区看到 o3 在 AIME 2024 达到 96.7%,就觉得 AI 数学已经满级,可以放心替代人类数学家。
正解96.7% 是在高算力、高采样数、私有题环境下取得的;公开题面可能存在污染,采样策略会大幅抬高分数,而人类顶尖选手在同一份卷子上同样接近满分。评测分数只有在“同一协议 + 未知新题”的前提下才有比较价值。
为何常见:分数是最直观的数字,排行榜文化让人只盯最终百分比,忽略协议差异和题库泄漏这两个隐形变量。
误区认为模型在 AMC 选择题上拿高分,就足以证明推理能力强,不需要再上 AIME。
正解选择题的四个选项会泄露信息,模型可能靠选项分布、表面词频甚至“蒙对”得分。这类得分无法区分“真会做”和“会猜”,所以 AMC 适合当门槛筛选,AIME 才是定位推理链质量的试金石。
为何常见:选择题数据好标注、自动判分简单,评测方容易拿低难度数据充数,忽略了答题形式对能力的过滤作用。
误区认为模型数学能力归结为一个通过率或平均分,排名高就是能力强,不需要看过程指标。
正解总分无法回答“弱在哪”。分题型得分率、错误类型分布、采样一致性、推理步数成本才是真正的诊断信息;就像教练不能只看登顶时间,还要看每一段线路的通过细节。
为何常见:排行榜天然鼓励单分数排序,而单分数会掩盖不同类型错误,导致改进方向无从下手。
面试题
Q1. AMC 10/12 的题目形式是?
- A.25 道选择题,共 90 分钟完成
- B.25 道选择题,共 75 分钟完成← 正确答案
- C.15 道填空题,共 180 分钟完成
- D.20 道判断题,共 60 分钟完成
答案:B。AMC 10/12 均为 25 道选择题、时限 75 分钟、满分 150;AIME 才是 15 道填空题、180 分钟。答题形式是区分两个赛段的第一特征。
Q2. AIME 要求考生提交的答案形式是?
- A.从 A 到 E 五个字母中的一个
- B.0 到 999 之间的一个整数← 正确答案
- C.任意的实数或小数或分数
- D.完整的计算与证明推理过程
答案:B。AIME 答案必须是 0 到 999 的整数,机器阅卷。这是它与选择题的本质区别——没有选项可排除,必须生成端到端推理链。
Q3. 关于 AMC 计分规则,下列说法正确的是?
- A.答对得 6 分,答错扣 2 分
- B.答对得 6 分,空答得 1.5 分← 正确答案
- C.答对得 5 分,空答得 1 分
- D.答对得 4 分,答错得 0 分
答案:B。AMC 官方计分是答对 6 分、空白 1.5 分、答错 0 分。这样设计是为了抑制乱猜,让“留空”成为理性策略,评测协议也严格复刻这一公式。
Q4. AMC 12 成绩达到什么标准可获 AIME 邀请?
- A.总分进入全美前 5% 左右← 正确答案
- B.总分进入全美前 20% 左右
- C.总分进入全美前 50% 左右
- D.总分进入全美前 80% 左右
答案:A。AMC 12 前约 5%(AMC 10 为前 2.5%)受邀参加 AIME。这条晋级链构成天然难度梯度,被评测协议借用来分层测试模型。
Q5. 为什么 AIME 比 AMC 更能考查推理能力?
- A.题目篇幅更长,阅读量明显偏大
- B.填空题无法靠选项排除猜测← 正确答案
- C.答题时间更短,考场压力更大
- D.运算量更大,涉及高次幂计算
答案:B。AIME 是填空题,没有选项可参考,排除法与猜测全部失效,每一步推理错误都会导致最终答案错误,因此能暴露长链条推理中的累积误差。
Q6. 单题成功率 p=0.25,独立采样 4 次取最优,整体成功率约为?
- A.整体成功率约为 25% 左右
- B.整体成功率约为 50% 左右
- C.整体成功率约为 68% 左右← 正确答案
- D.整体成功率约为 90% 左右
答案:C。独立采样 4 次,全部失败率 =(0.75)^4 ≈ 0.316,至少一次成功 ≈ 68.4%。这就是评测协议中采样次数对最终分数的放大效应。
Q7. 用竞赛题评测大模型时,关于数据污染的正确做法是?
- A.直接用公开赛题并公开题号
- B.使用全新私有题并验证无泄漏← 正确答案
- C.复用训练语料中的历史真题
- D.允许模型联网检索后作答
答案:B。公开竞赛题可能出现在训练语料中,导致“背题得分”。评测必须使用私有新题并做泄漏检查,否则通过率会被污染,失去诊断价值。
Q8. 评测协议通常需要明确哪些要素?
- A.提示词模板与统一输入格式← 正确答案
- B.采样次数与最优采样策略← 正确答案
- C.评分标准与通过率计算方式← 正确答案
- D.参赛选手的国籍与性别信息
答案:ABC。协议四要素是提示词规范、采样策略、评分标准、防泄漏机制。国籍性别属于考生画像,与评测协议无关,是干扰项。
Q9. 以下哪些能佐证模型数学推理能力确有提升?
- A.在未泄露的私有新题上同样提升← 正确答案
- B.强化学习后步骤纠错能力增强← 正确答案
- C.单纯增加采样次数带来的得分上升
- D.训练语料直接包含最新竞赛真题
答案:AB。真正的能力提升要在未见过的私有题上复现,并能观察到推理中的自我纠错增强;单纯加采样或语料泄漏造成的分数上升都不是能力提升。
Q10. 模型在 AIME 得分低的典型薄弱环节包括?
- A.长链条推理出现累积误差断裂← 正确答案
- B.对题意理解出现偏差或歧义← 正确答案
- C.解题过程中出现计算失误难自查← 正确答案
- D.数学符号渲染不美观不清晰
答案:ABC。AIME 低分主要来自推理链误差累积、题意理解偏差、计算错误且无选项帮助自查;符号渲染的审美问题不影响数学得分,是干扰项。