想象你是一位登山教练,要判断一个新来的队员到底能不能挑战高海拔路线。你当然不会第一天就把他扔上悬崖,而是先让他在景区栈道上走一圈——栈道有护栏、有路标,走起来不算太难;等他适应了,再送他去攀岩墙,那里没有护栏,每一步都得自己找手点。AI 的数学能力评测,走的就是同一条路线:AMC 像栈道,AIME 像岩壁,两者连起来构成从易到难的“难度海拔线”。这篇文章带你认识这条路线上的每一个观测点:赛题长什么样、教练用什么协议记录成绩、模型在不同海拔的完赛率如何变化,以及最终怎么用这张成绩单诊断出 AI 的推理短板。

岗位关联

掌握 AMC/AIME 评测体系,你就能看懂主流数学基准的协议细节,用统一难度梯度为大模型做“数学体检”,在模型发布与能力对齐时拿出有说服力的诊断证据。

目录
  1. 可视化演示
  2. 赛事体系概览:一张登山路线图
  3. 题目特征差异:栈道的护栏与岩壁的手点
  4. 评测协议设计:教练的秒表与规则手册
  5. 通过率表现:成绩单上的海拔线
  6. 能力提升趋势:登山海报上的海拔记录
  7. 诊断价值应用:体检报告的短板定位
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示AMC至AIME难度阶梯递进、AI模型在AIME上的准确率演进趋势,以及整数答案精确匹配评测机制。切换步骤查看各维度。

本节配有交互动效(进入视口后自动加载,约 3KB)。

AMC至AIME难度阶梯递进 AMC系列呈阶梯递进:AMC 8(基础)→AMC 10(中等)→AMC 12(进阶)→AIME(竞赛级),难度逐级攀升,晋级率分别约5%/2.5% AIME每题答案为0-999间非负整数,15题×15分=225分满分,AMC 10前约2.5%或AMC 12前约5%可获邀参加AIME AMC8 → AMC10(top 5%) → AMC12(top 2.5%) → AIME(15Q×15pt) 阶梯式难度设计实现能力分层

赛事体系概览:一张登山路线图

登山基地的墙上挂着两张地图:一张是景区栈道,一张是岩壁线路。AMC 和 AIME 就是这两张图——它们是美国数学竞赛体系里最广为人知的两段赛道,前者是入门选拔,后者是进阶邀请。

AMC(American Mathematics Competitions,美国数学竞赛)是一个按年级分组的系列赛,最常见的是 AMC 8、AMC 10、AMC 12;AIME(American Invitational Mathematics Examination,美国数学邀请赛)则是只有收到邀请才能参加的进阶赛,相当于从栈道毕业才允许摸岩壁。

AMC 10/12 都是 25 道选择题、75 分钟、满分 150 分;成绩进入全美前 5%(AMC 12)或前 2.5%(AMC 10)的考生会收到 AIME 邀请。AIME 只有 15 道题,却给 180 分钟,平均每题 12 分钟,是 AMC 的两倍多。对 AI 评测而言,这条“晋级链”天然构成难度梯度:先用栈道过滤会做选择题的模型,再上岩壁考验能写完整推理的模型。官方还把计分规则公开,这让评测协议可以一比一复刻到模型身上。

两张地图画的是同一座山,但线路难度完全不同。评测师要做的是把两条线路都铺给同一个模型,看它在哪条线上走得更远——这正是竞赛体系作为 AI 基准的起点。

S=6×C+1.5×BS = 6 \times C + 1.5 \times B
AMC 总分公式:答对一题得 6 分,空白一题得 1.5 分,答错不扣分,满分恰好 150 分。
  1. 正确题量每道答对的题给 6 分,鼓励模型把会做的题稳稳做对。
    6×C6 \times C
  2. 空白题奖励每道留空的题给 1.5 分,答错零分,所以“留白”比“乱猜”更划算。
    +1.5×B+1.5 \times B
  3. 总分合成两部分相加得到 AMC 总分,满分是 $6 \times 25 = 150$ 分。
    S=6×C+1.5×BS = 6 \times C + 1.5 \times B

题目特征差异:栈道的护栏与岩壁的手点

栈道最舒服的地方是有护栏——选择题的四个选项就是护栏,即使走不稳也能扶着“排除法”前进;岩壁没有护栏,你得自己找手点——AIME 的填空题没有选项可以参考,每一步都要自己推导出来。

两种题型的本质差异在于答案形式:AMC 是四选一,模型可以靠选项之间的分布特征、表面词频甚至猜测拿分;AIME 要求填 0 到 999 之间的整数,机器阅卷,写错一个数字就是零分。这意味着 AIME 强制模型生成一条端到端的推理链:读题、建模、演算、验算,任何一环出错都会让最终答案前功尽弃,因此它被称为“推理试金石”。

难度梯度与时间压力也随之分层:AMC 每题约 3 分钟,比拼快速反射与策略性取舍;AIME 每题约 12 分钟,考验深度沉思与长链条推演。一个在 AMC 上靠排除法横扫千军的模型,到了 AIME 可能连第一题都摸不到手点——因为选项这个“护栏”一旦撤掉,它过去扶墙走路的习惯全变成了负担。若每道题独立做对的概率为 $p$,15 道题全部做对的概率就是 $p$ 的 15 次方,这个指数关系把“侥幸”压缩到几乎为零。

一个在栈道上健步如飞的模型,可能在岩壁第一段就掉下来——护栏一撤,它对“像不像答案”的依赖全部暴露,这正是 AIME 作为高难度评测段的独特价值。

Pall=p15P_{\text{all}} = p^{15}
即使单题正确率高达 0.95,15 题全部正确的概率也只有约 46%;这就是填空题对推理完整性近乎苛刻的要求。
  1. 单题成功率$p$ 表示模型独立做对一道 AIME 题的概率。
    pp
  2. 串联事件15 道题必须全部做对,每道之间相互独立,概率连乘。
    p×p×⋯×pp \times p \times \cdots \times p
  3. 合并幂形式连乘 15 次缩写为幂形式,指数就是题数。
    p15p^{15}

评测协议设计:教练的秒表与规则手册

教练组织测试不能随手记成绩:要统一秒表、统一路线、还要防着有人抄近路。AI 评测同理,协议设计的核心就是让所有模型在完全相同的条件下答题。

评测协议通常包含四要素。提示词规范:所有模型用同一套指令模板,禁止联网检索、禁止附带示例答案,就像所有队员从同一条起跑线出发。采样策略:填空题没有过程分,模型可以独立作答多次,再取最优解或多数表决作为最终答案,这相当于允许队员多试几次,但必须在规则手册里写明试了几次。评分标准:严格按官方计分公式,AMC 用 $S = 6C + 1.5B$,AIME 用答对题数。防泄漏机制:公开赛题可能出现在训练语料里,正规评测必须使用未公开的私有题或隔离年份的题目做 holdout 集,否则就是让队员提前踩点。

采样策略是最容易被忽视的一环:同一个模型,单次作答与 16 次采样取最优,得分可能相差 20 个百分点。如果单次成功率为 $p$,独立采样 $n$ 次后至少成功一次的概率是:

统一的规则手册保证“所有队员在同一阵风里跑”,否则教练记下来的成绩没有任何比较价值。读任何数学基准的论文,先找它的协议四要素,再谈分数高低。

P=1−(1−p)nP = 1 - (1 - p)^{n}
当 $p = 0.25$、$n = 4$ 时,整体成功率约 68%;当 $n = 16$ 时约 99%。报告不写采样数,分数就是不可比的。
  1. 单次失败率$1 - p$ 表示一次作答没做对的概率。
    1−p1 - p
  2. 全部失败$n$ 次独立采样都失败的概率,按乘法原理连乘 $n$ 次。
    (1−p)n(1 - p)^{n}
  3. 至少一次成功用 1 减去“全部失败”,得到采样策略的整体成功率。
    1−(1−p)n1 - (1 - p)^{n}

通过率表现:成绩单上的海拔线

教练给每个队员记录“完赛率”:多少人能在规定时间到达规定海拔。评测报告里的通过率,就是这条最直观的海拔线。

通过率的定义很简单:达到分数线的样本数占总样本数的比例。以 AIME 2024 为例,人类参赛者平均分约 4-5 分(满分 15);公开报道中,GPT-4o 约 13%,o1-preview 约 56%,DeepSeek-R1 约 79.8%,o3 在高算力下约 96.7%。如果把 AMC 晋级线(通常约 90-100 分)当成“及格线”,还能看到典型的难度分层:赛段越难,模型之间的差距拉得越大,弱模型在 AMC 段就被大量淘汰,强模型则要到 AIME 段才显出高下。

这提醒我们:榜单必须同时报告“赛段 + 采样数 + 是否私有题”,否则数据不可比。一个在 AIME 上 60% 通过率的模型,如果用的是 16 次采样和泄露题,含金量可能不如单次采样 40% 的私有题成绩。通过率这条海拔线,画出来的不仅是绝对高度,更是模型之间的相对间距。

成绩单上不是一条线,而是很多条海拔线。看一个模型不能只看它登顶没有,还要看它在每一段海拔上甩开了多少队友——这就是通过率分层带来的诊断粒度。

R=NpassNtotal×100%R = \frac{N_{\text{pass}}}{N_{\text{total}}} \times 100\%
通过率就是把“到达海拔线的人数”除以“总参赛人数”,再折算成百分比。
  1. 分子通过数$N_{\text{pass}}$ 表示分数达到或超过分数线的样本数量。
    NpassN_{\text{pass}}
  2. 分母总数$N_{\text{total}}$ 表示参与评测的全部样本数量,两者相除得到比例。
    NpassNtotal\frac{N_{\text{pass}}}{N_{\text{total}}}
  3. 百分比折算乘以 100% 让结果更直观,便于跨模型对比。
    ×100%\times 100\%

能力提升趋势:登山海报上的海拔记录

教练把每个队员历次训练的海拔高度连成曲线贴在墙上,进步快慢一目了然。AI 数学能力的提升趋势,也是这样一条可以被记录和预测的海拔曲线。

过去两年,前沿模型在 AIME 上的通过率从 13% 级别跃升到 96% 级别,主要驱动来自强化学习让模型学会“自我纠错”——在推理中途发现矛盾就回头重算,相当于攀岩时发现手点不对会主动下降调整。研究者发现,把通过率对训练算力取对数,曲线接近直线,这说明提升具有显著的规模化效应:算力每翻几倍,通过率就稳定爬升一截。

但曲线末端开始出现平台期:长推理链(几十步以上)的误差累积、推理成本指数上升、公开赛题污染导致的“虚高”,都让进一步提升变慢。面对瓶颈,评测协议要引入更新鲜的题源和更细分的难度梯度,才能继续分辨模型差异——就像教练在队员接近山顶后,必须设计更陡的新路线来拉开差距。

曲线告诉我们,登山没有捷径:前段是体能的快速适应,后段拼的是每一个微小手点的精确控制。读懂这条对数曲线,就能平和地看待“刷分”与“真实能力”之间的差距。

R(t)=aln⁡t+bR(t) = a \ln t + b
通过率随训练量近似对数增长:前期提升快,后期提升慢,$a$ 决定爬升速度,$b$ 决定起点。
  1. 对数变换$\ln t$ 把快速增长的训练量压缩成平缓刻度,让曲线更接近直线。
    ln⁡t\ln t
  2. 斜率系数$a$ 表示每翻一倍训练量带来的通过率增量,$a$ 越大爬升越快。
    aln⁡ta \ln t
  3. 起点截距$b$ 是训练量为零时的基线通过率,通常来自预训练阶段的底子。
    R(t)=aln⁡t+bR(t) = a \ln t + b

诊断价值应用:体检报告的短板定位

教练手里的成绩单不是为了排名,而是为了写训练计划——哪块肌肉弱就练哪块。AMC/AIME 评测的最高价值,就是输出这样一份能指导改进的诊断报告。

做法很简单:把竞赛题按知识领域打标签(代数、几何、数论、组合),统计模型在每个领域的得分率,就得到一张“能力雷达图”。再与基准人类得分率对比,差距最大的几项就是优先改进方向。例如一个模型几何类得分率比代数低 30 个百分点,说明它的空间建模与辅助线构造能力薄弱,训练数据就该向几何推理倾斜。

误差分析还能进一步细分错误类型:计算失误、题意误读、推理链断裂——三类错误的改进手段完全不同。计算失误要靠自我校验,题意误读要靠指令微调,推理链断裂要靠强化学习。这正是竞赛评测相对普通数学题库的独特价值:既有难度梯度,又有结构化标签,能同时回答“多强”和“弱在哪”两个问题。

最好的教练从不问“你行不行”,而是问“你哪一段路线不行”。AI 评测最终要交付的,正是这样一张能直接指导训练数据的诊断报告。

dj=Pbase,j−Pmodel,jd_j = P_{\text{base},j} - P_{\text{model},j}
第 $j$ 类题型的基准得分率减去模型得分率,差值最大的类别就是最需要补强的短板。
  1. 基准得分率$P_{\text{base},j}$ 是人类参赛者在第 $j$ 类题型上的平均得分率。
    Pbase,jP_{\text{base},j}
  2. 模型得分率$P_{\text{model},j}$ 是模型在同一类题型上的得分率。
    Pmodel,jP_{\text{model},j}
  3. 差距计算两者相减得到差距 $d_j$,排序后最大的几个就是改进优先级最高的短板。
    dj=Pbase,j−Pmodel,jd_j = P_{\text{base},j} - P_{\text{model},j}

AI 应用场景

大模型发布前的数学能力验收

阶段:评测与基准测试

解决的问题:传统方式靠人工出题、人工判分,题量小、难度难标定,不同团队的测试结果无法横向对比。用 AMC/AIME 构成的多级题库,自动判分、统一协议,把数学推理能力量化为可复现的通过率,还能在发布前找出模型的“应试水分”。

具体案例:某模型团队发布新一代推理模型前,用 50 道 AMC 12 题加 15 道私有 AIME 题做验收,报告注明“单次采样、无检索”。通过率从旧版的 31% 提升到 67%,并附上分题型得分率雷达图,作为发布文档里“数学能力”一章的核心证据。

数学教育 AI 教练

阶段:模型应用与产品化

解决的问题:传统教辅千人一卷,无法定位学生具体短板。借助竞赛题的题型标签(代数/几何/数论/组合)做能力画像,AI 可以动态推荐难度,让每个学生只在最需要的地方发力。

具体案例:一款 AI 辅导产品把 AMC 历年题按知识点打标,学生每做完一组题就生成雷达图。系统发现某学生“数论”类得分率比其他类低 20%,便自动推送数论专项训练,并用 AIME 风格的启发式讲解引导他补上推理链的断点。

数学推理强化学习的奖励信号

阶段:模型训练与迭代

解决的问题:传统监督微调缺少过程反馈,模型只会模仿答案,不会自己纠错。把 AIME 填空题的“标准答案匹配”作为强化学习奖励信号,让模型在试错中学会自我校验,是推理能力突破的关键一环。

具体案例:参考 DeepSeek-R1 的做法,训练团队用数千道竞赛题构造带格式约束的推理轨迹,奖励函数对“答案正确 + 推理步骤完整”双重打分。迭代后私有 AIME 子集得分率从 42% 提升到约 79.8%,充分验证了竞赛题作为奖励信号的有效性。

Python 演示

python44 行
# AMC/AIME 评测模拟:计算得分,通过率与采样增益import random  def amc_score(correct, blank):    # AMC 计分:答对 6 分,空答 1.5 分,答错 0 分    return 6 * correct + 1.5 * blank  def aime_total(correct_list):    # AIME 计分:15 道填空题,答对 1 题得 1 分    return sum(correct_list)  def pass_rate(scores, cutoff):    # 通过率 = 达到分数线的样本数 / 样本总数    return sum(s >= cutoff for s in scores) / len(scores)  def sample_success(p, n):    # 独立采样 n 次,至少一次命中的概率    return 1 - (1 - p) ** n  def main():    random.seed(42)    n = 300    # 模拟 300 个模型在 AMC 上的答题情况    correct = [random.randint(8, 18) for _ in range(n)]    scores = [amc_score(c, 25 - c) for c in correct]    print("AMC 平均分:", round(sum(scores) / n, 1))    cutoff = 100  # AIME 晋级线按当年 top 5% 划定,此处取 100    print("晋级线:", cutoff)    print("AMC 通过率:", round(pass_rate(scores, cutoff), 3))    # 每道 AIME 题独立正确率 0.25,共 15 道    p = 0.25    aime_correct = [sum(1 for _ in range(15) if random.random() < p) for _ in range(n)]    print("AIME 平均得分:", round(sum(aime_correct) / n, 2))    print("得 13 分以上比例:", round(sum(s >= 13 for s in aime_correct) / n, 3))    print("采样 4 次整体成功率:", round(sample_success(p, 4), 3))  if __name__ == "__main__":    main()
目的:用随机模拟复刻 AMC/AIME 的计分、晋级与采样策略,跑出平均分、通过率和采样增益,直观感受评测协议的数字逻辑。
  1. return 6 * correct + 1.5 * blank复刻 AMC 官方计分公式,答对 6 分、空白 1.5 分、答错零分。
  2. random.seed(42)固定随机种子,保证每次运行结果可复现,这是评测可复现性的最小实践。
  3. cutoff = 100模拟 AMC 12 晋级 AIME 的分数线,对应当年 top 5% 的难度。
  4. pass_rate(scores, cutoff)通过率就是二值门槛统计:超过分数线算过关,再除以总样本数。
  5. random.random() < p对每道 AIME 题按单题成功率建模,15 道独立成败合成一个人的得分。
  6. sample_success(p, 4)展示采样增益公式:单次 25% 的成功率,采样 4 次后整体接近 68%。

常见误区

误区觉得 AIME 只是把 AMC 的题出得更长、计算更复杂,掌握了 AMC 就能自然拿下 AIME。

正解两者本质差别在答题形式:AMC 是选择题,有护栏;AIME 是填空题,没有护栏。选择题可以靠排除法和选项分布拿分,填空题必须端到端生成精确整数答案,任何一步推理出错都拿不到分。AIME 测的是推理链完整性与误差控制,而不是“更强的计算”。

为何常见:两者都叫“数学竞赛”,分数也在类似的框架下,初学者容易从“题量 × 难度”的线性维度理解,忽略了答题形式对能力要求的质变。

误区看到 o3 在 AIME 2024 达到 96.7%,就觉得 AI 数学已经满级,可以放心替代人类数学家。

正解96.7% 是在高算力、高采样数、私有题环境下取得的;公开题面可能存在污染,采样策略会大幅抬高分数,而人类顶尖选手在同一份卷子上同样接近满分。评测分数只有在“同一协议 + 未知新题”的前提下才有比较价值。

为何常见:分数是最直观的数字,排行榜文化让人只盯最终百分比,忽略协议差异和题库泄漏这两个隐形变量。

误区认为模型在 AMC 选择题上拿高分,就足以证明推理能力强,不需要再上 AIME。

正解选择题的四个选项会泄露信息,模型可能靠选项分布、表面词频甚至“蒙对”得分。这类得分无法区分“真会做”和“会猜”,所以 AMC 适合当门槛筛选,AIME 才是定位推理链质量的试金石。

为何常见:选择题数据好标注、自动判分简单,评测方容易拿低难度数据充数,忽略了答题形式对能力的过滤作用。

误区认为模型数学能力归结为一个通过率或平均分,排名高就是能力强,不需要看过程指标。

正解总分无法回答“弱在哪”。分题型得分率、错误类型分布、采样一致性、推理步数成本才是真正的诊断信息;就像教练不能只看登顶时间,还要看每一段线路的通过细节。

为何常见:排行榜天然鼓励单分数排序,而单分数会掩盖不同类型错误,导致改进方向无从下手。

面试题

Q1. AMC 10/12 的题目形式是?

单选题 · easy

  • A.25 道选择题,共 90 分钟完成
  • B.25 道选择题,共 75 分钟完成← 正确答案
  • C.15 道填空题,共 180 分钟完成
  • D.20 道判断题,共 60 分钟完成

答案:B。AMC 10/12 均为 25 道选择题、时限 75 分钟、满分 150;AIME 才是 15 道填空题、180 分钟。答题形式是区分两个赛段的第一特征。

Q2. AIME 要求考生提交的答案形式是?

单选题 · easy

  • A.从 A 到 E 五个字母中的一个
  • B.0 到 999 之间的一个整数← 正确答案
  • C.任意的实数或小数或分数
  • D.完整的计算与证明推理过程

答案:B。AIME 答案必须是 0 到 999 的整数,机器阅卷。这是它与选择题的本质区别——没有选项可排除,必须生成端到端推理链。

Q3. 关于 AMC 计分规则,下列说法正确的是?

单选题 · mid

  • A.答对得 6 分,答错扣 2 分
  • B.答对得 6 分,空答得 1.5 分← 正确答案
  • C.答对得 5 分,空答得 1 分
  • D.答对得 4 分,答错得 0 分

答案:B。AMC 官方计分是答对 6 分、空白 1.5 分、答错 0 分。这样设计是为了抑制乱猜,让“留空”成为理性策略,评测协议也严格复刻这一公式。

Q4. AMC 12 成绩达到什么标准可获 AIME 邀请?

单选题 · mid

  • A.总分进入全美前 5% 左右← 正确答案
  • B.总分进入全美前 20% 左右
  • C.总分进入全美前 50% 左右
  • D.总分进入全美前 80% 左右

答案:A。AMC 12 前约 5%(AMC 10 为前 2.5%)受邀参加 AIME。这条晋级链构成天然难度梯度,被评测协议借用来分层测试模型。

Q5. 为什么 AIME 比 AMC 更能考查推理能力?

单选题 · mid

  • A.题目篇幅更长,阅读量明显偏大
  • B.填空题无法靠选项排除猜测← 正确答案
  • C.答题时间更短,考场压力更大
  • D.运算量更大,涉及高次幂计算

答案:B。AIME 是填空题,没有选项可参考,排除法与猜测全部失效,每一步推理错误都会导致最终答案错误,因此能暴露长链条推理中的累积误差。

Q6. 单题成功率 p=0.25,独立采样 4 次取最优,整体成功率约为?

单选题 · hard

  • A.整体成功率约为 25% 左右
  • B.整体成功率约为 50% 左右
  • C.整体成功率约为 68% 左右← 正确答案
  • D.整体成功率约为 90% 左右

答案:C。独立采样 4 次,全部失败率 =(0.75)^4 ≈ 0.316,至少一次成功 ≈ 68.4%。这就是评测协议中采样次数对最终分数的放大效应。

Q7. 用竞赛题评测大模型时,关于数据污染的正确做法是?

单选题 · mid

  • A.直接用公开赛题并公开题号
  • B.使用全新私有题并验证无泄漏← 正确答案
  • C.复用训练语料中的历史真题
  • D.允许模型联网检索后作答

答案:B。公开竞赛题可能出现在训练语料中,导致“背题得分”。评测必须使用私有新题并做泄漏检查,否则通过率会被污染,失去诊断价值。

Q8. 评测协议通常需要明确哪些要素?

多选题 · mid

  • A.提示词模板与统一输入格式← 正确答案
  • B.采样次数与最优采样策略← 正确答案
  • C.评分标准与通过率计算方式← 正确答案
  • D.参赛选手的国籍与性别信息

答案:ABC。协议四要素是提示词规范、采样策略、评分标准、防泄漏机制。国籍性别属于考生画像,与评测协议无关,是干扰项。

Q9. 以下哪些能佐证模型数学推理能力确有提升?

多选题 · hard

  • A.在未泄露的私有新题上同样提升← 正确答案
  • B.强化学习后步骤纠错能力增强← 正确答案
  • C.单纯增加采样次数带来的得分上升
  • D.训练语料直接包含最新竞赛真题

答案:AB。真正的能力提升要在未见过的私有题上复现,并能观察到推理中的自我纠错增强;单纯加采样或语料泄漏造成的分数上升都不是能力提升。

Q10. 模型在 AIME 得分低的典型薄弱环节包括?

多选题 · hard

  • A.长链条推理出现累积误差断裂← 正确答案
  • B.对题意理解出现偏差或歧义← 正确答案
  • C.解题过程中出现计算失误难自查← 正确答案
  • D.数学符号渲染不美观不清晰

答案:ABC。AIME 低分主要来自推理链误差累积、题意理解偏差、计算错误且无选项帮助自查;符号渲染的审美问题不影响数学得分,是干扰项。