评测来源
所有成绩都来自 Epoch AI 收录的第三方评测,厂商自己公布的分数不计。下面按领域列出每项评测测什么、由谁出题和实测,以及最近 12 个月上线的模型里有多少个有成绩。
评测来源
所有成绩都来自 Epoch AI 收录的第三方评测,厂商自己公布的分数不计。
目前 25 项评测参与计分;一项评测在这些模型里至少有 8 个成绩才计分。排序怎么算 ›
编程
写代码、修 bug、在终端和真实代码库里完成软件任务
SWE-bench Verified
计分22 个模型有成绩修复真实 GitHub 开源项目里的问题,以项目自带测试是否通过为准(人工核验过的 500 题)。
题目:普林斯顿大学、OpenAI;成绩:Epoch AI 实测
Terminal-Bench
计分29 个模型有成绩在命令行终端里独立完成编译、配置、排错等真实任务。
斯坦福大学与 Laude Institute(tbench.ai)
DeepSWE
计分26 个模型有成绩真实代码库里的软件工程任务,看一次提交能否通过。
Datacurve
FrontierCode
计分46 个模型有成绩高难度的编程代理任务。
Cognition
FrontierSWE
计分21 个模型有成绩分实现、性能优化、研究三类的长时间软件工程任务。
FrontierSWE
CursorBench
计分17 个模型有成绩在 Cursor 编辑器里完成开发者真实提出的编程请求。
Cursor
WebDev Arena
计分96 个模型有成绩两个模型按同一需求做网页,由真人盲选更好的一个,按 Elo 计分。
LMArena(arena.ai)
ALE-Bench
计分88 个模型有成绩AtCoder 启发式算法竞赛题,按竞赛表现分计。
Sakana AI、AtCoder
WeirdML
计分60 个模型有成绩不常见的机器学习小任务:读懂数据,写出能训练出好结果的代码。
Håvard Tveit Ihle
GSO
计分16 个模型有成绩让真实开源项目跑得更快的性能优化任务。
GSO 作者团队
Aider Polyglot
样本不足,暂不计分1 个模型有成绩用 C++、Go、Java、JavaScript、Python、Rust 完成 Exercism 上的难题。
Aider
科研
研究级数学、物理难题与科学计算
FrontierMath(1–3 级)
计分66 个模型有成绩数学家出的未公开研究级难题,答案可以自动核验。
Epoch AI
FrontierMath(4 级)
计分57 个模型有成绩FrontierMath 最难的一档,专业数学家也要花很长时间研究。
Epoch AI
CritPt
计分101 个模型有成绩物理学前沿研究中的未公开问题。
CritPt 作者团队
ProofBench
计分77 个模型有成绩写出完整、严格、能通过评审的数学证明。
Vals AI
OTIS Mock AIME
计分87 个模型有成绩美国数学邀请赛(AIME)难度的模拟竞赛题。
题目:OTIS;成绩:Epoch AI 实测
SciCode
计分97 个模型有成绩科学家出题,把物理、化学、生物等研究问题写成能运行的代码。
题目:SciCode 作者团队;成绩:Artificial Analysis
专业办公
投行、咨询、法律等职业的真实工作成果,操作电脑完成任务
APEX-Agents
计分49 个模型有成绩投行、咨询、律所里需要多个步骤和多个文件的专业工作。
Mercor
GDPval
样本不足,暂不计分3 个模型有成绩几十种职业的真实工作成果,由行业专家盲评,和人类专家的作品比胜率。
OpenAI
Remote Labor Index
计分12 个模型有成绩真实的远程外包项目,看交付成果能否被委托方接受。
Scale AI、Center for AI Safety
OSWorld 2.0
计分9 个模型有成绩在真实的电脑桌面上操作各种软件完成任务。
香港大学 XLANG 实验室
OSWorld
样本不足,暂不计分2 个模型有成绩OSWorld 第一版:在电脑桌面上操作软件完成任务。
香港大学 XLANG 实验室
TheAgentCompany
样本不足,暂不计分0 个模型有成绩在模拟的软件公司里完成日常工作:查资料、写文档、和同事沟通。
卡内基梅隆大学等
Vending-Bench 2
计分55 个模型有成绩长期经营一门模拟的自动售货机生意,看最后剩多少钱。
Andon Labs
DeepResearch Bench
计分14 个模型有成绩联网做深度调研,给出有依据的结论。
FutureSearch
知识问答
事实准确性、专业知识与常识推理
SimpleQA Verified
计分65 个模型有成绩简短的事实问答,看知识是否准确、会不会编造。
题目:Google DeepMind;成绩:Epoch AI 实测
GPQA Diamond
计分84 个模型有成绩研究生水平的生物、物理、化学选择题,网上搜不到答案。
题目:纽约大学等;成绩:Epoch AI 实测
Humanity's Last Exam
计分17 个模型有成绩上百个学科的专家出的前沿难题。
Center for AI Safety、Scale AI
SimpleBench
计分39 个模型有成绩常识、时空关系里的陷阱题:普通人大多答得对,模型容易答错。
SimpleBench
仅展示
在模型页里显示成绩,但不计入分数:测的能力不在四个领域里,或者我们还没把握归到哪个领域。
ARC-AGI-2
52 个模型有成绩从几个例子里找出图形变换的规律。
ARC Prize 基金会
ARC-AGI
52 个模型有成绩ARC-AGI 第一版:图形规律推理。
ARC Prize 基金会
国际象棋谜题
88 个模型有成绩只看棋盘文字描述,找出国际象棋谜题的正确着法。
Epoch AI
METR 任务时长
10 个模型有成绩一组耗时从几秒到几小时不等的软件任务的平均完成率。
METR
Cybench
0 个模型有成绩网络安全夺旗赛(CTF)题目,不给提示独立完成。
斯坦福大学等
Fiction.LiveBench
1 个模型有成绩读长篇小说后回答需要前后对照的理解题。
Fiction.live