跳到正文

评测来源

所有成绩都来自 Epoch AI 收录的第三方评测,厂商自己公布的分数不计。

目前 25 项评测参与计分;一项评测在这些模型里至少有 8 个成绩才计分。排序怎么算 ›

编程

写代码、修 bug、在终端和真实代码库里完成软件任务

  • SWE-bench Verified

    计分22 个模型有成绩

    修复真实 GitHub 开源项目里的问题,以项目自带测试是否通过为准(人工核验过的 500 题)。

    题目:普林斯顿大学、OpenAI;成绩:Epoch AI 实测

  • Terminal-Bench

    计分29 个模型有成绩

    在命令行终端里独立完成编译、配置、排错等真实任务。

    斯坦福大学与 Laude Institute(tbench.ai)

  • DeepSWE

    计分26 个模型有成绩

    真实代码库里的软件工程任务,看一次提交能否通过。

    Datacurve

  • FrontierCode

    计分46 个模型有成绩

    高难度的编程代理任务。

    Cognition

  • FrontierSWE

    计分21 个模型有成绩

    分实现、性能优化、研究三类的长时间软件工程任务。

    FrontierSWE

  • CursorBench

    计分17 个模型有成绩

    在 Cursor 编辑器里完成开发者真实提出的编程请求。

    Cursor

  • WebDev Arena

    计分96 个模型有成绩

    两个模型按同一需求做网页,由真人盲选更好的一个,按 Elo 计分。

    LMArena(arena.ai)

  • ALE-Bench

    计分88 个模型有成绩

    AtCoder 启发式算法竞赛题,按竞赛表现分计。

    Sakana AI、AtCoder

  • WeirdML

    计分60 个模型有成绩

    不常见的机器学习小任务:读懂数据,写出能训练出好结果的代码。

    Håvard Tveit Ihle

  • GSO

    计分16 个模型有成绩

    让真实开源项目跑得更快的性能优化任务。

    GSO 作者团队

  • Aider Polyglot

    样本不足,暂不计分1 个模型有成绩

    用 C++、Go、Java、JavaScript、Python、Rust 完成 Exercism 上的难题。

    Aider

科研

研究级数学、物理难题与科学计算

  • FrontierMath(1–3 级)

    计分66 个模型有成绩

    数学家出的未公开研究级难题,答案可以自动核验。

    Epoch AI

  • FrontierMath(4 级)

    计分57 个模型有成绩

    FrontierMath 最难的一档,专业数学家也要花很长时间研究。

    Epoch AI

  • CritPt

    计分101 个模型有成绩

    物理学前沿研究中的未公开问题。

    CritPt 作者团队

  • ProofBench

    计分77 个模型有成绩

    写出完整、严格、能通过评审的数学证明。

    Vals AI

  • OTIS Mock AIME

    计分87 个模型有成绩

    美国数学邀请赛(AIME)难度的模拟竞赛题。

    题目:OTIS;成绩:Epoch AI 实测

  • SciCode

    计分97 个模型有成绩

    科学家出题,把物理、化学、生物等研究问题写成能运行的代码。

    题目:SciCode 作者团队;成绩:Artificial Analysis

专业办公

投行、咨询、法律等职业的真实工作成果,操作电脑完成任务

  • APEX-Agents

    计分49 个模型有成绩

    投行、咨询、律所里需要多个步骤和多个文件的专业工作。

    Mercor

  • GDPval

    样本不足,暂不计分3 个模型有成绩

    几十种职业的真实工作成果,由行业专家盲评,和人类专家的作品比胜率。

    OpenAI

  • Remote Labor Index

    计分12 个模型有成绩

    真实的远程外包项目,看交付成果能否被委托方接受。

    Scale AI、Center for AI Safety

  • OSWorld 2.0

    计分9 个模型有成绩

    在真实的电脑桌面上操作各种软件完成任务。

    香港大学 XLANG 实验室

  • OSWorld

    样本不足,暂不计分2 个模型有成绩

    OSWorld 第一版:在电脑桌面上操作软件完成任务。

    香港大学 XLANG 实验室

  • TheAgentCompany

    样本不足,暂不计分0 个模型有成绩

    在模拟的软件公司里完成日常工作:查资料、写文档、和同事沟通。

    卡内基梅隆大学等

  • Vending-Bench 2

    计分55 个模型有成绩

    长期经营一门模拟的自动售货机生意,看最后剩多少钱。

    Andon Labs

  • DeepResearch Bench

    计分14 个模型有成绩

    联网做深度调研,给出有依据的结论。

    FutureSearch

知识问答

事实准确性、专业知识与常识推理

  • SimpleQA Verified

    计分65 个模型有成绩

    简短的事实问答,看知识是否准确、会不会编造。

    题目:Google DeepMind;成绩:Epoch AI 实测

  • GPQA Diamond

    计分84 个模型有成绩

    研究生水平的生物、物理、化学选择题,网上搜不到答案。

    题目:纽约大学等;成绩:Epoch AI 实测

  • Humanity's Last Exam

    计分17 个模型有成绩

    上百个学科的专家出的前沿难题。

    Center for AI Safety、Scale AI

  • SimpleBench

    计分39 个模型有成绩

    常识、时空关系里的陷阱题:普通人大多答得对,模型容易答错。

    SimpleBench

仅展示

在模型页里显示成绩,但不计入分数:测的能力不在四个领域里,或者我们还没把握归到哪个领域。

  • ARC-AGI-2

    52 个模型有成绩

    从几个例子里找出图形变换的规律。

    ARC Prize 基金会

  • ARC-AGI

    52 个模型有成绩

    ARC-AGI 第一版:图形规律推理。

    ARC Prize 基金会

  • 国际象棋谜题

    88 个模型有成绩

    只看棋盘文字描述,找出国际象棋谜题的正确着法。

    Epoch AI

  • METR 任务时长

    10 个模型有成绩

    一组耗时从几秒到几小时不等的软件任务的平均完成率。

    METR

  • Cybench

    0 个模型有成绩

    网络安全夺旗赛(CTF)题目,不给提示独立完成。

    斯坦福大学等

  • Fiction.LiveBench

    1 个模型有成绩

    读长篇小说后回答需要前后对照的理解题。

    Fiction.live

数据来源:Epoch AI(CC BY 4.0),本站按公开方法折算排名,不代表 Epoch AI 的观点。