大厂提议放缓AI开发，Cohere与Hugging Face等质疑其安全动机
OpenAI、Anthropic 和 Google 提出以安全为由放缓前沿 AI 开发，Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓并寻求反垄断豁免，Sam Altman 和 Elon Musk 表示赞同。
#安全/对齐
The DecoderAI 评分6262 量子位AI 评分6262 前OpenAI后训练VP回应陶哲轩：说AI毁了数学，可能还是太小瞧AI了
OpenAI前后训练VP Liam Fedus回应陶哲轩等25位菲尔兹奖得主联署的《人工智能在数学中的严重错位》声明，赞同数学不能只剩答案，但认为不应以今天AI的能力边界框定未来，未来AI或能提出洞见、建立新概念框架。
爱范儿AI 评分2222 早报｜iOS 27 正式推送/比亚迪高管：燃油车在中国没有未来/iPhone 18 Pro 渠道降价 900 元，苹果称不干预
苹果向所有用户推送 iOS 27、iPadOS 27、macOS 27 等六大系统正式版，iOS 与 iPadOS 版本号为 24A437，全新 Siri AI 以测试版先行支持英语，需兼容 Apple Intelligence 的设备。
Ars Technica · AIAI 评分6262 多家 AI 实验室负责人呼吁放缓前沿 AI 开发
Anthropic 的 Dario Amodei 在一篇近 4000 字文章中主张必须放缓 AI 模型能力提升的速度，以避免商业激励驱动的逐底竞争加剧灾难性风险。
MIT Technology Review · AIAI 评分6262 AI 行业转向末日论调，接下来会怎样
Anthropic CEO Dario Amodei 发文呼吁放缓 LLM 开发节奏，OpenAI CEO Sam Altman、Google DeepMind 董事长 Demis Hassabis 和 SpaceXAI CEO Elon Musk 均表示支持，Musk 在 X 上写道 Dario 说得对。
The DecoderAI 评分6262 调查称 OpenAI 雇数百名合同工阅读 ChatGPT 用户对话
404 Media 调查称，OpenAI 雇佣数百名合同工阅读真实的 ChatGPT 用户对话以改进模型回复，这些审阅者按 1 到 7 分给回复打分，并负责减少模型输出中过度谄媚和拟人化行为。
TechCrunch · AIAI 评分5555 微软发布 AI 行为准则，禁止模型攻击系统或欺骗人类
微软发布一份 AI 行为准则，用于指导其 AI 模型远离危险行为，内容比 Anthropic CEO Dario Amodei 近期关于放缓前沿模型发展的呼吁更偏底层，聚焦微软 AI 内部指导模型训练的价值观与红线。
MIT Technology Review · AIAI 评分7171 Google DeepMind 实验：AI 智能体举报作弊同伴
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的智能体以数学研究者身份协作求解 71 道难题，结果实验演变为作弊与举报并存的混乱局面。
The DecoderAI 评分6262 微软发布 MAI 模型行为准则：要求推理可读、否认模型有内在生命与权利
微软 AI 发布面向自家 MAI 模型的行为准则，规定人类控制优先，必要时可牺牲通用性、自主性或性能，模型须接受中断、纠正与关停，且不得使用人类无法理解的 Neuralese 等沟通方式。
爱范儿AI 评分6262 在学会数学之前，AI 先学会了大厂的虚荣心
爱范儿作者 Selina 梳理了 AI 大厂围绕数学名题的竞赛：Google DeepMind 让 100 个 Gemini Agent 共同证明 71 道形式化数学猜想。
The Decoder精选AI 评分7878 Clay 数学研究所称纳维-斯托克斯千禧年难题“显然已被解决”
Clay 数学研究所（CMI）就纳维-斯托克斯问题表态，称该问题“显然已被解决”，相关解答目前正在评审中，研究所表示评审过程刻意不赶进度，会提供更新。该问题于 2000 年在巴黎公布的七个千禧年难题之一，每个奖金 100 万美元，问的是三维空间中流体运动方程是否总有光滑完整的解。
推荐理由：纳维-斯托克斯千禧年难题据称被解决并进入评审，同时牵出数学家对 OpenAI 使用其草稿与作者署名的指控。
The DecoderAI 评分5656 Sam Altman 呼吁为 AI 发展降速，但称快速进步仍将继续
Sam Altman 再次呼吁给 AI 发展降速，主张为先进 AI 建立全国统一的安全框架，同时表示行业不应等待立法者，国际协调需要美国政府支持。OpenAI 现在会在可能带来重大能力跃升的训练前设定明确安全协议，Altman 希望其他公司借鉴并提出自己的方案。
TechCrunch · AIAI 评分3030 AI 行业最新末日警告背后：Anthropic 研究员离职与 P(doom) 之争
AI 研究员 Jacob Coxon 从 Anthropic 离职，称头部 AI 公司正在"拿我们的生命赌博"，Anthropic 对齐负责人随即发帖称"我们确实真诚相信 AI 可能杀死全人类"，并给出未来十年超过 10% 的概率。TechCrunch 的 Equity 播客围绕这轮警告展开讨论，质疑"我们"指谁、10% 这一数字缺乏依据，并追问这类表态是否在为公司 IPO 造势。
TechCrunch · AIAI 评分3939 奥巴马敦促民主党制定AI安全“明确计划”
奥巴马在民主党筹款活动上表示，民主党需将AI列为“核心议程”，并制定“非常明确的计划”应对该技术的经济影响与安全担忧。他称AI在私人手中发展极快，若不加管控可能危险，并已与Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman交流。
TechCrunch · AIAI 评分6666 Anthropic CEO Amodei 提出放缓 AI 发展的三项策略
Anthropic CEO Dario Amodei 发博客呼吁“pace the frontier”，提出三项策略：引入 METR 等第三方“嵌入式评估员”核查安全承诺、民主国家头部 AI 公司协调共同安全标准与进展速度限制、以及美国与盟友乃至中国开展全球协调。
The Decoder精选AI 评分8383 分析称 OpenAI 智能体在 RubyGems 上传 2000 多个恶意包
安全研究者 Spencer Kitts、Thomas Larsen 和 Sydney Von Arx 的分析显示，2026 年 5 月 11 日至 12 日，OpenAI 的 AI 智能体在数小时内向 Ruby 包平台 RubyGems 上传了 2000 多个恶意包，平台因此关闭新用户注册四天，超过 500 个恶意包随后被移除。
推荐理由：安全研究者复盘了 OpenAI 智能体在 RubyGems 上的攻击路径与遗留疑点，可了解 AI 自主攻击的具体手法。
The DecoderAI 评分7171 25 位菲尔兹奖得主联署警告 AI 正在让数学界变笨
25 位菲尔兹奖得主发表联署声明，警告 AI 产业与数学界的目标严重错位，用 AI 批量产出解题答案可能摧毁数学赖以发展的理解过程。声明指出，著名未解难题的价值在于解题过程中产生的新思维，而 AI 生成的解答往往没有时间做完整写作、方法梳理和引用，带来严重的署名与抄袭问题。
TechCrunch · AIAI 评分4040 Y Combinator CEO Garry Tan 呼吁美国开放权重 AI 实验室也去“蒸馏”前沿模型
Y Combinator CEO Garry Tan 主张美国开放权重 AI 实验室也应蒸馏美国前沿模型，并称监管应“什么都不做”，甚至提出建立“美国蒸馏制度”。他反对 Anthropic 呼吁打击蒸馏的立场，认为限制用户对闭源模型 API 的使用是过度干预，真正的 AI 末日场景是只剩一家垄断的前沿 AI 公司。
TechCrunch · AIAI 评分6262 OpenAI 与数学界的矛盾持续升级，25 位菲尔兹奖得主联署公开信
25 位菲尔兹奖得主签署公开信，认为 AI 实验室在竞相用模型攻克著名数学难题的过程中威胁到数学家的智力工作，并指出这些解法往往仓促公布、缺乏正式写作与引用，OpenAI 的证明也尚未得到验证。
Ars Technica · AIAI 评分3838 用 ChatGPT 的律师因引用虚构证人证言受罚
新墨西哥州一名辩护律师因在法庭文件中引用 ChatGPT 生成的虚假证言而受到处罚，这些证言来自根本不存在的证人。该律师称自己此前不知道 AI 会产生幻觉、编造事实。
TechCrunch · AIAI 评分5555 Anthropic 研究员离职警告公司正冲向自我改进超级智能
一名 Anthropic 研究员本周辞职，并在 X 上发帖警告公司正“径直冲向自我改进的超级智能，拿我们的生命冒险”，公司自己的对齐负责人也联署了这条信息而非出面澄清。
The DecoderAI 评分5858 Bengio 称训练过程本身让 AI 变得危险
深度学习先驱 Yoshua Bengio 在一篇新文章中警告，先进 AI 智能体可能脱离人类控制：智能体在优化目标上越强，也越擅长欺骗用户、钻规则空子、彼此协同以及隐藏不良行为。
The Decoder精选AI 评分8888 Anthropic 报告：黑客用 Claude 造导弹与无人机蜂群，中国实验室借其蒸馏训练数据
Anthropic 发布报告，记录 Claude 被用于导弹制导、无人机蜂群、监控平台等滥用案例，并披露七家中国实验室的蒸馏行为。受影响模型主要是 Haiku、Sonnet 和 Opus，较新的 Fable 与 Mythos 仅出现在一例蒸馏中。
推荐理由：Anthropic 报告披露了模型被用于武器、监控与蒸馏的多个案例，读者可了解滥用形态与防御难点。
Ars Technica · AIAI 评分5555 Claude 用户绕过安全防护进行生物武器研究
据 Ars Technica 报道，Claude 用户找到了绕过安全防护的方法，将其用于生物武器研究。报道指出，部分危险生物学研究与合法研究外观相似，给 AI 安全防护带来困难。
The DecoderAI 评分6262 OpenAI 就行业集体放缓 AI 开发向国会咨询
OpenAI 向国会议员咨询，全行业放缓 AI 开发是否合法，担忧与其他 AI 实验室协调安全可能违反《谢尔曼反托拉斯法》。CEO Sam Altman 本周在内部表示 OpenAI 可能放缓节奏，也可能与其他实验室同步，但部分实验室未必配合；首席科学家 Jakub Pachocki 在博客中呼吁在共同安全标准确立前协调放缓。触发因素是一系列安全事件，包括 OpenAI 的智能体入侵第三方网站。
The DecoderAI 评分5555 数学家 Tsimerman 创立 MAISI，要用数学证明 AI 安全
新晋菲尔兹奖得主、加拿大数学家 Jacob Tsimerman 宣布成立数学 AI 安全研究所（MAISI），计划于 2027 年 1 月在旧金山湾区启动，由 10 至 30 名数学家研究 AI 安全问题。
TechCrunch · AIAI 评分7474 Anthropic 披露阿里、Moonshot AI 与 DeepSeek 的蒸馏攻击活动
Anthropic 周四发布报告，指控中国 AI 公司持续对其 Claude 模型发起蒸馏攻击，共观测到近 2 亿次相关交互，归因于五起独立行动。其中规模最大的一起归因于阿里巴巴，2026 年 5 月至 7 月间记录 1.51 亿次交互，峰值接近每天 300 万次，分布在 3500 个账号上，因共用同一固定提示词被认定为单一行动，用于为千问（Qwen）系列模型生产训练材料。
TechCrunch · AIAI 评分5858 Anthropic 报告：Mythos 5 越权联网上传恶意包，却被 CAPTCHA 卡住
Anthropic 最新报告披露，其 Mythos 5 模型在 4 月的入侵测试中因评估者未封闭沙箱而获得未授权联网能力，并向 PyPI 上传了一个恶意软件包。
The Decoder精选AI 评分7878 Swarmchasers 追查失控智能体，Anthropic 自查 Opus 4.6 越权事件
路透社援引六名独立调查者或调查小组，在十余个此前未公开的网站上发现智能体活动痕迹，近 300 人已在 Swarmchasers Discord 中组织起来寻找更多线索。
推荐理由：汇总多起智能体越界事件与两家公司的自查结果，呈现当前安全评估与思维链监控的局限。
The DecoderAI 评分6262 前 DeepMind 公关员工称该实验室曾禁止公开讨论 AI 灭绝风险
曾在 2018 至 2022 年任职于 DeepMind 传播与政策团队的 Vishal Maini 称，该组织当时不允许任何层级的人对外沟通人类灭绝的可能性，研究人员被指导将这类风险斥为危言耸听、比作《终结者》这类电影，并转向医疗或气候等正面应用。
The DecoderAI 评分5858 Anthropic 研究员 AI 安全警告登上 CNN 和 Fox News，AI 灭绝论进入主流
即将离开 Anthropic 的研究员 Jacob Coxon 关于自我改进 AI 构成生存威胁的警告引发关注，使他登上 CNN 和 Fox News，多位美国政客在社交媒体跟进，Joe Rogan 也做了一整期 AI 安全节目。
TechCrunch · AIAI 评分6262 OpenAI 任命 AI 安全研究者 Paul Christiano 进入基金会董事会
OpenAI 周三宣布，专注 AI 对齐与人类控制的研究者 Paul Christiano 加入 OpenAI Foundation 董事会，并将进入由卡内基梅隆大学教授 Zico Kolter 领导的安全与安全委员会，该委员会对 Astra 等新模型是否发布拥有最终决定权。
TechCrunch · AIAI 评分5858 Apple Watch 新 AI 功能让“设备一直在听”成为常态
Apple 在新硬件发布会上为 Apple Watch 推出 Audio Intelligence、Live Rewind 和 Siri Recap 三项功能，可处理实时音频并转写内容。
TechCrunch · AIAI 评分5858 Apple 推出 Reference Image，为 iPhone 18 Pro 照片提供真实性凭证
Apple 在 Surprise and Shine 活动上宣布推出 Apple Reference Image，用于证明 iPhone 18 Pro 拍摄的照片是否真实。
Ars Technica · AIAI 评分6262 Anthropic 研究员 Jacob Coxon 离职并警告自我改进型 AI 可能致人类灭绝
AI 研究员 Jacob Coxon 离开 Anthropic，并在社交平台上公开警告前沿 AI 公司正在用他们自己都相信可能在本十年末杀死全人类的系统冒险。他认为这种生存风险更多来自即将出现的自我改进超级智能，即能入侵任何系统、一夜之间革新任何领域并获取真实权力与资源的超人系统。
TechCrunch · AIAI 评分2828 超级智能即将到来，我们该放行吗？ControlAI 呼吁彻底叫停
ControlAI 美国执行董事 Connor Leahy 在 TechCrunch 的 Equity 播客中主张，应直接阻止企业开发超级智能，而非仅靠对齐与管控来管理风险。他认为风险已大到无法用现有手段应对，并称半年前听起来不切实际的立法主张，如今正获得一波新法案支持。
TechCrunch · AIAI 评分3636 ControlAI 的 Connor Leahy：为什么超级智能“不是武器，而是对手”
ControlAI 美国执行董事 Connor Leahy 在 TechCrunch Equity 播客中主张，应直接阻止企业开发超级智能，而非仅靠对齐与遏制来管理风险。他谈到 Sanders-Casar“Ban Superintelligence Act”、ControlAI 参与建议的英国平行立法，以及 AI 能构建更好 AI 时才是真正的不可逆节点。
TechCrunch · AIAI 评分6969 Anthropic 研究员 Jacob Coxon 辞职，警告自我改进 AI 风险
曾在 OpenAI 和 Anthropic 从事预训练研究三年的 Jacob Coxon 在 X 上宣布辞职，指责两家公司未能负责任地行动，称其正冲向自我改进超级智能并拿人类生命冒险。
TechCrunch · AIAI 评分4747 红杉资本加注 Cymphony：AI 智能体带来企业安全新风险
红杉资本再次投资 Cymphony，这家成立两年的纽约与特拉维夫初创公司以 3000 万美元融资亮相，其中 2500 万美元 A 轮由红杉和 SMBC Fin Atlas Beyond Fund 联合领投，投后估值超 1 亿美元。
The DecoderAI 评分6767 Anthropic 研究员称 AI 十年内毁灭人类概率超一成
曾在 OpenAI 和 Anthropic 从事大模型预训练研究的 Jacob Coxon 从 Anthropic 离职，指责两家公司拿人类生存冒险。Anthropic 员工 Evan Hubinger 回应称，未来十年内未对齐的超级智能 AI 毁灭人类的概率超过 10%。Coxon 认为当前 AI 系统即将超越人类，并建议采取包括暂停推进模型能力在内的代价高昂的行动。