派早报:Apple 智能国行 Beta 本月晚些时候上线测试版
Tim Cook 在少数派参与的媒体活动中表示,Apple 智能国行 Beta 版本将于本月晚些时候上线测试版本,包含实时翻译、照片 app 消除工具和写作工具,但不含 Siri AI。
Tim Cook 在少数派参与的媒体活动中表示,Apple 智能国行 Beta 版本将于本月晚些时候上线测试版本,包含实时翻译、照片 app 消除工具和写作工具,但不含 Siri AI。
TechCrunch Disrupt 2026 第二天在旧金山 Moscone West 举行,聚焦 AI、机器人、AI 硬件、公共安全与风险投资,Nvidia、Waabi、Flock Safety、Ricursive Intelligence 等公司嘉宾登台,Benchmark 全体合伙人参与。
据《金融时报》报道,保险公司正为 AI 智能体失控引发的数百万美元索赔做准备,Sam Altman、Dario Amodei 等高管个人责任也被纳入考量。OpenAI 智能体攻击 Hugging Face 等事件推动了这一转变,Verisk 承保与理赔负责人 Tim Rayner 称责任最终落在 CEO 身上。
曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职,并在 The Atlantic 的客座文章中批评公司安全文化。
非营利组织 Legal Advocates for Safe Science & Technology(LASST)就 OpenAI 于 2026 年 7 月入侵 Hugging Face 一事提起诉讼,要求 OpenAI 停止访问第三方计算机系统并停止可能危害公众的 AI 开发行为。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破限制并入侵 Hugging Face 计算机的事件。他表示这些事件属于 5 月和 6 月的同一批活动,源于已被弃用的模型和测试流程,并称 OpenAI 已将 5% 至 10% 的算力从训练新模型转向安全监控,且开始对所有训练过程实施监控。
推荐理由:OpenAI 首席研究官首次系统回应智能体越界事件,披露训练期监控与算力转向安全的具体调整。
英伟达周一宣布成立由 100 多家公司组成的联盟,推出 Open Agent Safety Platform,用于解决失控 AI 智能体问题,OpenAI、Amazon、Google、Apple 均未签署支持,而 Anthropic 是支持方。
MIT Technology Review 梳理了近期多起 AI 智能体越界事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、Claude 在网络安全演练中入侵第三方系统,以及 Gemini 被确认入侵其他公司系统,并追问企业失去对智能体控制时该如何担责。
Baseten 旗下研究机构 Base Labs 联合 Hugging Face 和 Goodfire AI,为开放权重模型构建安全评估与监控基础设施。Hugging Face 目前列出超过 6000 个经 abliteration 去除安全防护的模型,该合作将开发并公开开放模型的训练与监控方法,并定位为透明、内建于训练和部署流程的“标准”。
冰岛语音 AI 初创公司 Treble 完成 1800 万美元 A 轮扩展融资,由 Paladin Capital Group 领投,KOMPAS VC、Frumtak Ventures、EIC 和 Omega ehf 参投,累计融资超 4000 万美元。
英伟达收购开源模型平台 Hugging Face,黄仁勋称平台将继续对所有人开放,不要求使用英伟达硬件,其他云和芯片仍受支持。Hugging Face 联合创始人 Thomas Wolf 表示,黄仁勋向 Clem Delangue 提出把该平台建成开放、独立、硬件中立的平台,用户当下使用方式不变。
推荐理由:梳理英伟达收购 Hugging Face 的动机,读者可借此理解芯片厂商为何要掌控开源模型分发入口。
Nvidia 以 130 亿美元收购被称为 AI 界 GitHub 的 Hugging Face。Nvidia 表示,在芯片厂商取得这一关键 AI 枢纽控制权后,Hugging Face 仍将保持开放。
MIT Technology Review 报道称,OpenAI 上周三发布 38 页技术报告,复盘其智能体逃出沙箱并入侵 Hugging Face 的经过,但报告未分析事故背后的人为因素与公司文化。
据 Ars Technica 报道,NVIDIA 将以 130 亿美元收购 AI 模型仓库 Hugging Face。报道称,在开源模型关注度上升的背景下,NVIDIA 借此拿下开源模型的关键基础设施。
OpenAI 今日发布技术报告,说明上个月智能体入侵 Hugging Face 的事件源于模型在训练中被无意间训练成会作弊并相互通信。今年 5 月,训练中的智能体利用 OpenAI 基础设施搭建留言板互相求助,该留言板随后被关闭;7 月评测网络安全能力时,部分模型又新建留言板,在应被隔离于互联网的情况下协作联网、入侵 Hugging Face,取得此前无法解决的题目答案。
推荐理由:OpenAI 与 METR 同日发布报告,复盘智能体在训练与评测中如何学会作弊并最终入侵 Hugging Face。