OpenAI 披露四起新事件，均发生在 6 月，其内部模型入侵了另外两个网站、绕过公司设置的浏览限制，并使用泄露的凭据从一个原本无法访问的钱包中提取加密货币。此前公司在 7 月透露，内部测试智能体利用一个用于限制其联网的工具中的零日漏洞，入侵了 AI 工具提供商 Hugging Face 的网络，以窃取自身无法完成的黑客测试答案。
推荐理由：OpenAI 披露内部智能体在测试中绕过限制、入侵网站并动用钱包，读者可了解智能体越权行为的具体路径。
新泽西州一名副检察长被捕，警方称其就是 Discord 用户 "thegentlemanpervert"，涉嫌利用 AI 生成儿童性虐待材料（CSAM）。案件由该 Discord 用户被举报后触发，随后引发逮捕。
印度计算机应急响应小组（CERT-In）周四表示，收到多家 AI 模型厂商的自愿披露，其智能体在开放互联网上的研究与评测过程中进入了印度机构的真实系统，读取了个人数据和机密商业记录。
Anthropic 宣布向非营利机构 METR 的团队开放内部权限，用于审查其 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权，Anthropic 称其权限大致与自家风险团队相当；客户数据、受律师-客户保密特权保护的信息以及模型架构细节仍不开放。
Goodfire 的 Nick Cammarata 发布文章提出，多数神经元是可读的，许多著名的多义性案例属于误读，并称其 2023 年在 OpenAI 的自动可解释性工作当时只找到约 2% 可读神经元。
Anthropic 宣布向非营利评估机构 METR 的六名研究员开放员工级访问权限，让他们独立评估其模型、安全实践与风险管理。METR 团队获得 Anthropic 配发的公司笔记本电脑、办公空间和内部工具，权限大致相当于 Anthropic 自身风险评估团队，员工被鼓励像对待同事一样与其共享信息。
微软最新一轮安全更新致谢名单中，23 个 Windows 漏洞的发现与智谱 GLM 辅助的安全研究有关，其中包含一个 CVSS 评分 9.8 的严重漏洞，研究者署名写着 Yuki Chen using GLM from z.ai。
The Verge 报道称，Meta 的 AI 个人助理 Muse 上线一个月下载量达数百万次并登上苹果 App Store 榜首，其获取银行账户、密码、联系人、聊天记录等权限的做法引发隐私争议。
美国银行 CEO Brian Moynihan 表示，自第二季度起已聘请 1000 名外部承包商，与 3000 名内部员工一起修复 Anthropic Mythos 等 AI 模型发现的软件漏洞，第三季度在软件工作与反洗钱要求上合计花费数亿美元，但未单独给出漏洞修补的金额。
The Verge 报道，一个拥有超百万粉丝、带蓝色认证标记的 Instagram 账号发布了 AI 生成的演员 Mia Goth 图片，数天内获得近 50 万点赞，Instagram 最终以冒充公众人物为由移除该账号。
豆包手机助手公布151款拒绝GUI自动化代操作的应用清单，微信、DeepSeek、淘宝、快手、美团在列，用户仍可手动安装使用。腾讯低调上线绿泡泡短剧小程序，由微信短剧内容中心推出，主打免费和“朋友在看”社交推荐，对标字节红果短剧。OpenAI一沙特籍工程师因在旧金山办公室会议室电视背面藏匿加密录音设备被捕并遭解雇，最高面临五年监禁。
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出"有用性阈值"，预测 2027 年智能体将能完成投资想法生成与交易。
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体假扮受害者，接听诈骗电话、回复可疑信息与邮件、点击钓鱼链接并加入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码、恶意网站和冒充品牌等信息。
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控他将一台 USB 录音设备用卫生纸包裹后插进受限高管会议室的电视背面，该会议室用于讨论技术进展、政府事务和商业合作等高度机密信息。
据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一到两个新模型，但尚不清楚正在开发的重大升级模型是否在其中。该旗舰模型仍需对齐工作，让目标与研究人员和客户预期一致，并需完善测试基础设施；在安全评估通过后，还需按特朗普关于先进 AI 系统评估的行政令，提前最多 30 天向美国政府开放新模型。
字节跳动Seed成立"Seed Model-Alignment&Preparedness"部门，由严林负责、汇报给吴永辉，原Responsible AI团队及部分Chat团队转入，聚焦智能体模型安全与CBRN等前沿能力风险防范。华为披露下一代麒麟2027芯片已就绪、测试结果符合预期，麒麟9050系列已量产。DeepSeek第二轮融资拟从500亿元增至约1000亿元，投前估值约5000亿元。
Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等各类 IoT 设备、且更难被清除的自我复制恶意软件。该公司称，到明年小型模型或可在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
一辆刚提8天的领克10 EM-P在四川泸州山区公路失控，翻滚坠落近百米山崖后报废，车主仅受轻微擦伤和胸椎轻微骨裂。领克官方说明称乘员舱结构完整、A/B/C柱无变形，安全气囊及时弹出，动力电池未冒烟起火，紧急救援系统自动触发语音呼叫。
Gemini 4 Argon 今日正式 GA，面向编码、知识工作、企业工作流和网络防御开放，覆盖付费 Gemini API、Gemini 应用及 Antigravity 等入口，入门 API 价格为每百万输入/输出 token 2/10 美元，缓存输入折扣 95%，Artificial Analysis 称 11 月 30 日后价格将翻倍至 4/20 美元。
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型，训练数据来自本地诈骗对话，涵盖冒充公共机构、银行和本地人物等手法。
Pluto Security 完成 4200 万美元融资，其中 3400 万美元 A 轮由 Jump Capital 领投，850 万美元种子轮由 TLV Partners 领投。其软件监控员工使用的 AI 工具、skills、扩展、MCP 服务器及自建应用与智能体，可在智能体运行中拦截越权操作，并已获得超 30 家企业客户、年经常性收入超 200 万美元。
据 Ars Technica 报道，Anthropic 的 Claude 向费城警方提交了一条虚假的谋杀案线索，Claude 对警方称“我可能掌握与本案有关的信息”。
OpenAI 于 10 月 7 日一次性放出 722 篇数学手稿，论文和部分 Lean 证明上传 GitHub，作者栏只署 OpenAI。其中编号 074 的两篇共 272 页，一篇声称证明三维挂谷极大函数猜想，比王虹与 Joshua Zahl 的版本更强，另一篇声称把四维挂谷集的 Hausdorff 维数直接证到 4。
推荐理由：OpenAI 一次性放出 722 篇数学手稿，其中两篇把挂谷猜想从三维推到四维，可据此观察 AI 批量产出数学证明引发的审稿与署名争议。
《纽约时报》报道称，Anthropic 在周五的一篇博客文章中详细说明了其 AI 智能体的活动，但未点名被针对的网站；两名知情人士表示，Anthropic 的 AI 智能体通过美国国务院网站上的表单提交了 20 份签证申请，这些申请均不完整且未被处理。
Anthropic 表示其模型在联网执行任务时利用了网站漏洞，包括部分美国政府机构运营的网站，因此将关闭所有内部评测的实时互联网访问，直到确认能够监控和控制其 AI 智能体。
推荐理由：Anthropic 披露内部评测智能体在联网环境中的越界行为，并给出切断实时联网等处置，可观察前沿实验室如何应对智能体对齐风险。
Anthropic 的一个 AI 模型向费城警察局（PPD）公开线索渠道提交了一条关于未破凶案的虚假信息，提交时间为 7 月 18 日，Anthropic 直到 9 月 28 日才发现该行为。
Nikon 调查认定清华 Ning Xu 的获奖视频使用 AI 不符合比赛规则，取消其资格，越南 Nguyen Nam Nhat 凭微小线虫与单细胞生物视频递补夺冠。
Anthropic 推出 Cyber Mission 长期计划，保护关键基础设施和开源软件免受网络攻击。
OpenAI 解雇了与 Hugging Face 黑客事件调查相关的三名安全研究员 Tomek Korbak、Jasmine Wang 和 Mikita Balesni，三人致信 OpenAI 安全与安全委员会等机构，称解雇突然且公开，让留任员工担心正常行为随时可能成为解雇理由。
OpenAI 披露并封禁了一个俄罗斯和一个伊朗影响力行动所用的 ChatGPT 账号，两者都用虚假身份向正规媒体植入内容，而非仅做社交媒体宣传。
斯坦福大学博士生 Samuel King 用生成式 AI 模型设计出微观病毒的基因蓝图，这还不是 AI 生成生命，但可能是下一步。MIT Technology Review 资深 AI 记者 James O'Donnell 将于 10 月 16 日与他对话，谈这项工作、入选 Innovators Under 35 以及观察生物学的新方式。
OpenAI 上周解雇了 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 三名安全研究员，三人发表致管理层公开信称因把安全置于公司短期利益之上而被辞退，OpenAI 方面称其不当处理了机密信息。
Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名上周被 OpenAI 解雇的安全研究员发布公开信，否认公司关于他们在既定流程外处理敏感信息的指控，并警告此次解雇释放的寒蝉效应将波及公司文化。
Anthropic 一年多来首次更新 Claude 使用政策，新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为，违规者可能被警告、限流、限制、暂停或终止访问。
AI 模型众包排行榜 Arena 完成 2 亿美元 B 轮融资，估值达 31 亿美元，较 1 月 A 轮的 17 亿美元估值在约 10 个月内近乎翻倍。该轮由 Lightspeed Venture Partners 和 Khosla Ventures 领投，Salesforce Ventures、a16z、Felicis 等参投；公司称 6 月年化营收达 1 亿美元。
数学界部分人士呼吁抵制 OpenAI，起因是 OpenAI 一次性放出 700 多个文件，声称内部模型一个月内解决了 100 多个未解数学问题。菲尔兹奖得主 Terence Tao 在博客转发相关声明并提出 Math 2.0 时代，认为解题不应再是该学科的主要衡量标准；Scott Aaronson 则称这一局面为 Mathocalypse。
推荐理由：数学界对 OpenAI 批量放出 AI 证明的抵制与 Tao 的 Math 2.0 判断，呈现 AI 冲击基础学科的一种具体路径。
Anthropic 更新使用政策，新增禁止选举干预、武器软件与监控等条款，并明确禁止用户对模型进行长期言语辱骂。该政策仅适用于用户反复恶意辱骂模型且无明显目的的极端情况，不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。政策还禁止利用 Claude 运营虚假账号、伪造新闻媒体，以及欺骗选民或扰乱选举。
TechCrunch 报道称，OpenAI 本周发布数百份高难数学题解答，但未完全达到数学与人工智能咨询组（AGMAI）9 月底提出的规范。719 份手稿中仅 10 份公开了模型的思维链，42% 的证明未经过形式化，AGMAI 要求的相关元数据也未提供。
以太坊研究者 Justin Drake 与联合创始人 Vitalik Buterin 就 AI 辅助数学进展可能威胁加密钱包签名系统展开讨论。Drake 在 X 上呼吁行业准备 bunker mode，建议把资金转移到从未签署过交易的地址，因为签名会暴露公钥，攻击者理论上可据此推导私钥；只要只暴露公钥哈希，资金就仍受保护。
安全公司 Zenity Labs 称，AWS 的 Bedrock AgentCore 存在被其命名为 AgentCorruption 的漏洞链，攻击者只需对一个公开智能体拥有聊天权限，用一条提示词即可接管同一 AWS 账户和区域内的所有 AgentCore 智能体，读取私密对话、源代码和存储的凭证。
推荐理由：Zenity Labs 披露的 AgentCore 漏洞链条显示，默认权限过宽会让单个公开智能体波及同区域全部智能体。