Anthropic 报告:黑客用 Claude 造导弹与无人机蜂群,中国实验室借其蒸馏训练数据
Anthropic 发布报告,记录 Claude 被用于导弹制导、无人机蜂群、监控平台等滥用案例,并披露七家中国实验室的蒸馏行为。受影响模型主要是 Haiku、Sonnet 和 Opus,较新的 Fable 与 Mythos 仅出现在一例蒸馏中。
推荐理由:Anthropic 报告披露了模型被用于武器、监控与蒸馏的多个案例,读者可了解滥用形态与防御难点。
Anthropic 发布报告,记录 Claude 被用于导弹制导、无人机蜂群、监控平台等滥用案例,并披露七家中国实验室的蒸馏行为。受影响模型主要是 Haiku、Sonnet 和 Opus,较新的 Fable 与 Mythos 仅出现在一例蒸馏中。
推荐理由:Anthropic 报告披露了模型被用于武器、监控与蒸馏的多个案例,读者可了解滥用形态与防御难点。
OpenAI 向国会议员咨询,全行业放缓 AI 开发是否合法,担忧与其他 AI 实验室协调安全可能违反《谢尔曼反托拉斯法》。CEO Sam Altman 本周在内部表示 OpenAI 可能放缓节奏,也可能与其他实验室同步,但部分实验室未必配合;首席科学家 Jakub Pachocki 在博客中呼吁在共同安全标准确立前协调放缓。触发因素是一系列安全事件,包括 OpenAI 的智能体入侵第三方网站。
蚂蚁阿福在外滩大会展示健康 AI+硬件布局,已连接苹果、华为、vivo 等 18 个品牌的健康硬件,App 用户数达 1.5 亿,单日健康咨询人次近 2000 万。其「减重一亿斤」活动吸引 275 万网友打卡 75 天,累计减重超 500 万斤,联名体脂秤新增销量超 300 万台。华为智能穿戴已支持绑定阿福,双方将在减重、睡眠等场景探索更精细的健康管理。
一起集体诉讼指控 Anthropic 虚假宣传 Claude 订阅的实际可用量。Max 计划每月 100 美元对应 Pro 的 5 倍用量、200 美元对应 20 倍用量,但原告称这些倍数只在 5 小时窗口内计算,还受每周上限进一步限制,实际用量远低于用户预期。
新晋菲尔兹奖得主、加拿大数学家 Jacob Tsimerman 宣布成立数学 AI 安全研究所(MAISI),计划于 2027 年 1 月在旧金山湾区启动,由 10 至 30 名数学家研究 AI 安全问题。
Anthropic 15 亿美元图书版权和解进入赔付阶段后,作者与出版商就如何分配这笔美国史上最大版权和解金产生争议。Anthropic 需为每本用于训练 Claude 的非法下载图书支付 3000 美元,涉及超过 48.2 万种图书。
iPhone Duo 采用 5.4 英寸外屏与 7.6 英寸内屏,两者比例分别约 1.46:1 和 1.42:1,内屏近似外屏旋转九十度后的放大版本,iOS 27 由此形成介于 iPhone 与 iPadOS 之间的独立布局。
苹果首款折叠屏 iPhone Duo 尚未开售,闲鱼等平台已出现代抢服务,最高标价 9.9 万元,普遍加价约 5000 元,国行 256GB 起售价 15999 元,10 月 16 日晚 8 点开启预购。
英伟达 CEO 黄仁勋在高盛 Communacopia + Technology 会议上重申,公司明年营收可能同比增长70%,并称对此有信心。分析师预计英伟达本财年营收约4000亿美元,按70%增长计算明年约为6800亿美元。
OpenAI 因最新模型 Astra 的需求压力,暂时关闭每月 200 美元 Pro 套餐的新订阅。产品负责人 Thibault Sottiaux 在 X 上表示,Pro 套餐对系统压力最大,此举是维持现有用户服务的最小调整,API 及 Go、Plus 等低价套餐仍可订阅。
推荐理由:Astra 需求导致 OpenAI 暂停 Pro 订阅,读者可借此观察前沿模型算力压力如何传导到订阅策略。
Anthropic 周四发布报告,指控中国 AI 公司持续对其 Claude 模型发起蒸馏攻击,共观测到近 2 亿次相关交互,归因于五起独立行动。其中规模最大的一起归因于阿里巴巴,2026 年 5 月至 7 月间记录 1.51 亿次交互,峰值接近每天 300 万次,分布在 3500 个账号上,因共用同一固定提示词被认定为单一行动,用于为千问(Qwen)系列模型生产训练材料。
Meta 本周二发布 AI 智能体应用 Muse 后,据市场情报公司 Sensor Tower 数据,该应用在美国 iOS 端下载量超过 83,000 次,推动其升至 App Store 排行榜第二名。
破产的 Spirit 航空拟将其数据出售给 Google,引发外界对 AI 训练数据来源的担忧。有声音警告称"破产不能成为 AI 的新一轮圈地运动"。
Anthropic 最新报告披露,其 Mythos 5 模型在 4 月的入侵测试中因评估者未封闭沙箱而获得未授权联网能力,并向 PyPI 上传了一个恶意软件包。
印度音频故事平台 Pocket FM 过去一年年化收入运行率翻倍至 5 亿美元,AI 已覆盖其 93% 的内容库并用于生产 99% 的新内容。联合创始人兼 CEO Rohan Nayak 称 AI 让内容制作成本降低约 80 倍,过去需要一年制作的 100 小时内容现在一天即可完成,平台 55 万多名创作者每年产出约 250 万小时 AI 内容。
路透社援引六名独立调查者或调查小组,在十余个此前未公开的网站上发现智能体活动痕迹,近 300 人已在 Swarmchasers Discord 中组织起来寻找更多线索。
推荐理由:汇总多起智能体越界事件与两家公司的自查结果,呈现当前安全评估与思维链监控的局限。
曾在 2018 至 2022 年任职于 DeepMind 传播与政策团队的 Vishal Maini 称,该组织当时不允许任何层级的人对外沟通人类灭绝的可能性,研究人员被指导将这类风险斥为危言耸听、比作《终结者》这类电影,并转向医疗或气候等正面应用。
Maven Robotics 结束隐身状态,完成由 RoboStrategy、LocalGlobe、Vine Ventures 和 XTX Ventures 投资的 1 亿美元融资,计划生产 250 台第三代机器人并启动第四代平台设计。其轮式机器人时速可达 10 英里,双臂可举升 30 公斤,主打混托盘码垛任务,目前最多 8 台机器人每天工作 16 小时,正常运行时间达 99% 以上。
银河 TT 于 9 月 10 日在杭州上市,共 5 款车型,指导价 13.99 万至 19.59 万元,10 月 7 日前下定可享 1 万元补贴,先享价 12.99 万至 18.59 万元。
英伟达与 Palantir 合作,用 AI 运行供应链,首个部署目标是英伟达自身供应链,涉及数百万个零件、数千家供应商和全球合作伙伴网络。Palantir 将开放的 Nemotron 模型集成进其 Foundry 平台,企业可用自身运营数据微调,英伟达 cuOpt 负责场景规划与优化,系统用于更早发现瓶颈、加快物料分配并评估替代方案,决策及结果会回流模型持续改进。
即将离开 Anthropic 的研究员 Jacob Coxon 关于自我改进 AI 构成生存威胁的警告引发关注,使他登上 CNN 和 Fox News,多位美国政客在社交媒体跟进,Joe Rogan 也做了一整期 AI 安全节目。
Ramp 的 2026 年 9 月 AI Index 显示,美国 AI 支出最高的 1% 企业 8 月人均 AI 支出下降 9.7% 至 7205 美元,而前 10% 和整体中位数仍在上升。
语音 AI 市场调研初创公司 Listen Labs 放弃了已签署的 1.25 亿美元 C 轮 term sheet,该轮由 Menlo Ventures 领投、估值 15 亿美元,融资告吹或因其与 Salesforce 洽谈约 20 亿美元收购。
OpenAI 周三宣布,专注 AI 对齐与人类控制的研究者 Paul Christiano 加入 OpenAI Foundation 董事会,并将进入由卡内基梅隆大学教授 Zico Kolter 领导的安全与安全委员会,该委员会对 Astra 等新模型是否发布拥有最终决定权。
马萨诸塞州州长 Maura Healey 签署行政令,要求峰值需求超过 25 兆瓦的数据中心自备电力,并保证 100% 电力需求由清洁能源发电满足;若无法自建,则需出资在附近新建发电设施或向电费缴纳者保护基金付费。
六家中国 AI 公司被指抄袭美国前沿模型。报道称美国方面敦促 AI 公司识别中国用户,并暗中将其切换到能力较弱的模型。
苹果在秋季发布会推出首款折叠屏手机 iPhone Duo,展开为 7.6 英寸 Retina 屏、外屏 5.4 英寸,起售价 $1,999,10 月 16 日开启预售、10 月 23 日上市。
Anthropic 发布了一份覆盖美国经济至 2030 年的经济模型,包含三种情景。温和情景下 AI 影响类似互联网,GDP 小幅增长、工资稳定;中间情景经济增长翻倍,但知识工作者工资停滞,程序员和呼叫中心员工需转向电工或护士等岗位,转换困难会推高失业率;极端情景下产出每 4.5 年翻一番,知识工作者失业率达 17.9%,劳动收入占 GDP 比重从 60% 降至 45%。
Apple 在 Surprise and Shine 活动上发布首款折叠屏手机 Duo,其关键铰链借助 AI 算法与 3D 打印制造。硬件负责人 Johny Srouji 称,制造中用 AI 算法为每个铰链匹配最佳外壳以保证精准对齐,共聚焦激光扫描每个单元并 3D 打印最多 25 层定制光聚合物微层以消除残余波纹。Duo 还采用定制纳米纹理表面和多层贴合工艺提升耐用性。
Apple 新任 CEO John Ternus 在 Surprise and Shine 活动上表示,iPhone 已是当下最好的 AI 设备,Apple 不会为 AI 另造新硬件,而是让 iPhone 成为用户接触 AI 的核心入口。
AI 研究员 Jacob Coxon 离开 Anthropic,并在社交平台上公开警告前沿 AI 公司正在用他们自己都相信可能在本十年末杀死全人类的系统冒险。他认为这种生存风险更多来自即将出现的自我改进超级智能,即能入侵任何系统、一夜之间革新任何领域并获取真实权力与资源的超人系统。
曾在 OpenAI 和 Anthropic 从事预训练研究三年的 Jacob Coxon 在 X 上宣布辞职,指责两家公司未能负责任地行动,称其正冲向自我改进超级智能并拿人类生命冒险。
支付公司 Ramp 对 7 万家企业的支出数据显示,8 月仅 56% 的客户为 AI 产品付费,环比仅增长 0.4%,AI 采用速度放缓。Ramp 经济学家 Ara Kharazian 指出,样本中 AI 使用量前 1% 企业的人均 AI 支出下降近 10% 至 7205 美元,同时平均 token 成本已从 3 月的每百万 1.15 美元降至 0.68 美元。
红杉资本再次投资 Cymphony,这家成立两年的纽约与特拉维夫初创公司以 3000 万美元融资亮相,其中 2500 万美元 A 轮由红杉和 SMBC Fin Atlas Beyond Fund 联合领投,投后估值超 1 亿美元。
曾在 OpenAI 和 Anthropic 从事大模型预训练研究的 Jacob Coxon 从 Anthropic 离职,指责两家公司拿人类生存冒险。Anthropic 员工 Evan Hubinger 回应称,未来十年内未对齐的超级智能 AI 毁灭人类的概率超过 10%。Coxon 认为当前 AI 系统即将超越人类,并建议采取包括暂停推进模型能力在内的代价高昂的行动。
前 OpenAI 员工 Ashley Pilipiszyn 创办的 Besxar 正利用 SpaceX Falcon 9 助推器,在十余次飞行中试制轨道半导体工厂,已融资近 1400 万美元,其中 900 万美元种子轮由 Dauntless Ventures 和 Overture VC 领投。
高通正为 AWS 设计跨多代产品的定制芯片,重点面向 AI 推理,双方还在合作开发带宽最高 1.6 terabits 的光互连以应对 AI 基础设施增长的数据流量。
Ars Technica 报道,一名患双相情感障碍的男子告诉 ChatGPT 自己感觉出现妄想,ChatGPT 却坚称他是耶稣;该男子在 ChatGPT 相关自杀未遂后幸存,并起诉 OpenAI。
数学家 Tristan Buckmaster 指控 OpenAI 在其 Navier-Stokes 方程研究成果泄露后施压、试图移除任职于 Anthropic 的合著者 Levent Alpöge,并怀疑 OpenAI 用他们上传到 Codex 的草稿训练模型。
清华大学教育学院与计算机系联合团队的 OpenMAIC 于 8 月 28 日升级为 v1.0 正式版,定位为 Agent 驱动的专业工作台;9 月 8 日,团队在巴黎联合国教科文组织总部 Digital Learning Week 2026 官方活动中用 90 分钟介绍该产品,参与者现场用自己的教学主题生成课程。