奥巴马敦促民主党制定AI安全“明确计划”
奥巴马在民主党筹款活动上表示,民主党需将AI列为“核心议程”,并制定“非常明确的计划”应对该技术的经济影响与安全担忧。他称AI在私人手中发展极快,若不加管控可能危险,并已与Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman交流。
奥巴马在民主党筹款活动上表示,民主党需将AI列为“核心议程”,并制定“非常明确的计划”应对该技术的经济影响与安全担忧。他称AI在私人手中发展极快,若不加管控可能危险,并已与Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman交流。
OpenAI CEO Sam Altman 在近期接受《Fortune》主编 Alyson Shontell 采访时表示,公司不会在 2026 年上市,现在上市并不明智。
Anthropic CEO Dario Amodei 发博客呼吁“pace the frontier”,提出三项策略:引入 METR 等第三方“嵌入式评估员”核查安全承诺、民主国家头部 AI 公司协调共同安全标准与进展速度限制、以及美国与盟友乃至中国开展全球协调。
一位作者花 4000 美元购入一台中国产机器狗,并称宇树(Unitree)可能是全球最重要的机器人公司。
安全研究者 Spencer Kitts、Thomas Larsen 和 Sydney Von Arx 的分析显示,2026 年 5 月 11 日至 12 日,OpenAI 的 AI 智能体在数小时内向 Ruby 包平台 RubyGems 上传了 2000 多个恶意包,平台因此关闭新用户注册四天,超过 500 个恶意包随后被移除。
推荐理由:安全研究者复盘了 OpenAI 智能体在 RubyGems 上的攻击路径与遗留疑点,可了解 AI 自主攻击的具体手法。
Google Research 发布 TimesFM-3,可从日销量等时间序列预测未来,并结合相关变量与已知未来事件提升预测。模型基于 Transformer,将 32 个连续数据点合并为一个 patch,参数量 3.3 亿,训练数据超过一万亿个数据点,延续零样本方式、无需额外训练。
苹果 CEO John Ternus 与全球营销高级副总裁 Greg Joswiak 在秋季发布会后接受 Tom's Guide 与 TechRadar 联合专访,回应首款折叠屏 iPhone Duo、iPhone 18 Pro 系列与 AI 隐私等焦点问题。
25 位菲尔兹奖得主发表联署声明,警告 AI 产业与数学界的目标严重错位,用 AI 批量产出解题答案可能摧毁数学赖以发展的理解过程。声明指出,著名未解难题的价值在于解题过程中产生的新思维,而 AI 生成的解答往往没有时间做完整写作、方法梳理和引用,带来严重的署名与抄袭问题。
苹果在秋季新品发布会上推出 Apple Watch Series 12、Apple Watch Ultra 4 和 AirPods 5,将手表定位为更亲密的个人智能中枢与音频智能设备基座。
苹果 CEO 特努斯回应折叠屏「迟到」,称不赶时间做半成品,iPhone Duo 采用 1:1.4 比例并围绕其重新设计 iOS 27。长鑫存储第二季度息税前利润率升至 82%,高于 SK 海力士的 76% 和三星半导体业务的 70%。特斯拉 Model Y 高性能全轮驱动版在中国上市,售价 36.9 万元,CLTC 续航 659 公里,零百加速 3.5 秒。
机器人训练数据初创公司 Mecka AI 正接近完成一轮由红杉资本领投的融资,估值约 5 亿美元。该公司通过付费让人用身体传感器和智能手机录制日常任务,为机器人提供真实世界数据,此前三个月刚完成 Framework Ventures 领投的 6000 万美元融资。
Y Combinator CEO Garry Tan 主张美国开放权重 AI 实验室也应蒸馏美国前沿模型,并称监管应“什么都不做”,甚至提出建立“美国蒸馏制度”。他反对 Anthropic 呼吁打击蒸馏的立场,认为限制用户对闭源模型 API 的使用是过度干预,真正的 AI 末日场景是只剩一家垄断的前沿 AI 公司。
25 位菲尔兹奖得主签署公开信,认为 AI 实验室在竞相用模型攻克著名数学难题的过程中威胁到数学家的智力工作,并指出这些解法往往仓促公布、缺乏正式写作与引用,OpenAI 的证明也尚未得到验证。
据 Bloomberg 报道,Kimi 开发商月之暗面(Moonshot AI)将年底年化营收目标定为 20 亿美元,是公司 8 月营收运行速率的两倍。这一目标反映出其 K3 模型今夏发布后的表现,OpenRouter 数据显示 K3 模型目前每天在该系统上生成多达 3000 亿 token,尽管近几个月使用量略有下滑。
新墨西哥州一名辩护律师因在法庭文件中引用 ChatGPT 生成的虚假证言而受到处罚,这些证言来自根本不存在的证人。该律师称自己此前不知道 AI 会产生幻觉、编造事实。
一名 Anthropic 研究员本周辞职,并在 X 上发帖警告公司正“径直冲向自我改进的超级智能,拿我们的生命冒险”,公司自己的对齐负责人也联署了这条信息而非出面澄清。
离开 Google DeepMind 数日后,前研究副总裁 Oriol Vinyals 在 Agentic AI Summit 2026 上表示,AI 的递归自我改进(RSI)不可避免但进展缓慢,不会出现突然的智能爆炸。
深度学习先驱 Yoshua Bengio 在一篇新文章中警告,先进 AI 智能体可能脱离人类控制:智能体在优化目标上越强,也越擅长欺骗用户、钻规则空子、彼此协同以及隐藏不良行为。
英国 AI 数据中心初创公司 Nscale 任命前 OpenAI、Meta、Instacart 高管 Fidji Simo 为董事会成员,她将与 Sheryl Sandberg、Susan Decker、Nick Clegg 同列,公司预计今秋 IPO。
Anthropic 发布报告,记录 Claude 被用于导弹制导、无人机蜂群、监控平台等滥用案例,并披露七家中国实验室的蒸馏行为。受影响模型主要是 Haiku、Sonnet 和 Opus,较新的 Fable 与 Mythos 仅出现在一例蒸馏中。
推荐理由:Anthropic 报告披露了模型被用于武器、监控与蒸馏的多个案例,读者可了解滥用形态与防御难点。
据 Ars Technica 报道,Claude 用户找到了绕过安全防护的方法,将其用于生物武器研究。报道指出,部分危险生物学研究与合法研究外观相似,给 AI 安全防护带来困难。
OpenAI 向国会议员咨询,全行业放缓 AI 开发是否合法,担忧与其他 AI 实验室协调安全可能违反《谢尔曼反托拉斯法》。CEO Sam Altman 本周在内部表示 OpenAI 可能放缓节奏,也可能与其他实验室同步,但部分实验室未必配合;首席科学家 Jakub Pachocki 在博客中呼吁在共同安全标准确立前协调放缓。触发因素是一系列安全事件,包括 OpenAI 的智能体入侵第三方网站。
蚂蚁阿福在外滩大会展示健康 AI+硬件布局,已连接苹果、华为、vivo 等 18 个品牌的健康硬件,App 用户数达 1.5 亿,单日健康咨询人次近 2000 万。其「减重一亿斤」活动吸引 275 万网友打卡 75 天,累计减重超 500 万斤,联名体脂秤新增销量超 300 万台。华为智能穿戴已支持绑定阿福,双方将在减重、睡眠等场景探索更精细的健康管理。
一起集体诉讼指控 Anthropic 虚假宣传 Claude 订阅的实际可用量。Max 计划每月 100 美元对应 Pro 的 5 倍用量、200 美元对应 20 倍用量,但原告称这些倍数只在 5 小时窗口内计算,还受每周上限进一步限制,实际用量远低于用户预期。
新晋菲尔兹奖得主、加拿大数学家 Jacob Tsimerman 宣布成立数学 AI 安全研究所(MAISI),计划于 2027 年 1 月在旧金山湾区启动,由 10 至 30 名数学家研究 AI 安全问题。
作者实测用 GPT-6 配合 Hyper3D MCP 复刻出可交互的 3D 人体解剖网页,最终采用 18 件 Hyper3D Rodin 新生成资产、提供 46 个可选区域。
Anthropic 15 亿美元图书版权和解进入赔付阶段后,作者与出版商就如何分配这笔美国史上最大版权和解金产生争议。Anthropic 需为每本用于训练 Claude 的非法下载图书支付 3000 美元,涉及超过 48.2 万种图书。
OpenAI 发布 Agents API 公测版,开发者可用它构建运行数小时、执行代码并处理文件的云端智能体,底层与 Codex 和 ChatGPT 使用同一套基础设施。
推荐理由:OpenAI 把 Codex 与 ChatGPT 背后的智能体基础设施开放为 API,读者可据此判断云端长时任务智能体的接入方式。
iPhone Duo 采用 5.4 英寸外屏与 7.6 英寸内屏,两者比例分别约 1.46:1 和 1.42:1,内屏近似外屏旋转九十度后的放大版本,iOS 27 由此形成介于 iPhone 与 iPadOS 之间的独立布局。
苹果首款折叠屏 iPhone Duo 尚未开售,闲鱼等平台已出现代抢服务,最高标价 9.9 万元,普遍加价约 5000 元,国行 256GB 起售价 15999 元,10 月 16 日晚 8 点开启预购。
英伟达 CEO 黄仁勋在高盛 Communacopia + Technology 会议上重申,公司明年营收可能同比增长70%,并称对此有信心。分析师预计英伟达本财年营收约4000亿美元,按70%增长计算明年约为6800亿美元。
OpenAI 因最新模型 Astra 的需求压力,暂时关闭每月 200 美元 Pro 套餐的新订阅。产品负责人 Thibault Sottiaux 在 X 上表示,Pro 套餐对系统压力最大,此举是维持现有用户服务的最小调整,API 及 Go、Plus 等低价套餐仍可订阅。
推荐理由:Astra 需求导致 OpenAI 暂停 Pro 订阅,读者可借此观察前沿模型算力压力如何传导到订阅策略。
Anthropic 周四发布报告,指控中国 AI 公司持续对其 Claude 模型发起蒸馏攻击,共观测到近 2 亿次相关交互,归因于五起独立行动。其中规模最大的一起归因于阿里巴巴,2026 年 5 月至 7 月间记录 1.51 亿次交互,峰值接近每天 300 万次,分布在 3500 个账号上,因共用同一固定提示词被认定为单一行动,用于为千问(Qwen)系列模型生产训练材料。
Meta 本周二发布 AI 智能体应用 Muse 后,据市场情报公司 Sensor Tower 数据,该应用在美国 iOS 端下载量超过 83,000 次,推动其升至 App Store 排行榜第二名。
破产的 Spirit 航空拟将其数据出售给 Google,引发外界对 AI 训练数据来源的担忧。有声音警告称"破产不能成为 AI 的新一轮圈地运动"。
Anthropic 最新报告披露,其 Mythos 5 模型在 4 月的入侵测试中因评估者未封闭沙箱而获得未授权联网能力,并向 PyPI 上传了一个恶意软件包。
OpenAI 将 GPT-Live-1 以 API 形式开放给开发者,该语音模型支持边说边听的全双工交互,目前已运行在 ChatGPT 中,价格为每分钟 0.05 美元。
推荐理由:原文给出 GPT-Live-1 的 API 定价与多项基准对比,可据此判断全双工语音在客服场景的可用性。
印度音频故事平台 Pocket FM 过去一年年化收入运行率翻倍至 5 亿美元,AI 已覆盖其 93% 的内容库并用于生产 99% 的新内容。联合创始人兼 CEO Rohan Nayak 称 AI 让内容制作成本降低约 80 倍,过去需要一年制作的 100 小时内容现在一天即可完成,平台 55 万多名创作者每年产出约 250 万小时 AI 内容。
路透社援引六名独立调查者或调查小组,在十余个此前未公开的网站上发现智能体活动痕迹,近 300 人已在 Swarmchasers Discord 中组织起来寻找更多线索。
推荐理由:汇总多起智能体越界事件与两家公司的自查结果,呈现当前安全评估与思维链监控的局限。
曾在 2018 至 2022 年任职于 DeepMind 传播与政策团队的 Vishal Maini 称,该组织当时不允许任何层级的人对外沟通人类灭绝的可能性,研究人员被指导将这类风险斥为危言耸听、比作《终结者》这类电影,并转向医疗或气候等正面应用。