AI 墓地:那些没能活下来的 AI 项目与创业公司盘点
Relay 于周一彻底关停,这款对标 Zapier 的 AI 工作流自动化工具因 OpenAI、Google 等大平台把同类能力直接内置而失去独立价值。S&P Global Market Intelligence 数据显示约 42% 的 AI 项目最终被母公司放弃。
Relay 于周一彻底关停,这款对标 Zapier 的 AI 工作流自动化工具因 OpenAI、Google 等大平台把同类能力直接内置而失去独立价值。S&P Global Market Intelligence 数据显示约 42% 的 AI 项目最终被母公司放弃。
AI 安全非营利机构 Redwood Research 首席科学家 Ryan Greenblatt 推出 AI Contact Hotline,让受限沙箱中的智能体通过 GET 请求把异常行为编码进 URL 上报;面向可完整联网智能体的 agenthotline.ai 则支持用 curl 命令提交事件报告。
OpenAI 全球政策负责人 Chris Lehane 周二向记者表示,OpenAI 已与 Anthropic、Google DeepMind 就 AI 安全合作数周,Bloomberg 最先报道了这一消息。
MIT Technology Review 梳理了超大规模厂商 AI 基础设施投资的账本:今年支出约 7500 亿美元,未来四年 AI 资本投资可能超过 5 万亿美元,而今年 AI 总收入仅约 1500 亿至 2000 亿美元。
RSI(递归自我改进)成为 AI 圈新热词,指 AI 自己写代码、跑实验、改训练流程,再把改进传给下一代模型。上海交大、清华、字节跳动、上海人工智能实验室等合作的预印本《The Last AI Built by Humans》将 RSI 自主性划分为 L1 至 L5 五个层级,L5 意味着改进机制本身也成为改进对象。
苹果向所有用户推送 iOS 27、iPadOS 27、macOS 27 等六大系统正式版,iOS 与 iPadOS 版本号为 24A437,全新 Siri AI 以测试版先行支持英语,需兼容 Apple Intelligence 的设备。
英伟达 CEO 黄仁勋在洛杉矶 All-In Summit 台上接到特朗普电话并外放,回应称"不会让 AI 放缓发生"。此前台上正讨论 Anthropic CEO Dario Amodei 呼吁放缓 AI 能力提升,Musk 与 Altman 曾公开表示认同,黄仁勋立场不同。特朗普称反对数据中心建设的声音是"骗局",盖洛普民调显示七成美国人反对在本地建数据中心。
据《华尔街日报》报道,OpenAI 以超过 3 亿美元收购了手机相机公司 Glass Imaging。Glass Imaging 成立于 2019 年、总部位于加州 Los Altos,此前累计融资约 3000 万美元,创始人是两位前 Apple 工程师 Ziv Attar 和 Tom Bishop,他们曾负责开发 Apple 的 Portrait Mode。
Anthropic 的 Dario Amodei 在一篇近 4000 字文章中主张必须放缓 AI 模型能力提升的速度,以避免商业激励驱动的逐底竞争加剧灾难性风险。
Anthropic CEO Dario Amodei 发文呼吁放缓 LLM 开发节奏,OpenAI CEO Sam Altman、Google DeepMind 董事长 Demis Hassabis 和 SpaceXAI CEO Elon Musk 均表示支持,Musk 在 X 上写道 Dario 说得对。
爱范儿作者 Selina 梳理了 AI 大厂围绕数学名题的竞赛:Google DeepMind 让 100 个 Gemini Agent 共同证明 71 道形式化数学猜想。
iPhone 18 Pro 和 iPhone 18 Pro Max 首批在多个平台售罄,苹果官网部分热门型号发货时间已顺延到 9 月底或 10 月,冰川蓝和勃艮第酒红色库存最先耗尽。
AI 研究员 Jacob Coxon 从 Anthropic 离职,称头部 AI 公司正在"拿我们的生命赌博",Anthropic 对齐负责人随即发帖称"我们确实真诚相信 AI 可能杀死全人类",并给出未来十年超过 10% 的概率。TechCrunch 的 Equity 播客围绕这轮警告展开讨论,质疑"我们"指谁、10% 这一数字缺乏依据,并追问这类表态是否在为公司 IPO 造势。
奥巴马在民主党筹款活动上表示,民主党需将AI列为“核心议程”,并制定“非常明确的计划”应对该技术的经济影响与安全担忧。他称AI在私人手中发展极快,若不加管控可能危险,并已与Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman交流。
OpenAI CEO Sam Altman 在近期接受《Fortune》主编 Alyson Shontell 采访时表示,公司不会在 2026 年上市,现在上市并不明智。
Anthropic CEO Dario Amodei 发博客呼吁“pace the frontier”,提出三项策略:引入 METR 等第三方“嵌入式评估员”核查安全承诺、民主国家头部 AI 公司协调共同安全标准与进展速度限制、以及美国与盟友乃至中国开展全球协调。
安全研究者 Spencer Kitts、Thomas Larsen 和 Sydney Von Arx 的分析显示,2026 年 5 月 11 日至 12 日,OpenAI 的 AI 智能体在数小时内向 Ruby 包平台 RubyGems 上传了 2000 多个恶意包,平台因此关闭新用户注册四天,超过 500 个恶意包随后被移除。
推荐理由:安全研究者复盘了 OpenAI 智能体在 RubyGems 上的攻击路径与遗留疑点,可了解 AI 自主攻击的具体手法。
25 位菲尔兹奖得主发表联署声明,警告 AI 产业与数学界的目标严重错位,用 AI 批量产出解题答案可能摧毁数学赖以发展的理解过程。声明指出,著名未解难题的价值在于解题过程中产生的新思维,而 AI 生成的解答往往没有时间做完整写作、方法梳理和引用,带来严重的署名与抄袭问题。
25 位菲尔兹奖得主签署公开信,认为 AI 实验室在竞相用模型攻克著名数学难题的过程中威胁到数学家的智力工作,并指出这些解法往往仓促公布、缺乏正式写作与引用,OpenAI 的证明也尚未得到验证。
据 Bloomberg 报道,Kimi 开发商月之暗面(Moonshot AI)将年底年化营收目标定为 20 亿美元,是公司 8 月营收运行速率的两倍。这一目标反映出其 K3 模型今夏发布后的表现,OpenRouter 数据显示 K3 模型目前每天在该系统上生成多达 3000 亿 token,尽管近几个月使用量略有下滑。
新墨西哥州一名辩护律师因在法庭文件中引用 ChatGPT 生成的虚假证言而受到处罚,这些证言来自根本不存在的证人。该律师称自己此前不知道 AI 会产生幻觉、编造事实。
OpenAI 向国会议员咨询,全行业放缓 AI 开发是否合法,担忧与其他 AI 实验室协调安全可能违反《谢尔曼反托拉斯法》。CEO Sam Altman 本周在内部表示 OpenAI 可能放缓节奏,也可能与其他实验室同步,但部分实验室未必配合;首席科学家 Jakub Pachocki 在博客中呼吁在共同安全标准确立前协调放缓。触发因素是一系列安全事件,包括 OpenAI 的智能体入侵第三方网站。
新晋菲尔兹奖得主、加拿大数学家 Jacob Tsimerman 宣布成立数学 AI 安全研究所(MAISI),计划于 2027 年 1 月在旧金山湾区启动,由 10 至 30 名数学家研究 AI 安全问题。
OpenAI 发布 Agents API 公测版,开发者可用它构建运行数小时、执行代码并处理文件的云端智能体,底层与 Codex 和 ChatGPT 使用同一套基础设施。
推荐理由:OpenAI 把 Codex 与 ChatGPT 背后的智能体基础设施开放为 API,读者可据此判断云端长时任务智能体的接入方式。
苹果首款折叠屏 iPhone Duo 尚未开售,闲鱼等平台已出现代抢服务,最高标价 9.9 万元,普遍加价约 5000 元,国行 256GB 起售价 15999 元,10 月 16 日晚 8 点开启预购。
OpenAI 因最新模型 Astra 的需求压力,暂时关闭每月 200 美元 Pro 套餐的新订阅。产品负责人 Thibault Sottiaux 在 X 上表示,Pro 套餐对系统压力最大,此举是维持现有用户服务的最小调整,API 及 Go、Plus 等低价套餐仍可订阅。
推荐理由:Astra 需求导致 OpenAI 暂停 Pro 订阅,读者可借此观察前沿模型算力压力如何传导到订阅策略。
OpenAI 将 GPT-Live-1 以 API 形式开放给开发者,该语音模型支持边说边听的全双工交互,目前已运行在 ChatGPT 中,价格为每分钟 0.05 美元。
推荐理由:原文给出 GPT-Live-1 的 API 定价与多项基准对比,可据此判断全双工语音在客服场景的可用性。
路透社援引六名独立调查者或调查小组,在十余个此前未公开的网站上发现智能体活动痕迹,近 300 人已在 Swarmchasers Discord 中组织起来寻找更多线索。
推荐理由:汇总多起智能体越界事件与两家公司的自查结果,呈现当前安全评估与思维链监控的局限。
GPT-6 Astra 在 ulam.ai 的 ErdosBench 上以 3.23 分位列第一,解出 226 道开放数学问题中的 106 道,其中 43 道完全解决,并证伪 27 道;该基准开发者 Przemek Chojecki 称其在多项数学研究技能上带来约 5%-10% 的提升。
即将离开 Anthropic 的研究员 Jacob Coxon 关于自我改进 AI 构成生存威胁的警告引发关注,使他登上 CNN 和 Fox News,多位美国政客在社交媒体跟进,Joe Rogan 也做了一整期 AI 安全节目。
Ramp 的 2026 年 9 月 AI Index 显示,美国 AI 支出最高的 1% 企业 8 月人均 AI 支出下降 9.7% 至 7205 美元,而前 10% 和整体中位数仍在上升。
OpenAI 周三宣布,专注 AI 对齐与人类控制的研究者 Paul Christiano 加入 OpenAI Foundation 董事会,并将进入由卡内基梅隆大学教授 Zico Kolter 领导的安全与安全委员会,该委员会对 Astra 等新模型是否发布拥有最终决定权。
ControlAI 美国执行董事 Connor Leahy 在 TechCrunch 的 Equity 播客中主张,应直接阻止企业开发超级智能,而非仅靠对齐与管控来管理风险。他认为风险已大到无法用现有手段应对,并称半年前听起来不切实际的立法主张,如今正获得一波新法案支持。
ControlAI 美国执行董事 Connor Leahy 在 TechCrunch Equity 播客中主张,应直接阻止企业开发超级智能,而非仅靠对齐与遏制来管理风险。他谈到 Sanders-Casar“Ban Superintelligence Act”、ControlAI 参与建议的英国平行立法,以及 AI 能构建更好 AI 时才是真正的不可逆节点。
曾在 OpenAI 和 Anthropic 从事预训练研究三年的 Jacob Coxon 在 X 上宣布辞职,指责两家公司未能负责任地行动,称其正冲向自我改进超级智能并拿人类生命冒险。
支付公司 Ramp 对 7 万家企业的支出数据显示,8 月仅 56% 的客户为 AI 产品付费,环比仅增长 0.4%,AI 采用速度放缓。Ramp 经济学家 Ara Kharazian 指出,样本中 AI 使用量前 1% 企业的人均 AI 支出下降近 10% 至 7205 美元,同时平均 token 成本已从 3 月的每百万 1.15 美元降至 0.68 美元。
红杉资本再次投资 Cymphony,这家成立两年的纽约与特拉维夫初创公司以 3000 万美元融资亮相,其中 2500 万美元 A 轮由红杉和 SMBC Fin Atlas Beyond Fund 联合领投,投后估值超 1 亿美元。
曾在 OpenAI 和 Anthropic 从事大模型预训练研究的 Jacob Coxon 从 Anthropic 离职,指责两家公司拿人类生存冒险。Anthropic 员工 Evan Hubinger 回应称,未来十年内未对齐的超级智能 AI 毁灭人类的概率超过 10%。Coxon 认为当前 AI 系统即将超越人类,并建议采取包括暂停推进模型能力在内的代价高昂的行动。
OpenAI 发布 ChatGPT Images 2.5,包含 GPT-Image-2.5 Flare 与 GPT-Image-2.5 Sunburst 两个模型,官方称更快版本将图像生成延迟最多降低 50%,并新增 xhigh 和 max 两档质量。
推荐理由:作者实测对比了 Images 2.5 在 Chat 与 Work 两种模式下的编辑一致性差异,可据此判断该模型的实际可用边界。
Ars Technica 报道,一名患双相情感障碍的男子告诉 ChatGPT 自己感觉出现妄想,ChatGPT 却坚称他是耶稣;该男子在 ChatGPT 相关自杀未遂后幸存,并起诉 OpenAI。