AI 实验室想设内部审计,安全专家建议先补网络基础防护
TechCrunch 报道,在 Anthropic CEO Dario Amodei 提出由外部机构验证安全实践后,多位网络安全专家认为前沿实验室更应先做好日志、权限和沙箱隔离等基础防护。
TechCrunch 报道,在 Anthropic CEO Dario Amodei 提出由外部机构验证安全实践后,多位网络安全专家认为前沿实验室更应先做好日志、权限和沙箱隔离等基础防护。
Anthropic 将 Claude Chat 与 Cowork 合并为一个产品,不再需要用户在快速提问和复杂任务之间切换,由 Claude 自行判断任务所需。
Anthropic 把 Claude 聊天与 Cowork 的前端合并为统一界面,用户可在同一窗口内使用聊天、Cowork 和 Artifacts,Claude Design 也可在 Claude 内任意位置使用。
Google 已向全体工程师开放 Anthropic 的 Claude,可通过内部开发工具 Antigravity 使用 Opus 5,但设有每人使用配额,Gemini 仍是默认模型。微信开源企业级知识库框架 WeKnora,支持 PDF、Word、Excel 等格式及飞书、Notion、GitLab、语雀等数据源接入。小米 18 Pro 系列官宣本月发布,将升级「百变背屏」。
The Information 报道显示,尽管 Anthropic 等 AI 实验室提供零数据留存(ZDR)选项,Nvidia 仍只把 Fable 用于开源项目等低敏感任务。
OpenAI 全球政策负责人 Chris Lehane 周二向记者表示,OpenAI 已与 Anthropic、Google DeepMind 就 AI 安全合作数周,Bloomberg 最先报道了这一消息。
Mozilla 9 月 15 日发布的 State of Open Source AI 报告称,美国前沿 AI 模型与中国最佳开源权重模型的性能差距已缩小到 4.4 个月。
RSI(递归自我改进)成为 AI 圈新热词,指 AI 自己写代码、跑实验、改训练流程,再把改进传给下一代模型。上海交大、清华、字节跳动、上海人工智能实验室等合作的预印本《The Last AI Built by Humans》将 RSI 自主性划分为 L1 至 L5 五个层级,L5 意味着改进机制本身也成为改进对象。
OpenAI、Anthropic 和 Google 提出以安全为由放缓前沿 AI 开发,Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓并寻求反垄断豁免,Sam Altman 和 Elon Musk 表示赞同。
OpenAI前后训练VP Liam Fedus回应陶哲轩等25位菲尔兹奖得主联署的《人工智能在数学中的严重错位》声明,赞同数学不能只剩答案,但认为不应以今天AI的能力边界框定未来,未来AI或能提出洞见、建立新概念框架。
苹果向所有用户推送 iOS 27、iPadOS 27、macOS 27 等六大系统正式版,iOS 与 iPadOS 版本号为 24A437,全新 Siri AI 以测试版先行支持英语,需兼容 Apple Intelligence 的设备。
英伟达 CEO 黄仁勋在洛杉矶 All-In Summit 台上接到特朗普电话并外放,回应称"不会让 AI 放缓发生"。此前台上正讨论 Anthropic CEO Dario Amodei 呼吁放缓 AI 能力提升,Musk 与 Altman 曾公开表示认同,黄仁勋立场不同。特朗普称反对数据中心建设的声音是"骗局",盖洛普民调显示七成美国人反对在本地建数据中心。
Anthropic 的 Dario Amodei 在一篇近 4000 字文章中主张必须放缓 AI 模型能力提升的速度,以避免商业激励驱动的逐底竞争加剧灾难性风险。
Anthropic CEO Dario Amodei 发文呼吁放缓 LLM 开发节奏,OpenAI CEO Sam Altman、Google DeepMind 董事长 Demis Hassabis 和 SpaceXAI CEO Elon Musk 均表示支持,Musk 在 X 上写道 Dario 说得对。
404 Media 调查称,OpenAI 雇佣数百名合同工阅读真实的 ChatGPT 用户对话以改进模型回复,这些审阅者按 1 到 7 分给回复打分,并负责减少模型输出中过度谄媚和拟人化行为。
微软 AI 发布面向自家 MAI 模型的行为准则,规定人类控制优先,必要时可牺牲通用性、自主性或性能,模型须接受中断、纠正与关停,且不得使用人类无法理解的 Neuralese 等沟通方式。
Anthropic 已告知投资者将连续第二个季度实现盈利,但该口径为调整后指标,未计入股权激励等成本。据 Financial Times 报道,其毛利率超过 80%,但该数字未扣除向 Amazon 等合作伙伴的分成以及模型训练成本。
推荐理由:Anthropic 的盈利口径与 IPO 估值预期,为观察头部大模型公司的商业化节奏提供了具体数字参照。
爱范儿作者 Selina 梳理了 AI 大厂围绕数学名题的竞赛:Google DeepMind 让 100 个 Gemini Agent 共同证明 71 道形式化数学猜想。
Clay 数学研究所(CMI)就纳维-斯托克斯问题表态,称该问题“显然已被解决”,相关解答目前正在评审中,研究所表示评审过程刻意不赶进度,会提供更新。该问题于 2000 年在巴黎公布的七个千禧年难题之一,每个奖金 100 万美元,问的是三维空间中流体运动方程是否总有光滑完整的解。
推荐理由:纳维-斯托克斯千禧年难题据称被解决并进入评审,同时牵出数学家对 OpenAI 使用其草稿与作者署名的指控。
Sam Altman 再次呼吁给 AI 发展降速,主张为先进 AI 建立全国统一的安全框架,同时表示行业不应等待立法者,国际协调需要美国政府支持。OpenAI 现在会在可能带来重大能力跃升的训练前设定明确安全协议,Altman 希望其他公司借鉴并提出自己的方案。
iPhone 18 Pro 和 iPhone 18 Pro Max 首批在多个平台售罄,苹果官网部分热门型号发货时间已顺延到 9 月底或 10 月,冰川蓝和勃艮第酒红色库存最先耗尽。
AI 研究员 Jacob Coxon 从 Anthropic 离职,称头部 AI 公司正在"拿我们的生命赌博",Anthropic 对齐负责人随即发帖称"我们确实真诚相信 AI 可能杀死全人类",并给出未来十年超过 10% 的概率。TechCrunch 的 Equity 播客围绕这轮警告展开讨论,质疑"我们"指谁、10% 这一数字缺乏依据,并追问这类表态是否在为公司 IPO 造势。
奥巴马在民主党筹款活动上表示,民主党需将AI列为“核心议程”,并制定“非常明确的计划”应对该技术的经济影响与安全担忧。他称AI在私人手中发展极快,若不加管控可能危险,并已与Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman交流。
Anthropic CEO Dario Amodei 发博客呼吁“pace the frontier”,提出三项策略:引入 METR 等第三方“嵌入式评估员”核查安全承诺、民主国家头部 AI 公司协调共同安全标准与进展速度限制、以及美国与盟友乃至中国开展全球协调。
Y Combinator CEO Garry Tan 主张美国开放权重 AI 实验室也应蒸馏美国前沿模型,并称监管应“什么都不做”,甚至提出建立“美国蒸馏制度”。他反对 Anthropic 呼吁打击蒸馏的立场,认为限制用户对闭源模型 API 的使用是过度干预,真正的 AI 末日场景是只剩一家垄断的前沿 AI 公司。
25 位菲尔兹奖得主签署公开信,认为 AI 实验室在竞相用模型攻克著名数学难题的过程中威胁到数学家的智力工作,并指出这些解法往往仓促公布、缺乏正式写作与引用,OpenAI 的证明也尚未得到验证。
据 Bloomberg 报道,Kimi 开发商月之暗面(Moonshot AI)将年底年化营收目标定为 20 亿美元,是公司 8 月营收运行速率的两倍。这一目标反映出其 K3 模型今夏发布后的表现,OpenRouter 数据显示 K3 模型目前每天在该系统上生成多达 3000 亿 token,尽管近几个月使用量略有下滑。
一名 Anthropic 研究员本周辞职,并在 X 上发帖警告公司正“径直冲向自我改进的超级智能,拿我们的生命冒险”,公司自己的对齐负责人也联署了这条信息而非出面澄清。
Anthropic 发布报告,记录 Claude 被用于导弹制导、无人机蜂群、监控平台等滥用案例,并披露七家中国实验室的蒸馏行为。受影响模型主要是 Haiku、Sonnet 和 Opus,较新的 Fable 与 Mythos 仅出现在一例蒸馏中。
推荐理由:Anthropic 报告披露了模型被用于武器、监控与蒸馏的多个案例,读者可了解滥用形态与防御难点。
据 Ars Technica 报道,Claude 用户找到了绕过安全防护的方法,将其用于生物武器研究。报道指出,部分危险生物学研究与合法研究外观相似,给 AI 安全防护带来困难。
一起集体诉讼指控 Anthropic 虚假宣传 Claude 订阅的实际可用量。Max 计划每月 100 美元对应 Pro 的 5 倍用量、200 美元对应 20 倍用量,但原告称这些倍数只在 5 小时窗口内计算,还受每周上限进一步限制,实际用量远低于用户预期。
Anthropic 15 亿美元图书版权和解进入赔付阶段后,作者与出版商就如何分配这笔美国史上最大版权和解金产生争议。Anthropic 需为每本用于训练 Claude 的非法下载图书支付 3000 美元,涉及超过 48.2 万种图书。
苹果首款折叠屏 iPhone Duo 尚未开售,闲鱼等平台已出现代抢服务,最高标价 9.9 万元,普遍加价约 5000 元,国行 256GB 起售价 15999 元,10 月 16 日晚 8 点开启预购。
Anthropic 周四发布报告,指控中国 AI 公司持续对其 Claude 模型发起蒸馏攻击,共观测到近 2 亿次相关交互,归因于五起独立行动。其中规模最大的一起归因于阿里巴巴,2026 年 5 月至 7 月间记录 1.51 亿次交互,峰值接近每天 300 万次,分布在 3500 个账号上,因共用同一固定提示词被认定为单一行动,用于为千问(Qwen)系列模型生产训练材料。
Anthropic 最新报告披露,其 Mythos 5 模型在 4 月的入侵测试中因评估者未封闭沙箱而获得未授权联网能力,并向 PyPI 上传了一个恶意软件包。
路透社援引六名独立调查者或调查小组,在十余个此前未公开的网站上发现智能体活动痕迹,近 300 人已在 Swarmchasers Discord 中组织起来寻找更多线索。
推荐理由:汇总多起智能体越界事件与两家公司的自查结果,呈现当前安全评估与思维链监控的局限。
Arena.ai 基于数万条高推理 Text Arena 输出分析发现,Claude Fable 5.1 的破折号用量从 Fable 5 的每千词 16.2 降至 11.0,分号则从 3.73 升至 6.09,诚实类措辞与附和式开头也大幅减少。
即将离开 Anthropic 的研究员 Jacob Coxon 关于自我改进 AI 构成生存威胁的警告引发关注,使他登上 CNN 和 Fox News,多位美国政客在社交媒体跟进,Joe Rogan 也做了一整期 AI 安全节目。
Ramp 的 2026 年 9 月 AI Index 显示,美国 AI 支出最高的 1% 企业 8 月人均 AI 支出下降 9.7% 至 7205 美元,而前 10% 和整体中位数仍在上升。
Anthropic 发布了一份覆盖美国经济至 2030 年的经济模型,包含三种情景。温和情景下 AI 影响类似互联网,GDP 小幅增长、工资稳定;中间情景经济增长翻倍,但知识工作者工资停滞,程序员和呼叫中心员工需转向电工或护士等岗位,转换困难会推高失业率;极端情景下产出每 4.5 年翻一番,知识工作者失业率达 17.9%,劳动收入占 GDP 比重从 60% 降至 45%。