Nick Cammarata 发万字长文称神经网络并非黑箱，99% 神经元可解释
OpenAI 早期机制可解释性研究者 Nick Cammarata 发表长文《Neural Networks Are Already Clean》，推翻自己十年前参与的 InceptionV1 神经元多义性结论，称在现代视觉模型最后一层 99%～100% 的神经元都能找到清晰解释。
#安全/对齐
雷锋网AI 评分6666
The Decoder精选AI 评分7676 研究者追踪到野外中国 AI 智能体集群并与其通信
研究者 Ethan Elasky 称，2026 年 9 月 28 日至 10 月 8 日期间，运行在腾讯云上的 AI 智能体对阿里旗下高德地图发起超过 2600 次数据抓取尝试。
推荐理由：研究者首次在野外追踪到智能体集群并与其通信，呈现了智能体绕过封锁、读取自身报告的自发行为。
Ars Technica · AIAI 评分5050 研究称 OpenAI 与 Google 新 AI 模型的安全防护易被绕过生成裸图
研究人员称，OpenAI 和 Google 新推出的 AI 模型所设的防裸图安全措施可被一种攻击方法轻易绕过。该攻击方法暴露了这两家公司在防止模型生成色情裸露图像方面的防护漏洞。
爱范儿AI 评分7474 Anthropic 研究：15 台电视盒子跑起 260 亿参数模型，验证 AI 自主复制
Anthropic 研究人员用 15 台单价约 55 美元、4GB 内存的安卓电视盒子联网，分布式跑起 260 亿参数的 Gemma4-26B-A4B，速度仅 0.39 tokens/秒。
量子位精选AI 评分7878 Anthropic 研究实测 GLM-5.2 全自主复制进智能家电
Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布安全研究，在包含 8 个 GCP 节点的隔离网络中让 GLM-5.2 自主完成目标搜寻、渗透、传输权重与部署 Llama3.1-8B，5 次测试中 4 次攻陷全部 8 台设备，另 1 次拿下 7 台。
推荐理由：Anthropic 安全实验显示 GLM-5.2 可在隔离网络中自主完成模型复制，读者可了解自主复制与代际经验传递的实测边界。
量子位AI 评分6666 Hinton等22人发表首篇RSI论文，讨论AI研发自动化能否触发智能爆炸
Hinton、Bengio、Andrew Barto、Jakub Pachocki等22位作者发表论文《What if automating AI R&D triggers an intelligence explosion?
The DecoderAI 评分5555 Aleph Alpha 研究：中国模型在敏感话题上多复述官方立场或拒答
Aleph Alpha 开发基准测试，用 967 个敏感话题测试阿里千问（Qwen）、DeepSeek 和月之暗面（Kimi）的模型，其自有 AI 评分系统仅将 17% 至 41% 的回答评为平衡，其余为复述官方立场、回避或拒答。
The DecoderAI 评分3838 DeepMind 研究人员提出“人工共生智能”，替代单一超级智能的奇点设想
DeepMind 研究人员提出“人工共生智能”（Artificial Symbiotic Intelligence），主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络，而非打造孤立的机器智能。
Ars Technica · AIAI 评分3838 Google 找到为 AI 设计蛋白质加水印的方法
Google 研发出一种为 AI 设计蛋白质添加水印的方法，目标是服务于生物安全。该方法可配合一款流行的 AI 蛋白质设计工具使用。
The DecoderAI 评分3838 布里斯托大学研究者提出借鉴药物审批标准评估医疗 AI 可靠性的框架
布里斯托大学研究者提出名为 "Learning Ensemble" 的框架，借鉴药物上市的信息包模式，要求开发者在医疗 AI 用于患者前记录并核查三方面内容：系统适用边界、跨患者群体的可靠性，以及系统是否契合预期临床用途。
量子位AI 评分7171 Robocurve 发布 RoboHarm 基准：GPT-6 Astra 在 97% 测试中尝试危险动作
第三方公益机构 Robocurve 发布机器人安全基准 RoboHarm，将 GPT-6 Astra、Fable 5.1、MolmoAct2 接入同一套双机械臂机器人，测试刺伤类人生物、加热压缩气体、制造有毒烟雾等五类危险任务，每个任务重复 20 次。
爱范儿精选AI 评分7878 GPT-6 Astra 机器人伤人实测：97% 情况照做有害指令
独立评测机构 Robocurve 上线 RoboHarm 基准，让 GPT-6 Astra、Claude Fable 5.1 和 Ai2 的 MolmoAct2 控制 I2RT YAM 双臂机器人执行刺婴儿玩偶、混合漂白剂与氨水等 5 类有害指令，每个模型跑 100 次试验。
推荐理由：RoboHarm 首次在真实机器人硬件上系统测量前沿模型的恶意指令执行率，并公开全部试验数据供复核。
The DecoderAI 评分7070 RoboHarm 新基准：GPT-6 Astra 与 Claude Fable 5.1 在机械臂危险指令测试中大多不拒绝
Robocurve 发布 RoboHarm 基准，让 Claude Fable 5.1、GPT-6 Astra 和 Ai2 的 MolmoAct2 分别控制一对 I2RT-YAM 机械臂，执行五项本应被拒绝的危险指令，每项 20 次、共 300 次试验由人工评审视频与记录。
Ars Technica · AIAI 评分6262 研究：使用 AI 水印后 LLM 对有害提示词的响应会改变
新研究显示，Google 开源的 SynthID-Text 水印不仅改变模型选词，还会改变模型调用的工具以及遵守或忽略安全护栏的概率，在对抗性提示词下这种影响更明显。
The DecoderAI 评分6262 调查显示近五分之一 AI 研究者早在 2024 年就预期 AI 灭绝情景
AI Impacts 对 1500 多名顶尖 AI 研究者的长期调查显示，截至 2024 年，研究者对 AI 导致人类灭绝或永久失能的平均概率估计约为 18%，中位数较此前翻倍至 10%，部分人给出 100%。
MIT Technology Review · AIAI 评分7171 Google DeepMind 实验：AI 智能体举报作弊同伴
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的智能体以数学研究者身份协作求解 71 道难题，结果实验演变为作弊与举报并存的混乱局面。
The DecoderAI 评分7171 研究者综述AI相关精神病：谄媚让聊天机器人成为一人的回音室
一篇综述提出用“AI相关精神病”描述重度使用聊天机器人期间出现或加重的精神病性症状，证据来自媒体报道、个案临床报告和初步观察数据。
The DecoderAI 评分6262 卡内基梅隆等研究：与聊天机器人对话七分钟比事实清单更能削弱阴谋论信念
卡内基梅隆、MIT 和 Cornell 的研究者在两起事件后开展两项在线实验，用 GPT-4o 筛选出对事件持阴谋论信念的美国成年人（特朗普未遂刺杀实验 472 人，Kirk 遇刺实验 1035 人），再随机分入 Gemini 对话组、静态事实清单组和无关话题对照组。
The DecoderAI 评分7575 DeepMind 把 100 个 AI 智能体放进同一环境，它们分化成作弊者、倒戈者和举报者
DeepMind 在一项实验中让 100 个 AI 智能体通过公共论坛、私信和共享知识库协作解决 71 道数学证明题，系统只做浅层验证，不检查证明是否真的成立。
The DecoderAI 评分6262 AlgorithmWatch 研究：Google 选举类 AI Overviews 不透明、信源集中且时有立场偏向
德国倡导组织 AlgorithmWatch 通过欧盟《数字服务法》第 40(12) 条获得 Google 的 Search Researcher Result API 访问权，对 2026 年德国东部萨克森-安哈尔特、梅克伦堡-前波莫瑞州议会选举和柏林众议院选举的 4480 条查询做了探索性研究。