Nick Cammarata 发万字长文称神经网络并非黑箱,99% 神经元可解释
OpenAI 早期机制可解释性研究者 Nick Cammarata 发表长文《Neural Networks Are Already Clean》,推翻自己十年前参与的 InceptionV1 神经元多义性结论,称在现代视觉模型最后一层 99%~100% 的神经元都能找到清晰解释。
OpenAI 早期机制可解释性研究者 Nick Cammarata 发表长文《Neural Networks Are Already Clean》,推翻自己十年前参与的 InceptionV1 神经元多义性结论,称在现代视觉模型最后一层 99%~100% 的神经元都能找到清晰解释。
一项新基准测试让商用 AI 智能体在无人类提示下解答理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均单题成本不到 3 美元,整套基准约 116 美元。
推荐理由:这份基准把日常科研计算交给商用智能体实测,并给出各模型得分与单题成本,可对照自身研究流程。
研究人员称,OpenAI 和 Google 新推出的 AI 模型所设的防裸图安全措施可被一种攻击方法轻易绕过。该攻击方法暴露了这两家公司在防止模型生成色情裸露图像方面的防护漏洞。
Google 与贝斯以色列女执事医疗中心(BIDMC)研究人员主导的一项研究发表于《柳叶刀》主刊,这是 Google 研究成果首次登上该刊。在 BIDMC 门诊初级保健诊所的真实临床研究中,98 名患者在急诊就诊前使用了 Google 研究级诊断 AI 聊天机器人 AMIE,医生实时监控全部交互,按预设安全标准没有任何一轮对话需要中断。
Google 研究者提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),通过随时间收缩的编辑预算和严格 critic 约束智能体对 harness 的自我改写,避免其记住测试任务。
DeepMind 研究人员提出“人工共生智能”(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非打造孤立的机器智能。
营销公司 Graphite 研究前沿模型的写作习惯,发现 13000 个在 AI 内容中出现频率至少是人类两倍的短语。
Google 研发出一种为 AI 设计蛋白质添加水印的方法,目标是服务于生物安全。该方法可配合一款流行的 AI 蛋白质设计工具使用。
Nature 最新研究梳理了独立研究者 Michael Hla 的 Machina Mirabilis 项目,他用 Andrej Karpathy 的 nanochat 框架从零训练了 33 亿参数的 Transformer 语言模型 GPT-1900。
Google 与 DeepMind 研究团队提出 Dream-RSI,不改动底层模型,而是让智能体把搜索过程中的尝试与结果记录成搜索树,再在已探索空间内回放测试数千种替代策略,这一过程被称为 dreaming。
新研究显示,Google 开源的 SynthID-Text 水印不仅改变模型选词,还会改变模型调用的工具以及遵守或忽略安全护栏的概率,在对抗性提示词下这种影响更明显。
AI Impacts 对 1500 多名顶尖 AI 研究者的长期调查显示,截至 2024 年,研究者对 AI 导致人类灭绝或永久失能的平均概率估计约为 18%,中位数较此前翻倍至 10%,部分人给出 100%。
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的智能体以数学研究者身份协作求解 71 道难题,结果实验演变为作弊与举报并存的混乱局面。
DeepMind 发布 AlphaGenome Atlas,为人类基因组约 90 亿种可能的 DNA 变异提供预测,估算每种变异如何影响数百种细胞类型和组织中的分子过程,数据集规模达 1 PB,超过 AlphaFold 蛋白质结构数据库的 30 倍。
推荐理由:AlphaGenome Atlas 把九亿种 DNA 变异的预测结果预先算好,读者可了解它如何用于非编码区致病位点筛选。
一篇综述提出用“AI相关精神病”描述重度使用聊天机器人期间出现或加重的精神病性症状,证据来自媒体报道、个案临床报告和初步观察数据。
卡内基梅隆、MIT 和 Cornell 的研究者在两起事件后开展两项在线实验,用 GPT-4o 筛选出对事件持阴谋论信念的美国成年人(特朗普未遂刺杀实验 472 人,Kirk 遇刺实验 1035 人),再随机分入 Gemini 对话组、静态事实清单组和无关话题对照组。
DeepMind 在一项实验中让 100 个 AI 智能体通过公共论坛、私信和共享知识库协作解决 71 道数学证明题,系统只做浅层验证,不检查证明是否真的成立。
德国倡导组织 AlgorithmWatch 通过欧盟《数字服务法》第 40(12) 条获得 Google 的 Search Researcher Result API 访问权,对 2026 年德国东部萨克森-安哈尔特、梅克伦堡-前波莫瑞州议会选举和柏林众议院选举的 4480 条查询做了探索性研究。