MIT Technology Review:我们对AI说“不”的能力寄予了过多信任
MIT Technology Review 刊文指出,AI 的拒答能力已成为 AI 安全的核心机制,但它建立在概率统计之上,既可能被越狱绕过,也可能被用于压制合法言论。
MIT Technology Review 刊文指出,AI 的拒答能力已成为 AI 安全的核心机制,但它建立在概率统计之上,既可能被越狱绕过,也可能被用于压制合法言论。
苹果宣布将于 10 月 13 日在纽约举办主题为 Welcome home. 的 Apple Experience 活动,预计集中更新家庭产品线。
Google 与贝斯以色列女执事医疗中心(BIDMC)研究人员主导的一项研究发表于《柳叶刀》主刊,这是 Google 研究成果首次登上该刊。在 BIDMC 门诊初级保健诊所的真实临床研究中,98 名患者在急诊就诊前使用了 Google 研究级诊断 AI 聊天机器人 AMIE,医生实时监控全部交互,按预设安全标准没有任何一轮对话需要中断。
Google Cloud 发布《Welcome to Gemini at Work 2026》,推出通用办公 Agent Gemini Agent,可查资料、写邮件、做 PPT、分析数据、编写运行代码并跨应用调用工具。
推荐理由:谷歌把办公 Agent 的模型选择、企业身份与四类记忆机制一并公开,可对照 Meta、OpenAI 的路线差异。
Google 在 Google Cloud 活动上宣布为 Gemini 推出统一智能体,可在单一界面内回答问题并代为完成任务,初期面向企业客户,之后再推向消费者。
Google 发布会议记录应用 Google AI Edge Foresight,对标 Granola,可在 Mac 上完全离线运行,使用 7.4 亿参数的端侧 EmbeddingGemma 2 模型跨应用捕捉会议内容,包括线下会议。
MIT 科技评论与 Aventine 合作的文章指出,尽管马斯克称 Optimus 可能成为史上最大产品并预测 2027 年底前向公众发售,黄仁勋称人形机器人今年将达到人类水平能力,但许多机器人研究者对此持怀疑态度。
扎克伯格与 Priscilla Chan 支持的非营利机构 Biohub 正协调一项 18 亿美元的计划,目标是训练能预测细胞行为的 AI 模型,以加速药物研发。
Google 将 SynthID Detector 开放给公众,任何人都可以检查图片、视频或音频是否由 Google 及其合作伙伴的 AI 生成。该工具可识别 Gemini、Veo、Lyria 等模型嵌入的隐形水印,支持 JPG、PNG、MP4 和 MP3 格式。
Google 发布浏览器端 AI 平台 Playground,美国成年用户无需编程,仅用文字输入即可创建游戏,并通过与 AI 来回对话调整规则、物理、角色和环境,随后即时测试。
Google Labs 推出 AI 游戏创作平台 Playground,用户用简单文本提示即可构建浏览器游戏,无需编程经验。用户可选择问答、竞速等类型,指定 2D 或 3D、单人或多人,并描述玩法机制与视觉风格,还可上传素材由 AI 转化为游戏资产。
Google 宣布其 SynthID 检测器现已支持所有合作方嵌入的水印,并上线独立网站 SynthID.com 供任何人使用。此前非 Google 受信任测试者只能通过询问 Gemini 来检测水印,且检测器只识别 Google 自家的 SynthID,ChatGPT 等合作方图像即使带有 SynthID 也不会被标记。
Google 于周二上线新网站,任何人都可以验证图像、视频或音频是否由 AI 生成。该工具此前在 Google I/O 上仅向部分记者、媒体从业者和研究人员开放测试,现已向所有人开放,支持 JPG、PNG、GIF 等图像格式,MP4、MOV、WEBM 视频格式以及 WAV、MP3、FLAC 等音频格式。
量子位文章吐槽 AI 编码模型普遍"不说人话",Claude、GPT 等模型输出充斥"15/15 全绿""单腿哑火"等黑话,被指与 Coding 过拟合及 CoT 压缩有关——为省 Token,模型思维链被调成"山顶洞语",Token 消耗可减少 70%。
OpenAI 从一个未公开的内部前沿模型发布了一批数学成果,公开在 GitHub 仓库中,包含 722 篇手稿、分为 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果约用 3 小时 ChatGPT Pro 思考算力。
推荐理由:OpenAI 内部模型一次产出 722 篇数学手稿,读者可据此了解 AI 做数学的规模、算力成本与外界质疑。
Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型,参数量 740M,可将文本、图像、音频、视频映射到统一嵌入空间。
推荐理由:官方给出 740M 参数、模块化编码器与端侧内存占用,可据此判断本地多模态检索的落地成本。
Google 发布开源多模态嵌入模型 EmbeddingGemma 2,可将文本、图像、视频、音频和代码转换为数值向量,参数量 7.4 亿,Google 称其在多模态嵌入基准上超过参数量两倍的竞品。
Google 发布图像生成与编辑模型 Nano Banana 2.1,取代 2026 年 2 月发布的 Nano Banana 2,官方称其在各方面均有提升。价格约为上一代一半,1K 图像从 6.70 美分降至 3.36 美分,4K 从 15.10 降至 7.56 美分。
独立研究者 Syed Anas Mohiuddin 测试了 Google、JP Morgan Chase、Weviate、Rapid7、法国政府部际数字事务局和美国联邦政府等机构的智能体,发现 MCP(Model Context Protocol)存在信任缺口,可被概念验证攻击利用。
MIT Technology Review 的 EmTech Future 2026 活动聚焦 AI 与生物学、基础设施、制造业和科学的交叉融合。
Google 因自动化提交大幅增加、其中绝大多数无效,已从 10 月 1 日起暂停其开源软件漏洞奖励计划,并承诺在 2027 年第一季度给出更新。公司称工程师和开源维护者被大量无效或含模型幻觉的报告淹没,参与者被建议转向 Google 其他漏洞赏金项目。
Google 研究者提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),通过随时间收缩的编辑预算和严格 critic 约束智能体对 harness 的自我改写,避免其记住测试任务。
从 2026 年 10 月起,Google 将限制个人账号用户对 Gemini 模型的访问:无订阅用户只能使用最小的 Flash-Lite,不再包含更强的 Flash 和 Pro,而当前免费层还提供 3.6 Flash 和有限度的 3.1 Pro。
DeepMind 研究人员提出“人工共生智能”(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非打造孤立的机器智能。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式思维仍由同一套下一 token 预测过程产生,并非独立推理机制。他列举三大缺陷:缺乏可检查的持久认知状态、知识与推理在权重中纠缠不清、思维链常在得出答案后事后编造。他主张借鉴 AlphaGo 的游戏树搜索架构,为 AI 建立真正的推理机制。
美国联邦法官 Amit Mehta 驳回了 Chegg 和 Penske Media 针对 Google 的反垄断诉讼,认定 Google 在 AI overviews 等产品中的行为不违反反垄断法。
Google 的轨道计算卫星原型随 SpaceX 火箭从加州升空,这是其首次把自研芯片送入太空,卫星由 Planet Labs 建造,将验证 TPU 能否在太空运行。
营销公司 Graphite 研究前沿模型的写作习惯,发现 13000 个在 AI 内容中出现频率至少是人类两倍的短语。
谷歌发布新一代旗舰模型 Gemini 4 Argon,在 DeepSWE v1.1 上取得 77.9%,高于 Claude Opus 5.5 的 74.2% 和 GPT-6 Astra 的 74.1%,并以 1525 分位居 Text Arena 第一。
推荐理由:谷歌新一代旗舰模型在多榜单登顶并给出成本与长任务能力细节,可对照其与竞品的差距。
Google 正式发布 Gemini 4 Argon,目前仅通过 Fairwind 计划向少量网络安全合作伙伴开放,官方称后续先向付费 API 用户和 Google AI Ultra 订阅者开放。
推荐理由:官方跑分与第三方盲评显示 Gemini 4 在知识与写作上领先、编程与终端偏弱,可据此判断其能力取舍。
Google 母公司 Alphabet 发布 Gemini 4 Argon,称其可处理编码、研究和写作等任务,并专门针对防御性网络安全训练,能自主发现、验证并修补关键软件漏洞。
Google 宣布推出 Gemini 4 Argon AI 模型,但目前用户还无法使用。原文未披露该模型的参数规模、benchmark 分数或具体可用时间。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展到开发者、企业和消费者,起价每百万输入 token 2 美元、输出 token 10 美元。
推荐理由:官方给出 Argon 在编码、企业知识与网络安全上的基准表现和分阶段开放路径,可据此判断前沿模型的能力边界。
特朗普政府召集数十家 AI 公司同意接受自愿性安全测试,以应对 AI 风险。该计划的核心是依靠 Big Tech 企业自我监管,而非强制性约束。
Google 已允许约 100 家出版商参与 AI 内容贡献试点,当网站内容实质性地贡献到 Gemini 驱动的 AI Overview 等搜索结果时,出版商可获得付费。
Google 研发出一种为 AI 设计蛋白质添加水印的方法,目标是服务于生物安全。该方法可配合一款流行的 AI 蛋白质设计工具使用。
Google DeepMind 发布 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:SynthID 水印从图像扩展到合成生物,读者可了解 AI 生成蛋白质的可验证溯源思路与落地边界。
美国政府本周二上线公共 AI 聊天机器人 America.gov,由 Google 和 SpaceXAI 合作参与构建,目前较难被越狱。用户询问 Minecraft 时,它会输出约 1800 词的独白,实为对游戏结局《End Poem》的改写彩蛋,而非模型幻觉或故障。特朗普称 20 岁程序员 Edward Coristine 是该项目的首席工程师之一。
特朗普周二宣布白宫推出 America.gov,一个帮助民众查找政府服务与信息的 AI 聊天机器人。Google 确认参与此次发布,其 AI 模型 Gemini 被使用;美国首席设计官 Joe Gebbia 补充说政府还使用了 Grok。
Google 宣布关停 Gemini 的自定义 AI 助手功能 Gems,并将其自动迁移为可跨任务使用的“skills”,用户无需手动操作。Gemini 应用内提示称,Gems 将于 2026 年 11 月 17 日起变为 skills,在此之前仍可正常使用。迁移后需在任务线程中输入“/”来选择技能。