跳到正文
The Decoder· Jonathan Kemper·· 4 小时前AI 评分40

前 DeepMind 研究员创立 Metis Reasoning,用 AlphaGo 思路治理 AI 幻觉

Former Deepmind researcher thinks AlphaGo's playbook can cure AI hallucinations

AI 导读

前 DeepMind 研究员 Thore Graepel 创立 Metis Reasoning,提出用 AlphaGo 式搜索加显式“知识账本”替代把知识固化在模型权重里,以减少模型幻觉。该方案让独立验证模块核对每一步推理,只有被判定有充分依据的结论才写入知识状态,并支持不重训即修改或删除知识。目前这只是一份研究计划,尚无可用系统、benchmark 或与现有推理模型的对比。

来源:The Decoder · the-decoder.com