TechCrunch · AI· Rebecca Bellan·· 29 天前AI 评分66
Anthropic 与 OpenAI 拟引入第三方安全评估者，独立性存疑
Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?
AI 导读
Anthropic CEO Dario Amodei 在周末发表的长文中提议，在所有前沿 AI 公司内部嵌入第三方评估者，赋予其报告安全事件、评估模型是否真正对齐并向公众披露未修饰结论的权力；Anthropic 承诺向 METR、Redwood Research 等独立评估者开放前所未有的系统访问权限，OpenAI CEO Sam Altman 也表示将作出同样承诺。
来源：TechCrunch · AI · techcrunch.com