Anthropic 研究员称 AI 十年内毁灭人类概率超一成

曾在 OpenAI 和 Anthropic 从事大模型预训练研究的 Jacob Coxon 从 Anthropic 离职，指责两家公司拿人类生存冒险。Anthropic 员工 Evan Hubinger 回应称，未来十年内未对齐的超级智能 AI 毁灭人类的概率超过 10%。Coxon 认为当前 AI 系统即将超越人类，并建议采取包括暂停推进模型能力在内的代价高昂的行动。