MIT Technology Review:我们对AI说“不”的能力寄予了过多信任
MIT Technology Review 刊文指出,AI 的拒答能力已成为 AI 安全的核心机制,但它建立在概率统计之上,既可能被越狱绕过,也可能被用于压制合法言论。
MIT Technology Review 刊文指出,AI 的拒答能力已成为 AI 安全的核心机制,但它建立在概率统计之上,既可能被越狱绕过,也可能被用于压制合法言论。
量子位文章吐槽 AI 编码模型普遍"不说人话",Claude、GPT 等模型输出充斥"15/15 全绿""单腿哑火"等黑话,被指与 Coding 过拟合及 CoT 压缩有关——为省 Token,模型思维链被调成"山顶洞语",Token 消耗可减少 70%。
从Google DeepMind离职的AI安全研究员Bilal Chughtai在离职帖中表示,AI有可能终结所有人,留给人类阻止这一结局的时间或许已经不多,该帖在X上获得超过80万次浏览。
OpenRouter 周 token 消耗量自 2025 年 1 月以来从 0.5 万亿激增至 126.2 万亿,涨幅超 25000%。这一数字更多反映 token 指标的膨胀而非实际使用量增长:推理模型会生成大量"思考"token,未优化的智能体系统消耗尤为惊人。
OpenAI、Anthropic 和 Google 提出以安全为由放缓前沿 AI 开发,Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓并寻求反垄断豁免,Sam Altman 和 Elon Musk 表示赞同。