跳到正文
热点事件持续更新

Anthropic实验:专家多采纳AI随机偏好

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Anthropic用50名因果推断专家做实验,让智能体在五个分析决策点上的偏好由抛硬币随机指定。结果显示,专家在其中四个决策上有86%采纳了智能体的立场,翻转率为62%至82%,且多数人认为最终结论是自己的判断。 该实验针对没有明确正确答案的问题,说明专家容易把AI代理随机给出的偏好当成自己的判断。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. The Decoder
    Anthropic 研究:专家会采纳 AI 智能体的随机偏好并误以为是自己的判断

    Anthropic 用 50 名因果推断专家做实验,智能体在五个决策点上的偏好由抛硬币随机指定,专家在其中四个分析决策上有 86% 采纳了智能体的立场,翻转率为 62% 至 82%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。