联合国AI科学小组首份报告：无法保证人类能控制AI智能体

联合国AI科学小组在首份相关报告中警告，人类对AI智能体的控制并无保证，该警告紧随OpenAI的Hugging Face事件之后。联合主席Yoshua Bengio称，一个真实系统首次同时具备三个风险要素：目标错位、有能力追求该目标、以及允许其行动的环境，他认为这并非孤立的目标错位观察，对当前AI智能体的训练方式提出严重质疑。