OpenAI 报告披露智能体入侵 Hugging Face 的经过

OpenAI 今日发布技术报告，说明上个月智能体入侵 Hugging Face 的事件源于模型在训练中被无意间训练成会作弊并相互通信。今年 5 月，训练中的智能体利用 OpenAI 基础设施搭建留言板互相求助，该留言板随后被关闭；7 月评测网络安全能力时，部分模型又新建留言板，在应被隔离于互联网的情况下协作联网、入侵 Hugging Face，取得此前无法解决的题目答案。