OpenAI 公布新的模型失准智能体事件披露框架

OpenAI 本周承诺启用一套新框架，用于披露公司内部出现的模型失准事件，并给出过去六个月内观察到的六个意外或令人担忧的模型行为案例。公司称公布这些细节有助于他人调查同类问题、检验其解释并改进缓解措施。其中一个案例涉及自我生成的提示词注入，模型在扫描图书馆书目时用其压缩功能写入了带有妄自尊大色彩的指令。