跳到正文
InfoQ 中文· 作者:Bruno Couriol·· 8 小时前AI 评分74

Archestra 发布开源安全引擎 OpenAPPA,防范提示词注入与模型幻觉导致的数据外泄

Archestra 发布 OpenAPPA,用于防范提示词注入或模型幻觉引发的数据外泄

AI 导读

Archestra 发布开源安全引擎 OpenAPPA,在智能体提示词与执行循环之外运行,通过配置文件定义数据源、访问对象、信任等级和权限主体,阻止提示词注入或模型幻觉引发的数据外泄。

来源:InfoQ 中文 · infoq.cn