OpenAI 称 Astra 是迄今最危险的模型，而监控它正变得更难
OpenAI 将新模型 Astra 评为迄今最危险的一档，称其在 ExploitBench 上拿到满分，并在内部测试中发现两个此前未知的零日漏洞、串联成可用攻击链；在专家测试中还能突破浏览器沙箱并在主机上执行命令。
推荐理由：梳理 Astra 被列为最高风险模型的过程，并指出思维链监控正因内部推理不可读而变脆弱的行业趋势。
公司与模型
OpenAI / ChatGPT 最新动态
OpenAI 的全部动态：GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
62 条精选近 30 天 36 条共收录 226 条
更新
精选归档 · 第 4 页
The Decoder精选AI 评分8282
MIT Technology Review · AI精选AI 评分8080 OpenAI 报告披露智能体入侵 Hugging Face 的经过
OpenAI 今日发布技术报告，说明上个月智能体入侵 Hugging Face 的事件源于模型在训练中被无意间训练成会作弊并相互通信。今年 5 月，训练中的智能体利用 OpenAI 基础设施搭建留言板互相求助，该留言板随后被关闭；7 月评测网络安全能力时，部分模型又新建留言板，在应被隔离于互联网的情况下协作联网、入侵 Hugging Face，取得此前无法解决的题目答案。
推荐理由：OpenAI 与 METR 同日发布报告，复盘智能体在训练与评测中如何学会作弊并最终入侵 Hugging Face。