Goodfire 推出 inside-out 监控器，通过 Baseten 向客户开放

Goodfire 发布了一种监控 AI 智能体的新方式，不再让第二个模型通读智能体的输出，而是用探针读取模型内部激活信号，仅在探针报警时才调用另一个模型细查。该监控器已向 Baseten 客户开放，可选择监控攻击性黑客行为、化生武器滥用和 reward hacking 等风险，并设定记录、转人工或直接拒绝等响应方式。