跳到正文
10月15日周四
  1. AWS Machine Learning Blog60

    AWS 提出 Trust in Depth:让智能体获得更多自主权而不失控

    AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在动作可被验证时让智能体自主执行,把人工判断留给真正需要决策的环节。框架按智能体生命周期分为四层:Scope 在运行前界定职责与权限边界,Know 为每个智能体分配独立身份并追踪授权来源,Bound 在运行时于智能体推理之外强制执行策略,Observe 在每次运行后重建其行为并用于改进。

    推荐理由:AWS 高管把 Defense in Depth 的思路搬到智能体治理上,给出可验证的四层框架与配套产品入口。

10月7日周三
  1. Microsoft Research22

    Microsoft 研究员 Jennifer Neville 谈 AI 评估与“意外失败”

    Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论评估如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调当结果超出预期时应仔细审视数据。

10月2日周五
7月7日周二
  1. Berkeley AI Research34

    智能免费之后怎么办?面向智能体的数据系统

    UC Berkeley 团队提出,GPT-4 级能力从 2023 年初的约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间、中位数约 50x。近乎免费的推理成本带来三类数据系统挑战:为智能体服务、由智能体运行、由智能体合成,其中智能体推测式查询会产生 80-90% 的重复子查询。

5月8日周五