微软总裁 Brad Smith 称英国最适合主导全球 AI 监管
微软总裁 Brad Smith 呼吁对 AI 进行紧急监管,并认为英国而非美国或欧盟最适合主导全球安全规则。他称 AI 既是“武器也是工具”,正危及全球网络安全,并主张 AI 产品发布前需经外部评估、系统被失控 AI 智能体攻破时须依法上报,以及设置“终止开关”。
微软总裁 Brad Smith 呼吁对 AI 进行紧急监管,并认为英国而非美国或欧盟最适合主导全球安全规则。他称 AI 既是“武器也是工具”,正危及全球网络安全,并主张 AI 产品发布前需经外部评估、系统被失控 AI 智能体攻破时须依法上报,以及设置“终止开关”。
微软 CEO Satya Nadella 在 X 上发文称,应当退后一步评估 AI 的信任架构,不能把超级智能当作一组嵌套黑箱,只是接受或拒绝它的建议、回答和行动。
MIT Technology Review 刊文指出,AI 的拒答能力已成为 AI 安全的核心机制,但它建立在概率统计之上,既可能被越狱绕过,也可能被用于压制合法言论。
微软刊出诺奖经济学家 Daron Acemoglu 的悲观预测:AI 十年仅拉动约 1.5% 的 GDP 增长,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在人性——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化耗时更久,更大的模型也解决不了。他还称,扩展人类技能的 AI 在生产力上会胜过完全自动化。
Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论评估如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调当结果超出预期时应仔细审视数据。
Syensqo 正用 AI 智能体数字化合成数百万种候选分子组合,预测其性能与可持续性特征,再筛选出少量进入实验室测试。其首席技术与创新官 Mike Finelli 称,这能让材料研发"更广、更深、更快",同时公司正为高压数据中心架构、半导体制造密封材料以及浸没式冷却流体开发材料。他还提出 AI 与材料之间可能形成相互加速的循环。
MIT Technology Review 梳理了超大规模厂商 AI 基础设施投资的账本:今年支出约 7500 亿美元,未来四年 AI 资本投资可能超过 5 万亿美元,而今年 AI 总收入仅约 1500 亿至 2000 亿美元。
Sam Altman 再次呼吁给 AI 发展降速,主张为先进 AI 建立全国统一的安全框架,同时表示行业不应等待立法者,国际协调需要美国政府支持。OpenAI 现在会在可能带来重大能力跃升的训练前设定明确安全协议,Altman 希望其他公司借鉴并提出自己的方案。