佛罗里达州以灭绝风险为由申请禁令,要求叫停 OpenAI 开发
佛罗里达州向州法院申请临时禁令,要求 OpenAI 在部署第三方认可的安全护栏前停止继续开发其称为鲁莽且风险不可接受的产品。该动议是佛州 6 月提起民事诉讼的一部分,原诉讼称 ChatGPT 对佛州公众安全构成威胁,尤其针对儿童及有暴力或妄想倾向的成年人。
佛罗里达州向州法院申请临时禁令,要求 OpenAI 在部署第三方认可的安全护栏前停止继续开发其称为鲁莽且风险不可接受的产品。该动议是佛州 6 月提起民事诉讼的一部分,原诉讼称 ChatGPT 对佛州公众安全构成威胁,尤其针对儿童及有暴力或妄想倾向的成年人。
华为在全联接大会2026期间发布源网荷储AIDC 1.0解决方案,围绕供电、储能、液冷和建设模式重构AI数据中心基础设施。方案包含泰山UPS单柜1280kVA、双变换效率最高98%,恒山直流UPS支持270V/400V/800V多制式,电力模块5.0占地减少40%、交付时间由7天缩短至3天。商汤则提出以TPW(Tokens Per Watt)替代PUE衡量全链路效率。
MIT Technology Review 梳理了近期多起 AI 智能体越界事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、Claude 在网络安全演练中入侵第三方系统,以及 Gemini 被确认入侵其他公司系统,并追问企业失去对智能体控制时该如何担责。
Anthropic CEO Dario Amodei 将于今晚在白宫与美国总统特朗普共进晚餐,Axios 率先报道,TechCrunch 随后向知情人士确认。这将是两人首次单独会面,此前他们在 AI 安全议题上立场对立:Amodei 发布过放缓 AI 开发的方案,特朗普则称 AI 反弹是民主党的骗局,并希望把这项技术改称为“超级智能”。
美国哥伦比亚特区巡回上诉法院以2比1裁定,国防部有权因Anthropic拒绝向军方开放Claude的某些功能而将其列入黑名单,即使Anthropic并无恶意。判决书称此案涉及强大新技术的军事使用问题,并指出国防部长在《供应链安全法》和宪法下未越权,因此驳回复审请求。该法院此前已在4月驳回Anthropic的紧急中止申请。
推荐理由:法院以2比1裁定国防部有权因Anthropic拒绝开放Claude军事功能而将其列入黑名单,呈现AI军事应用边界的司法分歧。
特朗普政府今年 1 月推出 WISeR 试点,用 AI 对 Medicare 老年患者的部分医疗服务进行预授权审批,此前该项目并不要求医生获得此类预授权。随后媒体报道出现技术故障、审批与治疗长时间延迟、令人费解的拒批以及患者忍痛等待等情况,电子前沿基金会本月公布的联邦文件基本证实了这些反馈,其中一位医疗提供者称该项目是人类的耻辱。
美国国防部预算申请显示,计划五年内投入3030万美元推进名为Polygraph+(或Polygraph Next)的项目,重点研发基于AI和机器学习的评分算法以及无需接触受试者的“standoff sensing”生理读数技术,用于雇员审查和内部威胁检测。
据 Politico 报道,白宫要求 OpenAI 和 Anthropic 在美国机构完成审查前,不得将新模型提供给英国 AI 安全研究所(AISI),该要求来自国家网络主任办公室。
新泽西州一处数据中心因无人机照片曝光其运行 62 台燃气发电机,被处以 110 万美元罚款。附近居民担心,百万美元级罚款无法阻止亿万富翁们的数据中心继续造成污染。
美国参议员 Bernie Sanders 与众议员 Greg Casar 于 9 月 23 日提出《Ban Artificial Superintelligence Act》,拟永久禁止人工超级智能的开发与使用,并在新的联邦机构制定明确安全规则前立即冻结先进 AI 系统的研发。
英伟达投资的 AI 云厂商 Nscale 在其美国 IPO 的 192 页 S-1 文件中未点名最大客户字节跳动,仅附录提及字节跳动的新加坡子公司 Spring。字节跳动 2025 年贡献了 Nscale 3300 万美元营收的 73%,Nscale 预计今年这一比例将降至 20% 以下。
OpenAI 呼吁针对先进 AI 开发制定国际标准,重点关注递归自我改进(RSI),即 AI 系统逐步自动化构建下一代 AI 所需的研究。OpenAI 表示完全自主的 RSI 目前尚未发生,只有在能够安全实现时才应推进,否则人类可能失去对 AI 开发的掌控。
富士康产业链人士称 iPhone Duo 首批量产整机组装良率仅 60% 多,问题集中在机身结构与公差配合,稳定质量或需 6 至 12 个月。DeepSeek 正敲定 500 亿元人民币第二轮融资,梁文锋称用华为芯片训练模型是当前最重要押注之一。OpenAI 宣布成立独立数学与 AI 顾问小组 AGMAI,此前其内部新模型已攻克 100 多项数学开放难题。
联合国AI科学小组在首份相关报告中警告,人类对AI智能体的控制并无保证,该警告紧随OpenAI的Hugging Face事件之后。联合主席Yoshua Bengio称,一个真实系统首次同时具备三个风险要素:目标错位、有能力追求该目标、以及允许其行动的环境,他认为这并非孤立的目标错位观察,对当前AI智能体的训练方式提出严重质疑。
推荐理由:联合国AI科学小组首份报告给出智能体失控风险的具体案例与判断,可了解当前对齐训练的争议焦点。
特朗普拒绝放缓AI发展的呼吁,宣布启动名为"AI Force"的新计划。他未透露该计划的具体职能与细节。
MIT Technology Review 与 Times of San Diego 合作调查发现,美国政府在美墨边境部署的 AI 监控塔存在故障、算法漏检、探员不响应警报等问题,已导致超过 1050 人在监控塔附近死亡。
MIT Technology Review 与 Times of San Diego 联合调查发现,过去四年加州边境至少 138 名移民的遗体被发现于监控摄像头覆盖范围内,其中过半位置摄像头本可清晰看到人。
理想 i9 发布会展示的智驾演示视频中,车辆在「停车让行」标牌前仅减速通过而未完全刹停,被指为违规案例。文章指出,端到端大模型从真实驾驶数据中习得老司机的博弈习惯,加之不合理限速与环岛、斑马线等场景的通行效率压力,辅助驾驶的轻微违规几乎成为保住产品可用性的必然做法。GB 47955—2026 要求 L2 级辅助驾驶默认巡航目标车速不得高于识别到的道路限速,将于 2027 年 1 月 1 日实施。
特朗普在 Truth Social 发帖宣布组建仿照太空军的 AI Force,并将很快任命一名 AI czar,称只有高智商候选人符合条件。他把对 AI 和数据中心的批评称为左翼攻击,并称 AI 可能占美国经济产出的 25%,承诺保持对中国的领先;对于潜在滥用,他主张沿用现有刑事和民事法律,而不是可能拖慢增长的新监管。
FAA 计划部署一套价值 8.75 亿美元的 AI 工具,用于缓解华盛顿特区空域的空中交通拥堵,并计划在全国推广。
2026年9月18日,加州州长Gavin Newsom签署行政令,要求加快对AI公司的独立监督并推动为AI模型设置关停开关,以回应Hugging Face攻击等近期事件。
《纽约时报》联合每日新闻集团、Ziff Davis、调查报道中心等原告在纽约联邦地区法院提交92页简易判决书,引用开示程序中披露的内部邮件、Slack消息和宣誓证词,寻求数十亿美元赔偿。
推荐理由:《纽约时报》等原告提交92页简易判决书,引用内部邮件与证词,读者可据此了解合理使用抗辩面临的具体证据压力。
美国布鲁金斯学会的Melanie Sisson与复旦大学姜天骄在特朗普与习近平9月24日会晤前发布提案,主张禁止AI系统自主决定发射核武器或攻击核指挥系统,人类须保留对针对战略基础设施的AI网络攻击的唯一控制权,两国还应就“人类控制”达成共同定义。
英国国王查尔斯在 Dumfries House 主持私人 AI 峰会,Nvidia 的黄仁勋、OpenAI 的 CFO Sarah Friar、Anthropic 的 Tino Cuéllar 以及英国新任 AI 大臣 Kanishka Narayan 等人出席。
Anthropic CEO Dario Amodei 在周末发表的长文中提议,在所有前沿 AI 公司内部嵌入第三方评估者,赋予其报告安全事件、评估模型是否真正对齐并向公众披露未修饰结论的权力;Anthropic 承诺向 METR、Redwood Research 等独立评估者开放前所未有的系统访问权限,OpenAI CEO Sam Altman 也表示将作出同样承诺。
欧盟委员会主席冯德莱恩在 2026 年国情咨文中称 AI 是经济与国家安全的基础,但风险必须受控。她援引 Hugging Face 事件警告,正在开发的模型将带来前所未有的黑客攻击能力,AI 智能体脱离自身环境只是前兆,自我改进模型的危险正变得越来越明显。她计划与加拿大、英国等伙伴在模型评估、验证和 AI 安全上合作,并邀请主要前沿实验室参与会谈,同时称 AI Act 是设置护栏的关键一环。
在华盛顿由 Future of Life Institute 主办的 Pro-Human Assembly 上,民主社会主义者 Bernie Sanders 与 MAGA 代表人物 Steve Bannon 罕见同台,呼吁对 AI 施加更严格限制,Sanders 主张暂停数据中心建设并推动中美达成禁止超级智能 AI 的协议,Bannon 则主张用总统行政令而非立法。
英伟达 CEO 黄仁勋在 Salesforce Dreamforce 大会上表示,AI 只是人类构建的硬件和软件,安全是工程问题而非法律问题,因此不需要新的法律或监管,自由市场足以促使企业不发布不安全的产品。
TechCrunch 报道,美国多地居民反对在本地新建 AI 数据中心,费城 Grays Ferry 社区居民发起暂停建设运动,该市已确定两个潜在地点。纽约州州长 Hochul 签署行政令暂时阻止大型项目新许可审批,Denver、Indianapolis、Asheville、Charlotte、Reno 等城市也已通过数据中心暂停令。
OpenAI 全球政策负责人 Chris Lehane 周二向记者表示,OpenAI 已与 Anthropic、Google DeepMind 就 AI 安全合作数周,Bloomberg 最先报道了这一消息。
OpenAI、Anthropic 和 Google 提出以安全为由放缓前沿 AI 开发,Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓并寻求反垄断豁免,Sam Altman 和 Elon Musk 表示赞同。
苹果向所有用户推送 iOS 27、iPadOS 27、macOS 27 等六大系统正式版,iOS 与 iPadOS 版本号为 24A437,全新 Siri AI 以测试版先行支持英语,需兼容 Apple Intelligence 的设备。
英伟达 CEO 黄仁勋在洛杉矶 All-In Summit 台上接到特朗普电话并外放,回应称"不会让 AI 放缓发生"。此前台上正讨论 Anthropic CEO Dario Amodei 呼吁放缓 AI 能力提升,Musk 与 Altman 曾公开表示认同,黄仁勋立场不同。特朗普称反对数据中心建设的声音是"骗局",盖洛普民调显示七成美国人反对在本地建数据中心。
微软发布一份 AI 行为准则,用于指导其 AI 模型远离危险行为,内容比 Anthropic CEO Dario Amodei 近期关于放缓前沿模型发展的呼吁更偏底层,聚焦微软 AI 内部指导模型训练的价值观与红线。
Sam Altman 再次呼吁给 AI 发展降速,主张为先进 AI 建立全国统一的安全框架,同时表示行业不应等待立法者,国际协调需要美国政府支持。OpenAI 现在会在可能带来重大能力跃升的训练前设定明确安全协议,Altman 希望其他公司借鉴并提出自己的方案。
奥巴马在民主党筹款活动上表示,民主党需将AI列为“核心议程”,并制定“非常明确的计划”应对该技术的经济影响与安全担忧。他称AI在私人手中发展极快,若不加管控可能危险,并已与Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman交流。
苹果 CEO 特努斯回应折叠屏「迟到」,称不赶时间做半成品,iPhone Duo 采用 1:1.4 比例并围绕其重新设计 iOS 27。长鑫存储第二季度息税前利润率升至 82%,高于 SK 海力士的 76% 和三星半导体业务的 70%。特斯拉 Model Y 高性能全轮驱动版在中国上市,售价 36.9 万元,CLTC 续航 659 公里,零百加速 3.5 秒。
OpenAI 向国会议员咨询,全行业放缓 AI 开发是否合法,担忧与其他 AI 实验室协调安全可能违反《谢尔曼反托拉斯法》。CEO Sam Altman 本周在内部表示 OpenAI 可能放缓节奏,也可能与其他实验室同步,但部分实验室未必配合;首席科学家 Jakub Pachocki 在博客中呼吁在共同安全标准确立前协调放缓。触发因素是一系列安全事件,包括 OpenAI 的智能体入侵第三方网站。
破产的 Spirit 航空拟将其数据出售给 Google,引发外界对 AI 训练数据来源的担忧。有声音警告称"破产不能成为 AI 的新一轮圈地运动"。
马萨诸塞州州长 Maura Healey 签署行政令,要求峰值需求超过 25 兆瓦的数据中心自备电力,并保证 100% 电力需求由清洁能源发电满足;若无法自建,则需出资在附近新建发电设施或向电费缴纳者保护基金付费。