国产 GPU 越来越多,为什么反而更难用?基流科技谈算力集群的系统工程挑战
国产算力竞争正从单颗芯片转向整个计算系统,集群从几十张卡扩至万卡后,通信、调度与故障定位成为有效算力的关键瓶颈。基流科技推出的 VenusCL 通信组件在客户已完成千卡集群基础调优的前提下,可再带来约 2%—6% 的 MFU 提升;其 VenusNOC 的 Megatrace 特性曾在约 3800 张卡的训练集群中定位到单张 GPU 故障。
国产算力竞争正从单颗芯片转向整个计算系统,集群从几十张卡扩至万卡后,通信、调度与故障定位成为有效算力的关键瓶颈。基流科技推出的 VenusCL 通信组件在客户已完成千卡集群基础调优的前提下,可再带来约 2%—6% 的 MFU 提升;其 VenusNOC 的 Megatrace 特性曾在约 3800 张卡的训练集群中定位到单张 GPU 故障。
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在动作可被验证时让智能体自主执行,把人工判断留给真正需要决策的环节。框架按智能体生命周期分为四层:Scope 在运行前界定职责与权限边界,Know 为每个智能体分配独立身份并追踪授权来源,Bound 在运行时于智能体推理之外强制执行策略,Observe 在每次运行后重建其行为并用于改进。
推荐理由:AWS 高管把 Defense in Depth 的思路搬到智能体治理上,给出可验证的四层框架与配套产品入口。
小红书杨凯、阿里李峥峰、B 站张忻正在前阿里技术专家吴子奇主持的 InfoQ《极客有约》X QCon 直播中讨论 AI Coding 对软件工程的影响。杨凯认为模型能力仍是第一变量,但上下文工程与测试才是最大变量,测试 80% 至 90% 的工作量将揉进出码过程;李峥峰称 AI Code Review 的瓶颈已从生成转向验证,假阴性与假阳性问题未变;张忻正强调 AI 越强越需要确定性工程约束。
QCon 全球软件开发大会将于 10 月 22-24 日在上海举办《AI Infra:算力效率决定规模化落地》专场,探讨算力效率如何决定 AI 规模化落地。文章指出,随着成本重心向推理端倾斜,单任务 Token 消耗量以更高倍率激增,竞争核心已从单 Token 标价转向端到端任务的有效交付成本。算力损耗、显存浪费与数据失配构成三类代表性系统瓶颈,需通过模型与系统协同设计破解。
蚂蚁集团、腾讯、京东的工程师在 InfoQ 直播中讨论 Agent 从 Harness 走向 Loop 的工程实践:Harness 解决 Agent 怎么完成任务,Loop 解决 Agent 怎么越变越强。
字节跳动资深技术专家张国强将在 QCon 上海站分享字节跳动 Supabase 从 App Backend 向 Agent Backend 演进的技术实践。
飞猪、货拉拉、江苏移动等企业的一线实践者围绕企业 Agent 的自主权、执行边界与生产级落地展开讨论,指出当 Agent 开始下单、调度、改系统,企业要解决的核心问题已从"能不能做"变成"该不该做"。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,需以数据打通、治理框架和人类监督保障安全。AVEVA 的责任 AI 框架强调安全、效率与人工监督,主张 AI 增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、资源、水和碳的 AI 环境影响测量标准方法。
TypeSafe AI 联合创始人兼 CEO Diogo Almeida 在 Latent Space 访谈中表示,Jev 日处理量已突破一万亿 token,夜间流量持续走高,说明大量调用来自机器自动化。
MIT Technology Review 报告指出,企业 AI 的规模化瓶颈是结构性的,2026 年全球 AI 投资将达 2.5 万亿美元、同比增长 44%,但多数企业仍未靠 AI 实现收入增长。报告提出“智能体转型”需同步重构架构与运营模式:以数据可访问性而非数据量重建基础设施、用可组合架构替代固定技术栈,并解决 AI 主权问题。
西门子Xcelerator中国销售与生态成功负责人顾欣与阿丘科技创始人兼CEO黄耀在量子位对话节目中,围绕工业AI从落地到规模化展开讨论。黄耀介绍,导入智能体技术后设备OEE和产能可提升25%左右,并提出“高价值、数据ready、技术可行”的优先落地交叉点。顾欣表示,西门子Xcelerator希望做好连接器与放大器,补上从0到1验证到1到100商业成功之间的生态拼图。
HPE 提出企业 AI 支出应从按 token 计费的消费模式转向自有算力投资,判断标准是需求是否稳定、可预测且规模足够。文章援引 Deloitte 2026 企业 AI 报告称,2025 年员工 AI 使用率上升 5%,至少 40% AI 项目进入生产的公司数量预计半年内翻倍。企业需按实际工作负载测算自有算力的经济性交叉点,并通过采用、治理和用例扩展保持算力持续产出。
基元律动联合创始人兼CTO韩凯在2026杭州云栖大会企业级Agent实践峰会上发表演讲《从Harness到RSI飞轮》,提出多模型异构并存下的模型调度与反馈闭环路径。其开源项目OpenSquilla在特定测试配置下保留固定旗舰模型基线99.96%的任务质量,成本降低88.9%;9月发布的NeoHorse-1基于通义Qwen3.5底座后训练,4B版本宏平均得分由58.94提升至64.87。
Syensqo 正用 AI 智能体数字化合成数百万种候选分子组合,预测其性能与可持续性特征,再筛选出少量进入实验室测试。其首席技术与创新官 Mike Finelli 称,这能让材料研发"更广、更深、更快",同时公司正为高压数据中心架构、半导体制造密封材料以及浸没式冷却流体开发材料。他还提出 AI 与材料之间可能形成相互加速的循环。
蚂蚁灵波 CEO 朱兴在外滩大会交流中表示,机器人落地难的症结仍在模型能力与成本,现阶段环境不能太开放、任务不能太长程。灵波选择从 0 到 1 训练具身基座模型,已推出 LingBot-World、LingBot-Video 和 LingBot-VLA 2.0,其药房拣选方案已在国大药房零售门店部署,货架通道仅 80 厘米宽。
文章以米其林餐厅「潮 1/2」把餐桌搬到厨房旁为比喻,解释高通提出的高带宽计算技术 HBC 这一近内存计算思路,用于缓解大语言模型推理中数据搬运带来的内存墙问题。
ON.energy 提出用中压 AI UPS 解决 AI 数据中心给电网带来的架构性风险:把供电从 480 伏升到 13.8 千伏及以上、从机房移到变电站旁的模块化机柜,并让系统串在供电路径中。2026 年初在 National Laboratory of the Rockies 的全尺寸测试中,该系统同时承受真实 AI 负载波动与电网故障(含零电压事件),通过 ERCOT 大负载电压穿越要求。
AI 推理时代,内存、存储与网络不能再各自优化,数据移动已成为最紧迫的瓶颈。Tirias Research 创始人 Jim McGregor 指出,AI 并非单一负载,而是数百万种不同负载,企业需将数据中心视为计算、内存、存储、网络协同的整体系统。RAG 等现代 AI 技术需持续扫描海量数据库,内存带宽、缓存与存储就近性因此成为战略资产。
爱范儿分析称,随着前沿实验室研发重心转向需要操作图形界面的 computer-use Agent,Mac mini 与 Mac Studio 正被成批部署进 AI 机房。
全球制造企业 Jabil 以 SAP Integration Suite 为基础整合系统、淘汰碎片化工具,为规模化 AI 与自动化打基础。Jabil 在 30 多个国家拥有 100 多个站点、14 万多名员工,其 SAP IT 总监 Harish Manohar 称"规模化简化是极强的竞争优势",公司正探索预测性供应链洞察、智能异常处理与 AI 驱动的计划预测。
UC Berkeley 团队提出,GPT-4 级能力从 2023 年初的约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间、中位数约 50x。近乎免费的推理成本带来三类数据系统挑战:为智能体服务、由智能体运行、由智能体合成,其中智能体推测式查询会产生 80-90% 的重复子查询。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前多数方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!