国产GPU集群扩至万卡后,通信调度成瓶颈
热点事件持续更新
国产GPU集群扩至万卡后,通信调度成瓶颈
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
国产算力竞争正从单颗芯片转向整个计算系统。基流科技称,当集群从几十张卡扩至万卡规模后,通信、调度与故障定位成为决定有效算力的关键瓶颈,芯片数量增加反而使系统更难用。 针对这些瓶颈,基流科技推出 VenusCL 通信组件,在客户已完成千卡集群基础调优的前提下,可再带来约 2%—6% 的 MFU 提升;其 VenusNOC 的 Megatrace 特性曾在约 3800 张卡的训练集群中定位到单张 GPU 故障。上述提升幅度与定位效果均为该公司说法。
AI 根据报道生成 · 4 小时前更新
最新进展10月16日 03:25
国产 GPU 越来越多,为什么反而更难用?基流科技谈算力集群的系统工程挑战报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- InfoQ 中文国产 GPU 越来越多,为什么反而更难用?基流科技谈算力集群的系统工程挑战
国产算力竞争正从单颗芯片转向整个计算系统,集群从几十张卡扩至万卡后,通信、调度与故障定位成为有效算力的关键瓶颈。基流科技推出的 VenusCL 通信组件在客户已完成千卡集群基础调优的前提下,可再带来约 2%—6% 的 MFU 提升;其 VenusNOC 的 Megatrace 特性曾在约 3800 张卡的训练集群中定位到单张 GPU 故障。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。