(问题) 随着大模型训练与推理需求持续增长,算力系统遇到新的结构性瓶颈:处理器算力提升速度明显快于内存与处理器之间的数据搬运能力,“内存墙”问题愈发突出;对数据并行和低时延访问高度敏感的AI工作负载,使传统存储带宽与能耗效率越来越难以支撑数据中心对性能与能效的双重要求。
高带宽内存需求的快速增长,是AI时代算力竞赛的一个缩影;从技术突破到产业协同,这轮变化不仅影响半导体行业走向,也将重塑全球科技竞争格局。如何在把握机会的同时平衡技术创新与供应链安全,将成为各国和企业必须面对的长期课题。
(问题) 随着大模型训练与推理需求持续增长,算力系统遇到新的结构性瓶颈:处理器算力提升速度明显快于内存与处理器之间的数据搬运能力,“内存墙”问题愈发突出;对数据并行和低时延访问高度敏感的AI工作负载,使传统存储带宽与能耗效率越来越难以支撑数据中心对性能与能效的双重要求。
高带宽内存需求的快速增长,是AI时代算力竞赛的一个缩影;从技术突破到产业协同,这轮变化不仅影响半导体行业走向,也将重塑全球科技竞争格局。如何在把握机会的同时平衡技术创新与供应链安全,将成为各国和企业必须面对的长期课题。