科技快讯-K

新型垂直HBM架构尝试解决AI内存散热瓶颈

研究人员提出将高带宽内存以不同方向排列和连接,以缩短信号路径并改善散热,希望缓解大型AI加速器面临的“内存热墙”。当前GPU和AI ASIC的性能越来越受内存带宽、功耗及封装温度限制,而非单纯计算核心数量。该方案尚未证明能够经济量产,后续需关注制造复杂度、封装良率和与现有加速器的兼容性。([Tom's Hardware][7])