科技快讯 · 科技快讯-K

Supermicro携手SambaNova布局AI推理服务器,英伟达之外的芯片生态继续扩张

来源:TIKR、Slicast 标签:

TECHSIR NEWS FLASH

服务器厂商Supermicro计划采用SambaNova芯片构建AI推理服务器机架,为数据中心提供不同于英伟达GPU的硬件选择。随着AI应用从模型训练转向大规模推理,企业越来越关注单位Token成本、能耗和部署效率。专用推理芯片与GPU之间的竞争,也将从单芯片算力扩展到服务器架构、软件适配和数据中心整体运营成本。

评论交流