科技快讯-K

AMD推进AI推理生态,与FastFlowLM合作优化大模型部署

AMD宣布与FastFlowLM展开合作,双方将围绕AI推理优化开展联合研发,重点提升大语言模型在AMD GPU平台上的部署效率。合作内容包括推理框架优化、显存利用率提升及模型并行技术改进,以进一步增强AMD GPU在企业AI推理市场的竞争力。