Source: The Verge
AMD宣布推出新型加速器和处理器，专为运行大型语言模型（LLM）而设计。该芯片制造商推出了Instinct MI300X加速器和Instinct M1300A加速处理单元（APU），用于训练和运行LLM。AMD表示，MI300X较之前的M1250X版本的内存容量增加了1.5倍。两款新产品比之前的产品具有更好的内存容量和更高的能效，AMD表示。AMD首席执行官Lisa Su表示：“LLM不断增大并变得更加复杂，需要大量的内存和计算资源。她在演讲中表示，MI300X“是世界上性能最强的加速器。她声称，在训练LLM方面，MI300X与英伟达的H100芯片相当，但在推理方面表现更好，特别是在与Meta的Llama 2合作时，性能比H100提升了1.4倍。AMD与微软合作，在其Azure虚拟机上推出了MI300X。
微软首席技术官Kevin Scott也在Su的演讲中宣布，2021年11月首次推出的Azure ND MI300X虚拟机现已在预览中提供。Meta还宣布将在其数据中心部署MI300处理器。Su表示，AMD推出了面向数据中心的MI300A APU，预计将使其总可寻址市场增长到450亿美元。APU通常将CPU和GPU组合在一起以实现更快的处理能力。AMD表示，MI300A提供了更高性能的计算、更快速的模型训练和30倍的能效提升。与H100相比，AMD表示它具有1.6倍的内存容量。它还具有统一内存，无需再将数据从不同设备中移动。
MI300A将为惠普企业在劳伦斯利弗莫尔国家实验室建造的El Capitan超级计算机提供动力。El Capitan被认为是最强大的超级计算机之一，预计性能将超过2 exaflops。MI300A APU“目前正在生产中，并被集成到数据中心中。定价信息尚未立即公布。Su在Code Conference上透露，AMD对能够吸引更多芯片用户的机会感到兴奋，不仅来自云服务提供商，还来自企业和初创公司。AMD还宣布了其Ryzen处理器的最新成员Ryzen 8040，可将更多原生AI功能集成到移动设备中。公司表示，8040系列比之前的型号提供了1.6倍的AI处理性能，并集成了神经处理单元（NPU）。
公司表示，Ryzen 8040不仅限于AI处理，视频编辑速度比竞争产品如英特尔芯片快65％，游戏速度比竞争产品快77％。AMD预计像宏碁、华硕、戴尔、惠普、联想和雷蛇等制造商将在2024年第一季度发布集成Ryzen 8040芯片的产品。Su表示，下一代Strix Point NPU将于2024年发布。AMD还宣布，Ryzen AI软件平台现已广泛提供，允许开发人员在Ryzen笔记本电脑上构建AI模型，并将模型转移到NPU中，以便CPU减少功耗。用户将获得对Whisper等基础模型和Llama 2等LLM的支持。为了驱动AI模型并利用当前对这项技术的热情，AMD、英伟达和英特尔等公司一直在进行一场AI芯片的竞逐。迄今为止，英伟达以其备受追捧的H100 GPU占据了最大的市场份额，用于训练像OpenAI的GPT这样的模型。
这次AMD发布的新芯片加速器和处理器为AI训练提供了更快的速度，开辟了更广阔的市场。
