七剑下天山!AMD剑指2万亿AI计算市场

  AMD 董事会主席及首席实践官苏姿丰博士联袂众位高管与配合伙伴,深度解读环球AI算力资产繁荣趋向与墟市增量空间,同时宣告七大全栈AI新品矩阵。

  苏姿丰正在演讲中给出最新资产预判,跟着AI智能体、超长文本大模子、具身智能领域化落地,环球算力资产迎来布局性革新,估计2030年环球具体AI筹划墟市领域将打破2万亿美元,此中AI加快器墟市领域达1.4万亿美元、数据核心CPU墟市领域攀升至2200亿美元。

  苏姿丰正在演讲中核心夸大,AI资产已从简单GPU算力驱动,转向CPU+GPU+DPU+FPGA+软件生态的全栈协同算力时间,古板算力架构已无法适配MoE大模子、AI智能体的海量含糊与调节需求,全栈、怒放、云边畅通的算力体例将成为行业重心比赛力。

  峰会上,AMD重磅宣告了搜罗Helios机架级处分计划、Venice新一代EPYC数据核心CPU、MI400系列AI加快GPU、AI智能收集产物组合、ROCm.ai全域AI软件平台、Gorgon Halo开垦者适配平台、Kria AI呆板人模组等正在内的诸众新品。正在C114看来,AMD本次宣告的七大产物各司其职、层层联动,组成AMD专属“七剑”才气体例,精准适配方今AI落地等主通行业场景。

  Helios举动AMD本次宣告的旗舰级整机超节点,是七大产物的算力重心载体,负担超大领域模子教练、高并发推理重心劳动,对应“莫问剑”兼顾全体、聚力成势的重心定位。

  职能参数上,整机FP4峰值算力达2.9ExaFLOPS,搭载31TB超大HBM4团结显存池,纵向扩展带宽260TB/s、横向集群互联带宽43TB/s,适配DeepSeek、Llama等主流万亿级MoE夹杂架构大模子,高效支柱分散式专家并行、1M超长上下文推理等高负载场景。

  然而跟着智能体AI的兴起以及大模子推理集群的产生,算力架构对高并发调节、内存执掌与繁复数据流转提出了新央浼,这种算力布局的范式改观,高度依赖效劳器CPU的底层算力。

  全新EPYC Venice执掌器基于2nm工艺、Zen6架构打制,举动AI效劳器与超节点的负责中枢,负担营业接入、数据预执掌、算力调节、劳动分发等重心管事,宛如矛头攻坚的逛龙剑,可大幅擢升具体集群的并发执掌才气与营业相应速率,是全栈AI体例不成或缺的调节重心。

  “Venice”这块被AMD称之为“面向智能体时间的环球最强效劳器CPU”,面向分歧操纵场景,具有四个版本(SP7、SP8、Venice-X以及Verano)。

  比较自己前代EPYC Turin系列,EPYC Venice也出现出明显的代际擢升。每瓦特智能体执掌才气为前代的1.7倍,每瓦职能擢升1.4倍,每秒执掌令牌数(tokens/s)则进步至1.8倍。

  据AMD现场披露,与竞品比拟,正在通用CPU效劳器上,职能是88核英伟达Vera的3.3倍。举动GPU主机节点,前沿模子推理的每秒Token数是英特尔至强6960P的1.8倍。正在智能体CPU沙箱中,每瓦智能体数目是136核ArmAGI的2.8倍。

  举动GPU界限内的有力比赛者,MI400系列主打AI教练、长文本推理、HPC高职能仿真夹杂负载,分身通用AI与行业筹划,攻守兼备、适配众元负载,对应舍神剑雄浑保守的特质。

  重心参数方面,与上一代MI355X比拟,MI455X达成了代际超过,搭载432GB超大HBM4显存,例如今竞品先辈计划高50%;外面显存带宽高达23.3TB/s,擢升至上一代的2.9倍;FP8峰值算力20 PFLOPS,是上代产物的4倍;FP4极致算力40 PFLOPS,同样为上代产物的四4倍。苏姿丰正在现场外现,这些是“GPU厂商迄今公然过的最高实测数字”。

  大领域AI集群的职能瓶颈往往不正在算力,而正在互联通讯。AMD具体收集处分计划(AI DPU/NIC/UALoE fabric),举动集群通讯的防守与维稳重心,对应青干剑固阵稳局的特质,特意处分分散式教练、MoE专家调节中的收集堵塞、时延过高、资源占用过大等行业痛点。

  前端收集方面,AMD推出了第三代Pensando Salina DPU,400G带宽,职能翻倍,刻意软件界说收集、正在线加密和众种安乐效劳,并扶助阔别式存储架构。

  Scale-out收集方面,AMD推出了第二代800G Pensando“Vulcano”AI NIC,每颗GPU最众可配3张AI NIC,从而供应最高2.4Tbps的总带宽。Vulcano扶助智能负载平衡、硬件堵塞执掌,以及急迅丢包检测与复原,使GPU或许最大范围应用收集带宽,同时低重时延和发抖。

  Scale-UP收集方面,AMD推出了第一代UALoE fabric,可将72颗GPU连成像团结GPU资源池那样运转,供应260TB/s带宽,作战31TB HBM4团结内存,具备高牢靠性与高可用性。

  硬件算力的价钱,依托软件生态开释。全新升级的ROCm.ai全域AI软件平台,举动AMD全栈体例的“生态中枢”,负担算力调节、模子适配、链途优化的重心感化。

  本次版本升级后,平台训推归纳职能较上代擢升3倍,内置vLLM、SGLang主流推理框架,优化长上下文KVCache压缩、MoE算子交融、批量推理调节等重心才气。可团结调节Venice CPU、M430X系列GPU、Kria周围模组,达成云端、周围算力的团结管控与代码复用,搭修起准绳化、可转移、高职能的AI软件开垦与安置体例,彻底处分异构硬件适配动乱、模子转移本钱高的行业困难。

  据AMD高管正在现场先容,目前ROCm已扶助Hugging Face上高出300万个模子,能正在新开源模子宣告DAY0就供应扶助。过去一年,外部开垦者对ROCm开源软件栈的功绩拉长了10倍以上,明显改观了新效力交付速率、职能以及开箱即用体验。

  Gorgon Halo一体化开垦者平台装备最高192GB团结内存,对应竞星剑机动制衡的特质,厉重面向开垦者、科研团队、草创企业供应低本钱AI原型开垦境遇。

  平台预安置无缺ROCm.ai软件栈,无需繁复境遇摆设,开箱即可发展模子微调、众模态开垦、智能体管事流调试等管事。

  开垦者可正在Gorgon Halo完工300B参数大模子当地调试、算法验证与场景适配,通过统终身态无缝转移至Helios超节点大领域集群上线安置,酿成“当地验证-云端安置”的准绳化流程,大幅缩短AI模子从研发到落地的周期,低重AI开垦门槛,完美AMD全域开垦者生态构造。

  Kria AI Robotics呆板人异构模组举动AMD构造具身智能的重心载体,攻守随心、粉碎界线,对应天瀑剑融通底细的特质,达成云端大模子才气向周围物理修造的延长。模组集成FPGA、Zen CPU、RDNA GPU、XDNA NPU异构算力,扶助毫秒级及时负责与AI推理协同。

  的确来看,AMD此次宣告的新品搜罗Ryzen AI Embedded X100系列执掌器、Kira AI呆板人开垦者平台、Kria AI体例模块(SOM)、Kria AI呆板人开垦者平台,以及AMD呆板人配合伙伴收集。正在C114看来,Kria AI Robotics最大的特点即是易用性、怒放性和无缺性,补齐AMD云边端全域算力领土,卡位具身智能新赛道。

  正在C114看来,此次AMD七大新品纠合宣告,并不单仅是简单芯片的迭代升级,而是全栈AI算力体例的体例性落地。从Helios超节点的顶层算力支柱,到Venice CPU、M430X GPU的重心思算输出,再到“三位一体”的收集底座、ROCm.ai软件生态、Gorgon Halo开垦用具以及Kria周围终端的全域畅通,AMD完工了AI的全场景掩盖。

  七剑纵横擎算力,持锋破局逐新局。从Generative AI到Agentic AI再到Physical AI,智能的界线一贯从比特音信走向原子实体,算力需求也随之产生革新,但褂讪的是,AMD YES。