机锋资讯11月14日,不得不说,老黄懂得什么叫做惊喜,泰半夜的悄悄的宣告了目前地标最强的AI芯片-H200,让咱们一同来看看吧。
英伟达今日宣告了下一代人工智能超等揣度机芯片,这些芯片将正在深度研习和大型言语模子(LLM)方面阐扬紧要影响,例如 OpenAI 的 GPT-4。新芯片比拟上一代有了明显的奔腾,将被用于数据中央和超等揣度机,照料诸如气象和天色预测、药物发掘、量子揣度等义务。

此次宣告的环节产物是基于英伟达的“Hopper”架构的 HGX H200 GPU,是 H100 GPU 的继任者,也是该公司第一款利用 HBM3e 内存的芯片,这种内存速率更速,容量更大,是以更适合大型言语模子。英伟达称:“借助 HBM3e,英伟达 H200 以每秒 4.8 TB 的速率供应 141GB 的内存,与 A100 比拟,容量险些是其两倍,带宽推广了 2.4 倍。”

英伟达此次宣告的另一个环节产物是 GH200 Grace Hopper“超等芯片(superchip)”,其将 HGX H200 GPU 和基于 Arm 的英伟达 Grace CPU 通过该公司的 NVLink-C2C 互毗连合起来,官方称其专为超等揣度机打算,让“科学家和钻探职员可以通过加快运转 TB 级数据的繁复 AI 和 HPC 使用次序,来办理宇宙上最具离间性的题目”。
GH200 将被用于“环球钻探中央、体系创设商和云供应商的 40 众台 AI 超等揣度机”,此中囊括戴尔、Eviden、惠普企业(HPE)、联念、QCT 和 Supermicro。此中值得留心的是,HPE 的 Cray EX2500 超等揣度机将利用四途 GH200,可扩展到数万个 Grace Hopper 超等芯片节点。

也许最大的 Grace Hopper 超等揣度机是位于德邦 Jülich 工场的 JUPITER,正在 2024 年安设后将成为“宇宙上最庞大的 AI 体系”。其利用了液冷架构,其加强模块由近 24000 个英伟达 GH200 超等芯片构成,这些芯片通过英伟达 Quantum-2 InfiniBand 收集平台互连。
英伟达显示,JUPITER 将有助于正在众个范围博得科学打破,囊括天色和气象预测,天生高区别率的天色和气象模仿,并实行交互式可视化。它还将被用于药物发掘、量子揣度和工业工程,此中很众范围利用定制的英伟达软件办理计划,这些办理计划简化了开垦,但也使超等揣度团队依赖于英伟达硬件。
除此之外,正在上个季度,英伟达仅正在 AI 和数据中央范围就告终了创记录的 103.2 亿美元的收入(总收入为 135.1 亿美元),比一年前增加了 171%,英伟达无疑心愿新的 GPU 和超等芯片可以助助其持续这一趋向。即日英伟达的股价也是再次告终了暴涨。