老黄深夜炸场，世界最强AI芯片H200前所未见发布！性能飙升90%，Llama 2推理速度翻倍，大批超算中心来袭

时间：2024-02-06 12:20:30

因为量化本体并不换幅度不大，如果以锻炼175B微小的GPT-3为例，精度和安天和并不少在10%有数。

GPU延时对于控制系统结构设计量化（HPC）应用于程序至关关键，因为它可以妥善解决问题并不太快的传输，和安高繁复侦查的管控停滞。

对于模拟、学术研究和人脑等GPU密集型HPC应用于，H200极较低的GPU延时可保障高效地访问和操纵数据，与CPU远比，赢得结果的时间最多可延缓110倍。

远比于H100，H200在管控控制系统结构设计量化的应用于程序上也有20%以上的和安天和。

而对于Gmail来说并不关键的解谜增量，H200远比H100这样一来不了了之。

这样，H200能急遽降较低Gmail的运用于运输成本，此后让Gmail「买的越加多，自治区的越加多」！

上个月，除此以外媒SemiAnalysis曾曝出一份英伟达未来会几年的操纵控制系统东上图，包括万众瞩目的H200、B100和「X100」GPU。

而英伟达官网，也定为了官网的电子产品东上图，将运用于同一构架结构设计三款晶片，在下次和后大会此后大受欢迎B100和X100。

B100，精度之前望大概背脊了

这次，英伟达却是在官网新闻稿中会年初了全部都是在此再次H200和B100，将即使如此数据的中会心晶片两年一并不换的速率这样一来翻倍。

以解谜1750亿值的GPT-3为例，今年快要定为的H100是代之A100精度的11倍，下次将会港交所的H200一般来说H100则有将数60%的和安天和，而日后再次的B100，精度却是望大概背脊。

自始，H100也视作了迄今在位最短的「旗舰级」GPU。

如果说H100如今就是科技领域产业的「黄金」，那么英伟达又急于所制造了「纯银」和「钻石」。

H200赐福，同类型AI超算的中会心大批侵袭

幽服务特别，除了英伟达自己房地产的CoreWee、Lambda和Vultr之除此以外，亚马孙幽科技领域、谷歌幽、苹果的公司Azure和象形文字幽公共服务，都将视作月所地面部队基于H200示例的供应商。

此除此以外，在在此再次H200赐福仍要，GH200超级晶片也将为全部都是球各地的超级量化的中会心缺少多达近200 Exaflops的AI算力，用以推广科学新颖。

在SC23会上上，多家顶级超算的中会心纷纷年初，将会运用于GH200控制系统构建自己的超级量化机。

奥地利彼得希超级量化的中会心将在超算JUPITER中会运用于GH200超级晶片。

这台超级量化机将视作欧洲4台超大规模超级量化机，是欧洲控制系统结构设计量化联合蓝图（EuroHPC Joint Undertaking）的一部分。

Jupiter超级量化机基于Eviden的BullSequana XH3000，引入全部都是V-本体。

它合计包括24000个英伟达GH200 Grace Hopper超级晶片，通过Quantum-2 Infiniband网络服务。

每个Grace CPU构成288个Neoverse软件包， Jupiter的CPU就有数700万个ARM本体。

它能缺少93 Exaflops的较低精度AI算力和1 Exaflop的高分辨率（FP64）算力。这台超级量化机原蓝图将于2024年装设日后行。

由义塾和京都所学校一同筹组的日本高性能控制系统结构设计量化联合的中会心，将在并不进一步超级量化机中会引入英伟达GH200 Grace Hopper超级晶片构建。

作为在世界上最大超算的中会心之一的乔治亚州现职量化的中会心，也将引入英伟达的GH200构建超级量化机Vista。

华盛顿所学校红酒分校的加拿大国际组织超级量化应用于的中会心，将借助英伟达GH200超级晶片来构建他们的超算DeltaAI，把AI量化能力和安高两倍。

此除此以外，伯明罕所学校将在英方的捐献下，督导建在英国不下于而有力的超级量化机Isambard-AI——将备有5000多颗英伟达GH200超级晶片，缺少21 Exaflops的AI量化能力。

英伟达、AMD、Intel：三巨背脊正面交锋AI晶片

GPU竞赛，也转回了拉锯。

面对H200，而据传对手AMD的蓝图是，借助将会大受欢迎的大杀器——Instinct MI300X来和安天和GPU精度。

MI300X将备有192GB的HBM3和5.2TB/s的GPU延时，这将使其在MB和延时上远超H200。

而Intel也摩拳擦掌，蓝图和安天和Gaudi AI晶片的HBMMB，并声称下次大受欢迎的第三代Gaudi AI晶片将从上一代的 96GB HBM2e提高到144GB。

IntelMax两部迄今的HBM2MB最高为128GB，Intel蓝图在未来会几代电子产品中会，还要提高Max两部晶片的MB。

H200价钱推断出

所以，H200兜售多少钱？英伟达暂时还未定为。

要并不知道，一块H100的价钱，在25000美元到40000美元错综复杂。锻炼AI建模，至少需数千块。

在此之后，AI乡村曾深入人心这张幻灯片《我们需多少个GPU》。

GPT-4分之一是在10000-25000块A100上锻炼的；Meta需分之一21000块A100；Stability AI用了并不少5000块A100；Falcon-40B的锻炼，用了384块A100。

根据马斯克的说法，GPT-5显然需30000-50000块H100。高盛的说法是25000个GPU。

Sam Altman否认了在锻炼GPT-5，但却和安过「OpenAI的GPU严重急需，运用于我们电子产品的人越加少越加好」。

我们能并不知道的是，等到下次下半年H200港交所，届时必定会引致在此再次贝里尔。

。