GTC 2024硬件一览:史上最强AI芯片GB200揭橥高达80亿晶体管

 常见问题     |      2024-03-27 02:38:12    |      小编

  原题目:GTC 2024硬件一览:史上最强AI芯片GB200揭橥!高达2080亿晶体管!

  当多人还正在睡梦中时,大洋彼岸有一场“科技春晚”静静召开。没错,又到了一年一度的GTC大会功夫。本年的GTC大会分歧以往,到底复原了线号。先给不明白GTC的玩家先容一下,GTC是合于AI的NVIDIA开拓者大会,集会中你能够明白怎么诈欺AI硬件、加快计较以及数据科学去塑造乃至是变动宇宙。

  本年的GTC峰会核心全体缠绕AI开展,2个幼时的功夫,老黄又一次带来了AI的革新功夫。当然除了老黄的揭幕演讲表,后面再有900多场激励人心的集会正在等着你。同时此次GTC大会还吸引了赶上200家展商,会聚了数千名分歧行业范围的从业职员一同参预。充足多彩的时间分享、越见杰出的更始时间,称它是AI的嘉会都不为过。思必你也好奇老黄收场正在GTC上带来了什么惊喜吧,别焦虑,本篇带你一见GTC峰会上的那些硬件产物。

  峰会伊始,咱们熟习的皮衣刀客准时退场。一上来就直奔这日的核心——AI,并呈现“加快式计较机的坐蓐力仍然来到了一个曲折点,天生式AI正正在加快起色,而咱们须要以一种全新的方法举办计较,才不妨进一步升高计较机坐蓐力。”

  而且还知心的显示了其己方亲手画出的合于计较机坐蓐力的演变流程,最终一项恰是这日的核心!

  没错,老黄正在GTC通告推出新一代GPU Blackwell。这里先先容一下Blackwell架构,此前NVIDIA推出的显卡通常是两种架构,此中游戏显卡比方咱们熟习的RTX 40系则是Ada Lovelace架构,而面向AI、大数据等操纵的专业级显卡则采用Hopper 架构。

  而老黄正在大会上则呈现“Blackwell不是一个芯片,它是一个平台的名字硬件。”趣味是Blackwell架构将同时用于以上两品种型的产物。借帮这一架构,NVIDIA将推出涵盖多个操纵范围的显卡,即RTX 50系显卡也会是这个架构。而且从老黄手上的芯片能够看出,新的Blackwell GPU的体积彰着比上代Hopper GPU要更大少少。

  至于这个架构名字的由来,则要追溯到美国科学院首位黑人院士、加州大学伯克利分校首位黑人毕生讲授戴维·布莱克维尔(David Blackwell),它是有名的数学家、统计学家,然而很惋惜的是这位讲授正在2010年因病作古。

  言反正传,让咱们延续眷注此次Blackwell GPU。“咱们须要更大的GPU,若是不行更大,就把更多GPU组合正在沿途,形成更大的虚拟GPU。”老黄正在GTC上也确实这么干了。Blackwell架构的首个GPU为B200,因为目前4nm造程工艺仍然亲热极限,以是NVIDIA也玩起了“拼图”,B200采用台积电的 4 纳米(4NP)工艺蚀刻而成,由两个芯片通过NVLink 5.0组合正在沿途,以10TB每秒的满血带宽互联,总的晶体管数目更是到达了恐慌的2080 亿。

  第五代NVLink互连则是将多个Blackwell GPU组合起来的厉重东西。它与古板的PCIe交流机分歧,NVLink带宽有限,能够正在供职器内的GPU之间告竣高速直接互连。目前第五代NVLink可每个GPU 供给了1.8TB/s双向含糊量,确保多达576个GPU之间的无缝高速通讯。

  这个RAS牢靠性引擎则是基于AI告竣,Blackwell 透过专用的牢靠性、可用性和可保卫性 (RAS) 引擎,可添加聪明还原材干,赶早辨认出恐怕产生的潜正在窒碍,尽恐怕缩短停机功夫。

  Secure AI肩负供给秘密运算性能,同时Blackwell也是业界第一款援救EE-I/O的GPU,它能够正在不影响功能的条件下,保卫你的数据安宁,这对付金融、医疗以及AI方面有极大影响。

  最终一项更始时间则是合于解压缩层面,材料剖析和材料库劳动流程此前更多是仰赖CPU 举办运算。若是放到GPU中举办则可大幅晋升端对端剖析的效劳,加快创作代价,同时低落本钱。

  Blackwell装备了专用的解压缩引擎,操纵历程中能够配合内置的Grace CPU告竣每秒900 GB的双向频宽,而且还能分身最新的压缩格局 (如 LZ4、Snappy和Deflate等)。

  而两个B200 GPU与Grace CPU联合就成为这日“炎热”的GB200超等芯片。这款超等芯片的功能愈加惊人,你认为H100仍然很疾了?不!GB200更疾,过去,正在90天内操练一个1.8万亿参数的MoE架构GPT模子,须要8000个Hopper架构GPU。现正在,你只须2000个Blackwell GPU就能够落成。

  官方称,正在法式的1750亿参数GPT-3基准测试中,GB200的功能是H100的7倍,供给的操练算力是H100的4倍。

  不止是功能更疾更强,Blackwell GPU还相当节能。仍是同样的操作,90天内操练一个1.8万亿参数的MoE架构GPT模子,8000个Hopper GPU要浪掷15兆瓦功耗,而今的Blackwell GPU仅需1/4的能耗就能告竣。

  若是你须要更强劲的GPU,NVIDIA也面向有大型需求的企业供给造品供职,供给完全的供职器。比方:GB200 NVL72,它将36个CPU和72个GPU插入一个液冷机架中,总共可告竣720 petaflops的AI操练功能或1,440 petaflops(1.4 exaflops)的推理。

  与雷同数主意72个H100比拟,GB200 NVL72的功能绝对是逆天的存正在,大模子推理功能能够晋升30倍,而且本钱和能耗只要前者的1/25。

  以上即是本次GTC 2024的硬件合联报道,恐怕有玩家会说,何如没有游戏显卡?实在遵从过往老例,NVIDIA并没有正在GTC上推出消费级显卡的民风。然而本次NVIDIA正在GTC 2024上推出的B100显卡所操纵的架构是Blackwell,上面咱们也讲过了,这是一个超出数据中央与消费级产物的架构,这也就意味着咱们熟习的GeForce显卡该当也是统一架构的产物,不出不料的话,下半年咱们就希望看到心心念念的RTX 50系显卡了!返回搜狐,查看更多GTC 2024硬件一览:史上最强AI芯片GB200揭橥高达2080亿晶体管