英偉達全新GPUB200發布:一臺服務器相當于一個超級計算機

  • 發布于:2024-03-20 03:00:05
  • 來源:藍鯨體育
在今天開幕的GTC 2024上,黃仁勛帶來了新的B200 GPU,其擁有2080億個晶體管,可提供高達20petaflops的FP4算力。

至于GB200,就是將兩個GPU和一個Grace CPU結合在一起,可為LLM推理工作負載提供30倍的性能,同時還可能大大提高效率。英偉達也形象給出了提升的高度,比如訓練一個1.8萬億個參數的模型以前需要8000個Hopper GPU和15兆瓦的電力。如今,2000個Blackwell GPU就能完成這項工作,耗電量僅為4兆瓦。

不過,英偉達并沒有公布關于B200和其相關產品的價格,只表示亞馬遜、谷歌、微軟和甲骨文等公司都已計劃在其云服務產品中裝配NVL72機架,但沒有公布這些公司的購買數量,只透露了亞馬遜AWS已計劃采購由2萬片GB200芯片組建的服務器集群,可以部署27萬億個參數的模型。

相關閱讀:電競游戲綜合游戲泛游戲

亚洲第一在线综合在线,欧美日韩黄色一区二区,欧美一区综合,在线亚洲一区二区
>