主題: 全程回顧黃仁勛GTC演講:Blackwell架構(gòu)B200芯片登場
2024-03-19 08:57:08          
功能: [發(fā)表文章] [回復(fù)] [快速回復(fù)] [進入實時在線交流平臺 #1
 
 
頭銜:金融島總管理員
昵稱:花臉
發(fā)帖數(shù):64918
回帖數(shù):2132
可用積分數(shù):15888056
注冊日期:2011-01-06
最后登陸:2024-10-25
主題:全程回顧黃仁勛GTC演講:Blackwell架構(gòu)B200芯片登場


財聯(lián)社3月19日訊(編輯 史正丞)北京時間3月19日4時-6時,英偉達創(chuàng)始人黃仁勛在美國加州圣何塞SAP中心登臺,發(fā)表GTC 2024的主題演講《見證AI的變革時刻》。鑒于過去一年多時間里AI帶來的生產(chǎn)力變革,以及英偉達等一眾概念股的表現(xiàn),老黃的演講已經(jīng)變成全球資本市場翹首以待的熱門事件。
在這場兩個小時的演講中,黃仁勛公布了搭載B200芯片的GB200 Grace Blackwell超級芯片系統(tǒng),以及英偉達在AI軟件(NIM微服務(wù))、Omiverse云、具身智能方面的最新進展。
以下為演講內(nèi)容回顧:
播放開場影片
黃仁勛登臺,對觀眾們強調(diào):我希望你們搞清楚今天這里不是演唱會,而是一場開發(fā)者大會。
黃仁勛介紹了本屆GTC的一些參與者,并強調(diào)這些公司不只是來參會,而是有自己的東西要來展示。
黃仁勛展示英偉達發(fā)展史,又提了將首臺DGX One送給OpenAI的故事。
黃仁勛:今天我們將討論這個新行業(yè)的許多問題。我們要談?wù)勅绾芜M行計算、我們要談?wù)勀闼鶚?gòu)建的軟件類型,你將如何看待這個新軟件,新行業(yè)中的應(yīng)用 然后,也許(再談?wù)劊┫乱徊绞鞘裁?,我們?nèi)绾螐慕裉扉_始做準備,下一步會發(fā)生什么。
黃仁勛:我們使用仿真工具來創(chuàng)造產(chǎn)品,并不是為了降低計算成本,而是為了擴大計算規(guī)模。我們希望能夠以完全保真、完全數(shù)字化的方式模擬我們所做的整個產(chǎn)品。從本質(zhì)上講,我們稱之為數(shù)字孿生。
老黃開始介紹一系列“新加速生態(tài)系統(tǒng)”合作伙伴,包括ANSYS、Synopsis、Cadence等。他也提及,臺積電和Synopsys將突破性的英偉達計算光刻平臺投入生產(chǎn)。
隨著transformer模型被發(fā)明,我們能以驚人的速度擴展大型語言模型,實際上每六個月就能翻一番。而為了訓(xùn)練這些越來越大的模型,我們也需要更強的算力。
“非常強大”的Blackwell架構(gòu)GPU登場
老黃現(xiàn)場對比Blackwell架構(gòu)和Grace Hopper架構(gòu)的GPU
老黃現(xiàn)場展示Grace-Blackwell系統(tǒng)(兩個Blackwell GPU、四個die與一個Grace Cpu連接在一起)。GB200將兩個B200 Blackwell GPU與一個基于Arm的Grace CPU進行配對。新芯片擁有2080億個晶體管,所有這些晶體管幾乎同時訪問與芯片連接的內(nèi)存。
為了處理大規(guī)模數(shù)據(jù)中心的GPU交互問題,也需要更強的連接(NVlink)能力。
這個GB200新系統(tǒng)提升在哪里呢?老黃舉例稱,如果要訓(xùn)練一個1.8萬億參數(shù)量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續(xù)跑上90天。但如果使用Blackwell GPU,只需要2000張,同樣跑90天只要消耗四分之一的電力。當然不只是訓(xùn)練,生成Token的成本也會隨之降低。
把芯片做大的好處:單GPU每秒Token吞吐量翻了30倍
毫無疑問,微軟Azure、AWS、谷歌云等一眾科技巨頭都是Blackwell架構(gòu)的首批用戶。
接下來應(yīng)該是應(yīng)用側(cè)的部分,先展示的是生物醫(yī)藥的部分,包括NVIDIA DGX云中的多項更新。
黃仁勛宣布新的AI微服務(wù),用于開發(fā)和部署企業(yè)級生成式AI應(yīng)用。老黃表示,未來如何開發(fā)軟件?與現(xiàn)在寫一行行代碼不同,未來可能就要靠一堆NIMs(Nvidia inference micro service),用與AI聊天的形式調(diào)動一堆NIMS來完成訓(xùn)練、應(yīng)用的部署。英偉達的愿景是成為AI軟件的“晶圓廠”。
英偉達的AI微服務(wù)NIM網(wǎng)站已經(jīng)上線。
NIM微服務(wù)提供了最快、性能最高的AI生產(chǎn)容器,用于部署來自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型,以及來自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的開放模型。
NVIDIA AI Enterprise軟件平臺更新,包括NIM、構(gòu)建RAG應(yīng)用程序的工具等。隨后老黃又分享了西門子科技、日產(chǎn)汽車等用如何在工作流中將Omiverse Cloud應(yīng)用在工作流中。
黃仁勛宣布,現(xiàn)在支持將Omniverse云推流至Vision Pro。
可能是時間不太夠了,老黃開始加速官宣一系列合作。其中提到全球最大電動車公司比亞迪將采用英偉達集中式車載計算平臺DRIVE Thor開發(fā)下一代電動車。此外,比亞迪同時將使用英偉達基礎(chǔ)設(shè)施進行自動駕駛模型訓(xùn)練,以及英偉達Isaac來設(shè)計/模擬智能工廠機器人。
開始提機器人了。黃仁勛表示,在我們的世界里,類人機器人很有可能會發(fā)揮更大的作用,我們設(shè)置工作站、制造和物流的方式都是為人類設(shè)計的。黃仁勛同時宣布一項名為GR00T的項目,旨在進一步推動英偉達在機器人和具身智能的突破性工作。由GR00T驅(qū)動的機器人可以理解自然語言,并通過觀察人類動作來模擬運動。

除了機器人影像外,迪士尼的orange和green機器人也來到現(xiàn)場,這款機器人用的是英偉達為機器人設(shè)計的首款A(yù)I芯片Jetson。
黃仁勛帶著機器人下場,現(xiàn)場播放ending影片
黃仁勛返場告別,全場發(fā)布會結(jié)束。
(財聯(lián)社 史正丞 )

【免責(zé)聲明】上海大牛網(wǎng)絡(luò)科技有限公司僅合法經(jīng)營金融島網(wǎng)絡(luò)平臺,從未開展任何咨詢、委托理財業(yè)務(wù)。任何人的文章、言論僅代表其本人觀點,與金融島無關(guān)。金融島對任何陳述、觀點、判斷保持中立,不對其準確性、可靠性或完整性提供任何明確或暗示的保證。股市有風(fēng)險,請讀者僅作參考,并請自行承擔(dān)相應(yīng)責(zé)任。
 

結(jié)構(gòu)注釋

 
 提示:可按 Ctrl + 回車鍵(ENTER) 快速提交
當前 1/1 頁: 1 上一頁 下一頁 [最后一頁]