主題: 首個國產(chǎn)單池萬卡液冷算力集群投入運營 滿足萬億級大模型訓(xùn)練需求
2024-03-23 10:26:33          
功能: [發(fā)表文章] [回復(fù)] [快速回復(fù)] [進入實時在線交流平臺 #1
 
 
頭銜:金融島總管理員
昵稱:花臉
發(fā)帖數(shù):64914
回帖數(shù):2132
可用積分?jǐn)?shù):15883241
注冊日期:2011-01-06
最后登陸:2024-10-24
主題:首個國產(chǎn)單池萬卡液冷算力集群投入運營 滿足萬億級大模型訓(xùn)練需求

澎湃新聞

天翼云上海臨港國產(chǎn)萬卡算力池正式啟用。

3月22日,中國電信宣布,天翼云上海臨港國產(chǎn)萬卡算力池正式啟用,同時入駐首批用戶。這是國內(nèi)首個投入正式運營的國產(chǎn)單池萬卡液冷算力集群,也是業(yè)內(nèi)領(lǐng)先的全國產(chǎn)化云智一體公共智算中心。

會上,人工智能研究院、稀宇科技、百川智能、思必馳科技、億熵智能科技、瀾碼科技、賽隴生物科技、天壤智能科技8家合作伙伴簽署入駐協(xié)議。

全球人工智能發(fā)展正在進入“深水區(qū)”。隨著生成式AI的迭代和發(fā)展,大模型規(guī)模以驚人的速度擴展,萬億參數(shù)級別幾乎成為通用大模型的標(biāo)配,由此帶來的是算力需求的急劇增長。

作為踐行《新型數(shù)據(jù)中心“算力浦江”行動計劃(2022-2024年)》的重要舉措之一,中國電信在臨港新片區(qū)成立臨港算力(上海)科技有限公司,加速臨港算力中心建設(shè),為長三角提供更加優(yōu)質(zhì)、更加普惠的智算公共服務(wù)。2024年初,中國電信在上海臨港智算園區(qū)投建15000卡公共智能算力中心,這是全國規(guī)模最大的運營商級智算中心。

經(jīng)過緊張的建設(shè),3月22日,上海臨港智算園區(qū)的首個國產(chǎn)單池萬卡液冷算力集群正式交付,并投入商業(yè)運營。

此次啟用的天翼云上海臨港國產(chǎn)單池萬卡液冷算力集群創(chuàng)新性地采用網(wǎng)絡(luò)中置、算力分層的“魔方”型,實現(xiàn)了單一集群內(nèi)萬卡高速互聯(lián),滿足萬億級參數(shù)大模型訓(xùn)練所需的多機多卡并行、高吞吐無損通信等需求。同時,為了實現(xiàn)綠色低碳的目標(biāo),全面采用融合液冷服務(wù)和IDC基礎(chǔ)設(shè)施的新一代智算液冷DC艙,實現(xiàn)了數(shù)據(jù)中心的能效和智算集群的算效雙提升,為“人工智能+”提供智能、彈性的綠色算力。

據(jù)介紹,此次正式運營的公共智算中心,以中國電信天翼云自研TeleCloudOS 4.0為底座,承載天翼云算力分發(fā)網(wǎng)絡(luò)平臺“息壤”、智算基礎(chǔ)設(shè)施平臺“云驍”、一站式智算服務(wù)平臺“慧聚”,構(gòu)建算力聚合分發(fā)的新模式,實現(xiàn)全棧能力自主可控、安全可信,多項技術(shù)指標(biāo)領(lǐng)先,可為大模型企業(yè)提供從算力供給、算力輸送、算力調(diào)度到模型訓(xùn)練及推理應(yīng)用的一站式服務(wù)。

會上,八家合作伙伴宣布將作為首批用戶入駐臨港國產(chǎn)算力池,其中既有通用語言大模型公司百川智能、稀宇科技、思必馳科技、天壤智能,也有金融領(lǐng)域的行業(yè)大模型金聲玉亮、企業(yè)級AI-Agent平臺公司瀾碼科技、AI創(chuàng)新生物制藥公司賽隴生物,以及上海人工智能研究院,基本覆蓋基礎(chǔ)層、技術(shù)層、應(yīng)用層等人工智能完整產(chǎn)業(yè)鏈。

思必馳科技聯(lián)合創(chuàng)始人、首席科學(xué)家俞凱接受澎湃新聞記者采訪時表示,此次國產(chǎn)萬卡算力池解決了算力供應(yīng)問題,對租用算力的企業(yè)來說主要考慮兩個問題,一個是有沒有算力,二個是能不能用得起?!艾F(xiàn)在算力是有了,用不用得起上海是有一系列配套政策的。”俞凱表示,這次國產(chǎn)萬卡算力池正式商用是一個很好的開始,在模型訓(xùn)練過程中一些適配以及針對性調(diào)整,總體上屬于先進水平的算力中心。

【免責(zé)聲明】上海大牛網(wǎng)絡(luò)科技有限公司僅合法經(jīng)營金融島網(wǎng)絡(luò)平臺,從未開展任何咨詢、委托理財業(yè)務(wù)。任何人的文章、言論僅代表其本人觀點,與金融島無關(guān)。金融島對任何陳述、觀點、判斷保持中立,不對其準(zhǔn)確性、可靠性或完整性提供任何明確或暗示的保證。股市有風(fēng)險,請讀者僅作參考,并請自行承擔(dān)相應(yīng)責(zé)任。
 

結(jié)構(gòu)注釋

 
 提示:可按 Ctrl + 回車鍵(ENTER) 快速提交
當(dāng)前 1/1 頁: 1 上一頁 下一頁 [最后一頁]