阿里云宣布正式推出全棧智能計(jì)算解決方案 飛天智算平臺(tái)
2022-08-31 16:55:35 來源: 快科技

阿里云宣布正式推出全棧智能計(jì)算解決方案“飛天智算平臺(tái)”,同時(shí)上線兩座超大規(guī)模智算中心(AI時(shí)代的數(shù)據(jù)中心),為科研、公共服務(wù)、企業(yè)機(jī)構(gòu)提供強(qiáng)大的智能計(jì)算服務(wù)。

飛天智算平臺(tái)源于阿里巴巴內(nèi)部實(shí)踐,兩座新的超大規(guī)模智算中心都基于該平臺(tái),提供公共云、專有云兩種模式。

其中,張北智算中心的AI算力規(guī)模為12EFLOPS(每秒1200億億次浮點(diǎn)運(yùn)算),云端支持AI預(yù)訓(xùn)練大模型、AI Earth、數(shù)字人等前沿AI應(yīng)用,是全球最大的智算中心。

烏蘭察布智算中心算力為3EFLOPS(每秒300億億次浮點(diǎn)運(yùn)算),位于“東數(shù)西算”內(nèi)蒙古樞紐節(jié)點(diǎn),采用自然風(fēng)冷、AI調(diào)溫等綠色技術(shù),實(shí)現(xiàn)綠色低碳。

飛天智算平臺(tái)通過先進(jìn)的技術(shù)架構(gòu),千卡并行計(jì)算效率從傳統(tǒng)的64%提高到90%,可將算力資源利用率提高3倍以上,AI訓(xùn)練效率提升11倍,推理效率提升6倍。

網(wǎng)絡(luò)技術(shù)上,采用高性能RDMA網(wǎng)絡(luò),端對(duì)端延遲最低2微妙。

通信技術(shù)上,自研無阻塞通信技術(shù),計(jì)算過程中的數(shù)據(jù)交換速度提升了5倍以上。

存儲(chǔ)技術(shù)上,自研IO加速器,數(shù)據(jù)存取性能提升最高10倍。

大數(shù)據(jù)AI開發(fā)層,提供分布式訓(xùn)練框架,并通過API對(duì)分布式策略進(jìn)行自動(dòng)組合和調(diào)優(yōu),將訓(xùn)練效率提升11倍以上。

一站式AI計(jì)算開發(fā)服務(wù),對(duì)算法模型進(jìn)行量化、剪枝、稀疏化、蒸餾等操作,將推理效率提升6倍以上。

同時(shí),平臺(tái)可以運(yùn)行在x86、GPU、ARM等多種芯片類型的服務(wù)器上,實(shí)現(xiàn)“一云多芯”,支持多種處理器混合部署、統(tǒng)一調(diào)度,并可進(jìn)行應(yīng)用優(yōu)化,部分性能提升100%以上。

通過技術(shù)減排、能源結(jié)構(gòu)優(yōu)化、區(qū)域布局優(yōu)化、供應(yīng)鏈減碳、資源利用優(yōu)化五個(gè)方面,平臺(tái)降低了單位算力的碳排放,并通過液冷、電源技術(shù)、智能運(yùn)維等方式降低能耗,PUE最低可達(dá)1.09。

如今,飛天智算平臺(tái)已在阿里內(nèi)部廣泛應(yīng)用,支撐達(dá)摩院前沿AI和電商智能技術(shù)發(fā)展,并服務(wù)小鵬汽車、深勢(shì)科技、上汽集團(tuán)、中國(guó)氣象局、南方電網(wǎng)等機(jī)構(gòu)和企業(yè),支撐自動(dòng)駕駛、新藥研發(fā)、氣象預(yù)測(cè)、工業(yè)能源等行業(yè)大幅提升AI訓(xùn)練效率。

小鵬汽車:基于飛天智算在烏蘭察布建設(shè)智算中心“扶搖”,算力規(guī)模達(dá)600PFLOPS(每秒60億億次浮點(diǎn)運(yùn)算),是國(guó)內(nèi)最大的自動(dòng)駕駛智算中心,將自動(dòng)駕駛模型訓(xùn)練提速近170倍。

毫末汽車:基于飛天智算,實(shí)現(xiàn)128卡并行效率超96%,使自動(dòng)駕駛模型訓(xùn)練成本降低62%,訓(xùn)練速度提升110%,模型迭代周期大幅縮短。

深勢(shì)科技:采用飛天智算平臺(tái),將集群性能優(yōu)化提升超過100%,分子動(dòng)力學(xué)仿真模擬訓(xùn)練效率提升5倍以上。

智己汽車:運(yùn)用高性能計(jì)算,將工業(yè)仿真的效率提升25%,智能駕駛訓(xùn)練效率提升70%。

山東德州電力:通過AI進(jìn)行復(fù)核預(yù)測(cè),準(zhǔn)確率達(dá)到98%,耗時(shí)從1小時(shí)縮短至幾分鐘。

四川成宜高速:通過數(shù)字孿生,進(jìn)行車路協(xié)同優(yōu)化,使事故率降低60%。

重慶水務(wù):通過遙感數(shù)據(jù)與仿真推演,實(shí)現(xiàn)水利調(diào)度預(yù)測(cè)準(zhǔn)確性高達(dá)95%。

南方電網(wǎng)與中國(guó)氣象局:利用智算能力,提升氣象預(yù)報(bào)的準(zhǔn)確性與穩(wěn)定性。

責(zé)任編輯:zN_3156