華為,AI突破將發(fā)布
來(lái)源:中國(guó)基金報(bào)
中國(guó)基金報(bào)記者 邱德坤
記者11月16日獲悉,華為華為將在11月21日發(fā)布AI領(lǐng)域的突破突破性技術(shù),有望解決算力資源利用效率的華為難題。
具體來(lái)看,突破華為即將發(fā)布AI領(lǐng)域的華為突破性技術(shù),可將GPU(圖形處理器)、突破NPU(神經(jīng)網(wǎng)絡(luò)處理器)等算力資源的華為利用率,從行業(yè)平均的突破30%至40%提升至70%,顯著釋放算力硬件潛能。華為
據(jù)透露,突破華為即將發(fā)布AI領(lǐng)域的華為突破性技術(shù),是突破通過(guò)軟件創(chuàng)新實(shí)現(xiàn)英偉達(dá)、昇騰及其他三方算力的華為統(tǒng)一資源管理與利用,屏蔽算力硬件差異,突破為AI訓(xùn)練推理提供更高效的華為資源支撐。
同時(shí),華為即將發(fā)布AI領(lǐng)域的突破性技術(shù),與以色列AI初創(chuàng)公司Run:ai的核心技術(shù)路線有共同性,后者在2024年底被英偉達(dá)以7億美元資金收購(gòu)。
公開(kāi)資料顯示,Run:ai自2018年成立以來(lái),一直專注于GPU調(diào)度技術(shù),并致力于打造一個(gè)能將AI模型拆分并行運(yùn)行的平臺(tái),無(wú)論硬件位于本地、云端還是邊緣。
據(jù)悉,管理生成式AI、推薦系統(tǒng)、搜索引擎等工作負(fù)載,需要復(fù)雜的調(diào)度來(lái)優(yōu)化系統(tǒng)和底層硬件的性能。
Run:ai的核心產(chǎn)品是基于kubernetes(開(kāi)源容器編排平臺(tái))構(gòu)建的軟件平臺(tái),用于調(diào)度GPU的計(jì)算資源,通過(guò)動(dòng)態(tài)調(diào)度、池化、分片等技術(shù),實(shí)現(xiàn)GPU資源利用率的優(yōu)化,讓深度學(xué)習(xí)訓(xùn)練與推理任務(wù)在企業(yè)級(jí)環(huán)境中高效運(yùn)行。
校對(duì):王玥
制作:小茉
審核:木魚(yú)