飛象網(wǎng)訊 9月21日,在華為全聯(lián)接大會(huì)2023現(xiàn)場,華為常務(wù)董事、華為云CEO張平安以“共建智能世界云底座,讓AI重塑千行萬業(yè)”為題發(fā)表主旨演講。張平安宣布,華為云昇騰AI云服務(wù)正式上線,所有企業(yè)可即刻在華為云官網(wǎng)上購買和使用。
全智能時(shí)代,AI算力需求講迎來爆發(fā)式增長。華為預(yù)計(jì),到2030年通用計(jì)算能力將增長10倍,AI計(jì)算能力將增長500倍。然而,由于AI服務(wù)器的功率密度遠(yuǎn)超通用服務(wù)器,單機(jī)柜功耗是傳統(tǒng)機(jī)柜的6至8倍,并需專用液冷系統(tǒng)散熱,且大模型訓(xùn)練需要百卡、千卡甚至萬卡,服務(wù)器之間的互聯(lián)、時(shí)延、可靠性、運(yùn)維極為復(fù)雜,自建AI數(shù)據(jù)中心面臨諸多挑戰(zhàn)。
為更好支持大模型的“百模千態(tài)”創(chuàng)新,華為云在貴安、烏蘭察布、蕪湖打造了3大AI云算力中心,為企業(yè)提供澎湃昇騰AI算力,讓企業(yè)再也不需要高價(jià)搶購GPU,也不需要擔(dān)心GPU未來潛在的供應(yīng)連續(xù)性挑戰(zhàn)。
同時(shí),華為云昇騰AI云服務(wù)百模千態(tài)專區(qū)已正式上線,讓企業(yè)和開發(fā)者可以快速創(chuàng)建自己的大模型應(yīng)用,在大模型時(shí)代快人一步。
華為云昇騰AI云服務(wù)百模千態(tài)專區(qū)收錄了業(yè)界主流開源大模型,如LLAMA,GLM等,并全面基于昇騰AI云服務(wù)進(jìn)行適配和優(yōu)化,精度和性能顯著提升。同時(shí),專區(qū)提供豐富的應(yīng)用開發(fā)的工具鏈,開發(fā)工具已經(jīng)全部實(shí)現(xiàn)了云化,免去繁瑣的配置流程,實(shí)現(xiàn)一鍵接入,即開即用。
在云上,華為云提供了高效長穩(wěn)的大模型訓(xùn)練環(huán)境和完備的工具鏈:實(shí)現(xiàn)千卡訓(xùn)練連續(xù)30天不中斷,任務(wù)恢復(fù)時(shí)長小于30分鐘;通過30多個(gè)可視化調(diào)優(yōu)和部署工具,幫助企業(yè)更高效進(jìn)行數(shù)據(jù)處理、模型微調(diào)、Prompt工程等,完成一個(gè)千億參數(shù)的行業(yè)模型端到端開發(fā),從過去需要5個(gè)月縮短到現(xiàn)在1個(gè)月,整體速度提升5倍。
(昇騰AI云服務(wù)百模千態(tài)專區(qū))
此外,專區(qū)還提供了豐富的使用指導(dǎo),企業(yè)和個(gè)人開發(fā)者只需要登錄專區(qū),自助申請?bào)w驗(yàn)。審核通過后,即可通過點(diǎn)擊相應(yīng)的開源大模型進(jìn)入控制臺(tái)進(jìn)行部署,并發(fā)布成在線服務(wù)進(jìn)行推理調(diào)用。
在大模型訓(xùn)練數(shù)據(jù)安全方面,華為云采用了數(shù)據(jù)傳輸與存儲(chǔ)加密、數(shù)據(jù)安全清除、數(shù)據(jù)訪問控制、數(shù)據(jù)水印防泄露等多重技術(shù),確保大模型訓(xùn)練數(shù)據(jù)的全生命周期安全。