飛象網訊 9月21日,在華為全聯接大會2023上,華為常務董事、華為云CEO張平安宣布昇騰AI云服務已正式上線,企業一鍵接入即可獲取澎湃的AI算力,讓千行萬業實現大模型普惠。同時昇騰AI云服務“百模千態”專區亦已正式上線,支撐企業和開發者更加快速地創建自己的大模型應用,在大模型時代快人一步。 張平安指出,全智能時代,AI算力的需求急劇增長。但AI服務器的功率密度遠超通用服務器,單機柜功耗是過去的6-8倍,且需要專用的液冷系統散熱;同時大模型訓練需要百卡、千卡甚至萬卡支撐,服務器之間的互聯、時延、可靠性、運維極為復雜,自建AI數據中心面臨諸多挑戰。
為了更好地支撐“百模千態”,華為云在貴安、烏蘭察布、蕪湖部署三大AI算力中心,為企業提供澎湃AI算力。企業只需一鍵接入,即可隨取隨用AI云服務,不用再費時費力自建或改造傳統數據中心。
為保護用戶數據,華為云昇騰AI云服務采用數據傳輸加密、數據存儲加密、數據安全清除、數據訪問控制、數據水印防泄露等多重技術,保障云上訓練的數據全生命周期安全。
同時,華為云昇騰AI云服務“百模千態”專區也已經上線。除了支持盤古大模型,還將適配業界主流的上百個開源大模型,如LLAMA,GLM等。企業既可以基于盤古L0層和L1層能力,建設自己的大模型應用,也可以基于業界開源的大模型技術,打造自己的專屬大模型。
此外,華為云昇騰AI云服務還提供高效長穩的大模型訓練環境和完備的工具鏈,實現千卡訓練連續30天不中斷,任務恢復時長小于30分鐘;并可通過30多個可視化調優和部署工具,幫助企業更高效進行數據處理、模型微調、Prompt工程等,完成一個千億參數行業模型的端到端開發,可從過去的5個月縮短到現在的1個月,整體速度提升5倍。