11月10日,以“數字科技煥新啟航”為主題的2023數字科技生態大會在廣州市舉辦。會上,天翼云重磅發布一站式智算服務平臺“慧聚”。天翼云科技有限公司董事長、總經理胡志強對天翼云智算服務體系進行了全面解讀。
2023年是大模型高速發展的一年,大模型不斷擴大的參數規模和快速迭代的技術路線跨越式地提升了模型的能力,但是同時也為大模型的訓練和應用帶來了很多挑戰。比如算力利用率的瓶頸日益凸顯、算力成本壓力進一步增大、模型的構建難度不斷提升、模型的行業落地更加復雜。
為順應大模型時代對于云服務商的新要求,天翼云全面升級,構建了全棧大模型智算服務,包括打造智算數據中心AIDC、升級云智超一體化基礎設施平臺“云驍”、推出一站式智算服務平臺“慧聚”、構建國云大模型生態,形成云智一體的智算服務體系。
智算數據中心作為智算服務的載體,成為整個體系的基石。針對AI高強度運算帶來的散熱問題,天翼云推出了液冷DC艙,融合定制化液冷智算服務器,實現低至1.12的PUE。與此同時,天翼云也將“云驍”升級成為云智超一體化基礎設施服務平臺,構建了高性能RoCE網絡、并行文件存儲等服務;重點提升訓練加速、網絡加速等核心能力,同時升級了運維體系,實現對基礎設施的全面故障預測和感知。在國產化方面,“云驍”平臺率先在公有云加載天翼云RoCE網絡+國產GPU方案并實現商用。
在平臺層,天翼云在本次大會發布大模型的一站式智算服務平臺“慧聚”?!盎劬邸笔翘煲碓埔徽臼街撬惴掌脚_,在“云驍”基礎設施平臺的加持下,大幅降低大模型訓練、微調、部署、推理的門檻,提供一站式、全鏈路、低門檻、高安全的大模型訓推服務,為各種行業、各種場景提供從模型的生產到應用閉環的大模型解決方案。包含四大平臺:數據平臺,模型開發平臺,模型服務平臺和應用服務平臺。通過平臺提供數據準備、模型開發、任務管理、模型優化等七大主要產品功能模塊。內置工具集,集成核心技術,賦能合作伙伴解決訓練階段如何提升模型訓練時間,如何保證穩定訓練兩大核心痛點問題。
數字山河,云行無疆。在數字時代,以算力為核心的數字信息基礎設施已成為國家戰略性布局的關鍵組成部分。為持續釋放新型生產要素潛能,加速打通信息“大動脈”,創新打造經濟高質量增長新引擎,作為云計算領域的國家隊,天翼云依托國云智算底座,發揮國云安全優勢,將與產業各方合作伙伴緊密協作,共建繁榮的大模型創新生態,攜手打造先進的智算生產力,全面賦能經濟社會的數字化和智能化。