8月28日,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)在貴州貴陽舉行。會(huì)議期間,中國電信舉辦了以“聚數(shù)乘云 天翼賦能數(shù)字經(jīng)濟(jì)新生態(tài)”為主題的天翼云中國行·貴州站“數(shù)據(jù)賦能”交流活動(dòng)。貴州省副省長蔡朝林、國家數(shù)據(jù)局副局長夏冰、中國電信集團(tuán)有限公司副總經(jīng)理唐珂出席活動(dòng)。貴州省大數(shù)據(jù)發(fā)展管理局、貴州省通信管理局、貴州省工業(yè)和信息化廳、貴陽市人民政府、中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所等企事業(yè)單位代表蒞臨現(xiàn)場(chǎng)。會(huì)上,中國電信全國首發(fā)上線“魔樂(Modelers)開發(fā)者社區(qū)”。
Modelers開發(fā)者社區(qū)上線首發(fā)儀式
當(dāng)前,人工智能已進(jìn)入加快推進(jìn)應(yīng)用落地的關(guān)鍵階段。為進(jìn)一步驅(qū)動(dòng)國內(nèi)人工智能產(chǎn)業(yè)發(fā)展,加快技術(shù)創(chuàng)新和商業(yè)落地,中國電信聯(lián)合伙伴發(fā)布魔樂(Modelers)開發(fā)者社區(qū)。作為開發(fā)者交流、學(xué)習(xí)和創(chuàng)新的平臺(tái),魔樂(Modelers)開發(fā)者社區(qū)集成了模型庫、數(shù)據(jù)集和體驗(yàn)空間、開發(fā)工具鏈等核心組件,覆蓋自然語言處理、視覺、音頻等多個(gè)領(lǐng)域,可提供原生模型、易用開發(fā)工具、豐富的生態(tài)資源,幫助開發(fā)者獲取領(lǐng)先的人工智能技術(shù),打造出更有競(jìng)爭(zhēng)力和差異化的模型及應(yīng)用。天翼云通過建設(shè)社區(qū),構(gòu)建中文環(huán)境下的算力、數(shù)據(jù)、模型、應(yīng)用和新CDMA服務(wù),希望吸引全國開發(fā)者,共同繁榮國產(chǎn)AI生態(tài)。
會(huì)上,天翼云科技有限公司副總經(jīng)理弓劍煒以“云智一體 國云助力數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展”為題發(fā)表演講。弓劍煒表示,天翼云構(gòu)建領(lǐng)先的“息壤”一體化智算服務(wù)體系和能力,全方位開放生態(tài)合作,為廣大客戶提供“供得上、用得起、用得好”的算力服務(wù)?!跋⑷馈蓖黄屏硕囗?xiàng)關(guān)鍵技術(shù),擁有強(qiáng)大的算網(wǎng)調(diào)度能力、高效的異構(gòu)計(jì)算能力、一站式的訓(xùn)推服務(wù)能力,積累了豐富的落地應(yīng)用案例。
天翼云科技有限公司副總經(jīng)理 弓劍煒
算網(wǎng)調(diào)度能力方面,“息壤”在三個(gè)方面取得顯著技術(shù)突破。通過算力插件和算力網(wǎng)關(guān),實(shí)現(xiàn)了算力的統(tǒng)一、高效和云化接入;通過算數(shù)協(xié)同和多級(jí)算力互聯(lián)調(diào)度,實(shí)現(xiàn)了算數(shù)網(wǎng)的一體化調(diào)度,數(shù)隨算走,算隨數(shù)動(dòng),調(diào)度區(qū)域更廣,算力更泛在;借助大模型認(rèn)知能力和業(yè)務(wù)調(diào)度,實(shí)現(xiàn)算力選擇和應(yīng)用部署簡單化,故障自動(dòng)恢復(fù)與負(fù)載均衡,使算力簡便易用。
基于上述技術(shù)突破和產(chǎn)品化應(yīng)用,“息壤”可服務(wù)于三大算力場(chǎng)景。一是天翼云自營公共算力服務(wù)平臺(tái),目前已接入39家算力伙伴,實(shí)現(xiàn)三方各類算力可調(diào)度22EFLOPS,顯著擴(kuò)大算力規(guī)模和品類,滿足公有云客戶的多元算力需求。二是幫助客戶構(gòu)建行業(yè)算力互聯(lián)網(wǎng),例如高校算力聯(lián)盟等,實(shí)現(xiàn)行業(yè)內(nèi)算力利用率的有效提升。三是幫助地方政府構(gòu)建城市算力互聯(lián)網(wǎng),實(shí)現(xiàn)區(qū)域內(nèi)多方算力的一體化統(tǒng)籌調(diào)度,助力地方經(jīng)濟(jì)和產(chǎn)業(yè)發(fā)展,目前已在貴州等多個(gè)區(qū)域成功實(shí)施。
異構(gòu)計(jì)算能力方面,“息壤”具備高效的異構(gòu)計(jì)算能力,能夠破解大模型訓(xùn)練推理中面臨的大算力、高性能、高穩(wěn)定需求等挑戰(zhàn)。在大算力需求方面,天翼云建設(shè)PB級(jí)并行文件存儲(chǔ),并組建低延時(shí)超大規(guī)模RDMA網(wǎng)絡(luò),通過計(jì)算、內(nèi)存和通訊的多維優(yōu)化,提升綜合算效。在性能方面,對(duì)AI框架進(jìn)行升級(jí)、存儲(chǔ)加速,實(shí)現(xiàn)checkpoint文件快速保存、加載,將國產(chǎn)算力的綜合算效提升到了行業(yè)可比水平。在穩(wěn)定性方面,通過多項(xiàng)指標(biāo)的監(jiān)控分析,實(shí)現(xiàn)故障訓(xùn)前發(fā)現(xiàn),有效控制大模型訓(xùn)練中斷恢復(fù)時(shí)長,實(shí)現(xiàn)訓(xùn)練任務(wù)長期穩(wěn)定、高可用運(yùn)行。此外,天翼云基于國產(chǎn)萬卡智算集群和自研智算平臺(tái),已具備支撐萬億參數(shù)基礎(chǔ)大模型訓(xùn)練的能力。
訓(xùn)推服務(wù)能力方面,“息壤”一站式的訓(xùn)推服務(wù)能力,可降低大模型應(yīng)用創(chuàng)新開發(fā)門檻。平臺(tái)預(yù)置行業(yè)數(shù)據(jù)集、納管國內(nèi)外主流AI加速硬件、預(yù)置基于國產(chǎn)算力的多個(gè)基礎(chǔ)大模型等全棧工具鏈能力,將大模型精調(diào)場(chǎng)景簡化操作至選數(shù)據(jù)、選硬件和選模型三個(gè)步驟,簡化部署、提升效率;通過自研AI框架、3D并行加速、自研訓(xùn)練加速庫、容器調(diào)度優(yōu)化等核心技術(shù),大幅提升訓(xùn)練效率;通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術(shù),顯著提高推理效率;通過全鏈路故障檢測(cè)、定位、告警,全鏈路日志監(jiān)控與可視化、斷點(diǎn)續(xù)訓(xùn)快速恢復(fù)等核心技術(shù),實(shí)現(xiàn)訓(xùn)推過程全鏈路監(jiān)控。
人工智能產(chǎn)業(yè)的發(fā)展和繁榮離不開生態(tài)沃土的“滋養(yǎng)”。此次會(huì)議首發(fā)上線魔樂(Modelers)開發(fā)者社區(qū)。通過社區(qū)建設(shè),天翼云將協(xié)同伙伴聚集更多的優(yōu)質(zhì)中文AI資源,加速AI應(yīng)用商業(yè)落地。天翼云還開放AI云電腦平臺(tái),打造AI應(yīng)用中心,具備AI助手、AI空間、AI客服、AI低代碼等AI創(chuàng)新應(yīng)用,使AI應(yīng)用能夠更廣泛地接入和使用,同時(shí)推出算數(shù)融合套餐,為用戶提供更加靈活和高效的服務(wù),全力構(gòu)建開放的模型、數(shù)據(jù)、應(yīng)用生態(tài),共鑄AI產(chǎn)業(yè)繁榮。
中國信通院云計(jì)算與大數(shù)據(jù)研究所所長何寶宏在會(huì)上介紹了云計(jì)算和大數(shù)據(jù)賦能產(chǎn)業(yè)發(fā)展現(xiàn)狀及趨勢(shì)。他表示,隨著AI原生帶來的云技術(shù)革新和大模型規(guī)?;涞?#xff0c;云計(jì)算技術(shù)與產(chǎn)業(yè)融合價(jià)值愈加凸顯,各行業(yè)上云積極性持續(xù)攀升,云計(jì)算市場(chǎng)將迎來新一輪增長,AI加速產(chǎn)業(yè)格局重新洗牌。展望未來,作為數(shù)字社會(huì)底座,云計(jì)算的價(jià)值將被繼續(xù)挖掘,我國也將從“數(shù)據(jù)大國”邁向“數(shù)據(jù)強(qiáng)國”。
中國信通院云計(jì)算與大數(shù)據(jù)研究所所長 何寶宏
人工智能已經(jīng)成為數(shù)字經(jīng)濟(jì)發(fā)展的新引擎。作為云計(jì)算原創(chuàng)技術(shù)策源地、數(shù)字中國建設(shè)主力軍,天翼云將不斷深耕云計(jì)算領(lǐng)域核心技術(shù),依托豐富的智算資源、強(qiáng)大的智算一體化平臺(tái)能力、開放的模型應(yīng)用生態(tài)和豐富的實(shí)踐案例,攜手廣大客戶與合作伙伴共同賦能千行百業(yè)數(shù)智化轉(zhuǎn)型,持續(xù)為數(shù)字經(jīng)濟(jì)發(fā)展和數(shù)字中國建設(shè)注入澎湃動(dòng)能。
相關(guān)稿件