加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 有卡不等于有算力,云上集約化算力成最優(yōu)解
    • 飛天+百煉,阿里云揮出政企智能化服務(wù)“組合拳”
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

“模型熱”引發(fā)政企市場變局,阿里云揮出“組合拳”

09/23 13:30
1517
閱讀需 10 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

由“模型熱”引發(fā)的“智算熱”仍在持續(xù),大量政企用戶一方面看到了大模型技術(shù)給業(yè)務(wù)帶來的新突破點(diǎn),另一方面深深擔(dān)心成本及算力供應(yīng)的持續(xù)穩(wěn)定,行業(yè)亟需找到一個(gè)緩解供需矛盾的“最優(yōu)解”。

9月19日,在2024云棲大會(huì)上,阿里云“上”(上層大模型服務(wù)平臺(tái))“下”(底層算力)結(jié)合,打出一套“組合拳”。一方面,飛天云計(jì)算操作系統(tǒng)企業(yè)版“智算升級(jí)”,將智算能力深度融入專有云平臺(tái),實(shí)現(xiàn)通用算力、超算、智算的一網(wǎng)調(diào)度,滿足政企客戶“云+AI”協(xié)同發(fā)展需求;另一方面,大模型服務(wù)平臺(tái)百煉專屬版2.0正式發(fā)布,可基于公共云VPC和專有云部署,為政企客戶安全、快速地開發(fā)大模型保駕護(hù)航。

“飛天”與“百煉”的雙雙升級(jí),標(biāo)志著阿里云智能化服務(wù)能力再度提升,為AI時(shí)代全面深入政企市場做好了準(zhǔn)備。

有卡不等于有算力,云上集約化算力成最優(yōu)解

當(dāng)前,“模型熱”正在引發(fā)一場算力革命。不同于傳統(tǒng)IT時(shí)代,AI時(shí)代對(duì)基礎(chǔ)設(shè)施的性能、效率要求更高,CPU主導(dǎo)的通用計(jì)算體系已快速向GPU主導(dǎo)的AI計(jì)算體系轉(zhuǎn)移。中國互聯(lián)網(wǎng)協(xié)會(huì)最新發(fā)布的《中國互聯(lián)網(wǎng)發(fā)展報(bào)告(2024)》顯示,2024年上半年我國智能算力在算力市場的比重已經(jīng)超過30%。

作為大模型落地的一個(gè)重要標(biāo)的,政企市場對(duì)于AI算力的需求也在持續(xù)增長。阿里云智能副總裁、產(chǎn)品解決方案與服務(wù)管理總經(jīng)理霍嘉介紹稱:“政企市場主要有三類場景帶來了龐大的智算需求。第一類是城市智算,各地都有一些以政府或者政府所管轄的國資企業(yè)所投資的智算集群正在快速建設(shè)中;第二類是科研智算,像生物、環(huán)境、材料、地理(生化環(huán)材醫(yī))等科研領(lǐng)域?qū)τ诖竽P图夹g(shù)的使用比較多,已經(jīng)開始出現(xiàn)租用智算集群的現(xiàn)象;第三類是企業(yè)智算,這類企業(yè)更多的是在探索一些大模型應(yīng)用的試點(diǎn)場景,這也會(huì)帶來一些智能算力方面的需求?!?/p>

隨著一系列新場景、新業(yè)態(tài)的出現(xiàn),政企數(shù)字化轉(zhuǎn)型的焦點(diǎn)也在發(fā)生改變。過去在信息化時(shí)代,政企數(shù)字化轉(zhuǎn)型本質(zhì)上是從以流程驅(qū)動(dòng)為核心的傳統(tǒng)商業(yè)化套件向以數(shù)據(jù)驅(qū)動(dòng)核心業(yè)務(wù)再造的方向轉(zhuǎn)變,最典型的案例就是很多企業(yè)都構(gòu)建了數(shù)據(jù)中臺(tái)。而今天進(jìn)入智能化時(shí)代,政企數(shù)字化轉(zhuǎn)型目標(biāo)已經(jīng)轉(zhuǎn)化為結(jié)合自身業(yè)務(wù)場景,利用大模型等AI技術(shù)來創(chuàng)造更新的價(jià)值。

阿里云智能副總裁、專有云總經(jīng)理劉國華指出,現(xiàn)在政企客戶主要關(guān)心兩件事,一是供應(yīng)鏈韌性的問題,二是成本的問題。大模型技術(shù)的快速發(fā)展在給政企客戶的業(yè)務(wù)帶來新突破點(diǎn)的同時(shí)又帶來了新的供應(yīng)鏈韌性問題和成本問題,因此他們期盼能夠建立起一個(gè)新的AI基礎(chǔ)設(shè)施標(biāo)準(zhǔn),滿足“云+AI”協(xié)同發(fā)展的要求,最大化提升整體的成本效率。

目前來看,大模型智算平臺(tái)仍面臨一些挑戰(zhàn)。比如性能方面,模型的訓(xùn)練背后需要非常強(qiáng)算力的基礎(chǔ)設(shè)施支撐,如今,萬卡已經(jīng)成為模型訓(xùn)練的標(biāo)配,集群規(guī)模的不斷擴(kuò)大,無疑對(duì)底層AI基礎(chǔ)設(shè)施的處理效率提出更高的挑戰(zhàn);再比如,訓(xùn)練任務(wù)的穩(wěn)定性,GPU服務(wù)器出故障的概率比傳統(tǒng)X86架構(gòu)的CPU服務(wù)器出故障的概率要高得多,如何讓一個(gè)集群穩(wěn)定支持任務(wù)長周期的運(yùn)行非常重要;此外,多芯兼容也是一個(gè)難題,智算平臺(tái)要變得又好用又易用,就必須能夠平滑地使用不同芯片所提供的算力。

業(yè)內(nèi)普遍認(rèn)為,智算雖“火”,但市場上還存在很多用卡效率不高的情況。換言之,有卡也不一定有算力。GPU卡要把它真正用起來,在工程上面臨非常大的挑戰(zhàn)。因此,智算不僅僅是卡的問題,而是一個(gè)軟硬件協(xié)調(diào)的系統(tǒng),涉及算、存、網(wǎng)等多種核心能力,缺一不可。

正如霍嘉所言:“今天我們所說的大模型算力基礎(chǔ)設(shè)施,絕對(duì)不是把一堆硬件簡單堆砌在一起,而是通過云計(jì)算平臺(tái)把芯片、服務(wù)器、網(wǎng)絡(luò)、存儲(chǔ)有機(jī)調(diào)動(dòng)起來,從而形成云上集約化的高效算力。”

飛天+百煉,阿里云揮出政企智能化服務(wù)“組合拳”

面對(duì)政企市場在AI時(shí)代的新需求,阿里云拿出了自己的“看家本領(lǐng)”,即從底層算力到上層大模型服務(wù)平臺(tái)的全棧式智能化服務(wù)體系?!跋隆庇酗w天企業(yè)版,與阿里云公共云技術(shù)同根同源,采用同一套技術(shù)架構(gòu),通過一云多芯、一云多算等核心能力,為AI大規(guī)模在政企市場落地提供底座支撐;“上”有百煉平臺(tái),集成了國內(nèi)外主流優(yōu)質(zhì)大模型,提供模型選型、微調(diào)訓(xùn)練、安全套件、模型部署等服務(wù)和全鏈路的應(yīng)用開發(fā)工具,讓政企客戶不再被底層算力部署、模型預(yù)訓(xùn)練、工具開發(fā)等復(fù)雜工作困擾,降低AI應(yīng)用門檻和使用成本。

實(shí)際上,歷經(jīng)了10年的發(fā)展與沉淀,阿里云的全棧式智能化服務(wù)已融入政企市場各個(gè)領(lǐng)域。比如,在汽車制造領(lǐng)域,中國一汽基于阿里云通義千問打造的大模型應(yīng)用GPT-BI可5秒生成智能報(bào)表,輔助業(yè)務(wù)決策,模型準(zhǔn)確率達(dá)92.5%,這意味著GPT-BI在研產(chǎn)供銷多種場景上都具有優(yōu)秀的預(yù)測能力和泛化性能。

在安全防控領(lǐng)域,陜煤集團(tuán)旗下的建新煤礦使用通義大模型同時(shí)監(jiān)控十余座礦山的生產(chǎn)環(huán)境,實(shí)現(xiàn)了從“主要靠人防”到“更多靠技術(shù)防”的轉(zhuǎn)變,為安全防控打開了新思路。

在醫(yī)藥研發(fā)領(lǐng)域,阿斯利康基于通義大模型搭建的藥品不良反應(yīng)自動(dòng)分析和總結(jié)平臺(tái),使藥物安全把控效率提升300%,準(zhǔn)確率從90%提升至95%,這將提高藥物開發(fā)效率。

在科研探索領(lǐng)域,中國科學(xué)院國家天文臺(tái)人工智能組基于阿里云通義千問打造的天文大模型“星語3.0”,可實(shí)現(xiàn)自主控制望遠(yuǎn)鏡進(jìn)行觀測、分析觀測結(jié)果,智能地給出下一步觀測建議,將科研人員從繁瑣的觀測中解放出來,更加專注于研究。

記者了解到,今年以來,阿里云飛天企業(yè)版已實(shí)現(xiàn)三大技術(shù)升級(jí)。首先,支持多芯的GPU融合管理。具體來看,飛天企業(yè)版可支持23款不同的GPU接入管理;公專一體的網(wǎng)絡(luò)架構(gòu)可支持單一集群1.5萬卡的建設(shè);通過GPU池化和虛擬化技術(shù),支持異構(gòu)GPU資源實(shí)現(xiàn)統(tǒng)一的池化管理,可將整個(gè)GPU的利用率提升100%;針對(duì)推理場景進(jìn)行性能的優(yōu)化,可將通信帶寬整體提升100%以上,模型的吞吐量提升23%。

其次,通過AI PaaS層來提升整個(gè)智算的落地效率?!拔覀兛商峁┮徽臼?a class="article-link" target="_blank" href="/tag/AI%E5%A4%A7%E6%A8%A1%E5%9E%8B/">AI大模型開發(fā)與服務(wù)能力,并兼容多個(gè)主流開源的模型,希望給客戶更多的選擇,同時(shí)也提供了一個(gè)統(tǒng)一的運(yùn)營管理平臺(tái),提供算力運(yùn)營、模型運(yùn)營以及整體運(yùn)營的支撐,幫助客戶構(gòu)建可運(yùn)營的AI平臺(tái),讓他們可以基于阿里云的平臺(tái)去構(gòu)建自己的模型生態(tài)?!眲A表示。

此外,阿里云還對(duì)自己的云平臺(tái)進(jìn)行了智能化升級(jí)。一方面,基于過去十年的運(yùn)維經(jīng)驗(yàn)推出了智能運(yùn)維大模型“云小智”,日常運(yùn)維效率能提升50%;另一方面,通過探索開發(fā)智能化,讓整個(gè)云平臺(tái)快速向智能化方向進(jìn)化。

“今天,很多用戶把大模型應(yīng)用當(dāng)成一個(gè)‘目的’,但實(shí)際上我們應(yīng)該先弄清楚,大模型到底能做什么事兒?你的場景是什么?”阿里云智能副總裁、解決方案研發(fā)部總經(jīng)理曾震宇強(qiáng)調(diào),“大模型相當(dāng)于一把‘錘子’,它只是一個(gè)提升效率的工具。只有使用者能夠?qū)λ幸粋€(gè)合理恰當(dāng)?shù)念A(yù)期,知道在自己的業(yè)務(wù)場景中,大模型究竟能解決什么問題,才能讓它真正發(fā)揮出自己的價(jià)值。”

作者丨宋婧編輯丨趙晨美編丨馬利亞監(jiān)制丨連曉東

阿里巴巴

阿里巴巴

阿里巴巴集團(tuán)經(jīng)營多項(xiàng)業(yè)務(wù),另外也從關(guān)聯(lián)公司的業(yè)務(wù)和服務(wù)中取得經(jīng)營商業(yè)生態(tài)系統(tǒng)上的支援。業(yè)務(wù)和關(guān)聯(lián)公司的業(yè)務(wù)包括:淘寶網(wǎng)、天貓、聚劃算、全球速賣通、阿里巴巴國際交易市場、1688、阿里媽媽、阿里云、螞蟻金服、菜鳥網(wǎng)絡(luò)等。

阿里巴巴集團(tuán)經(jīng)營多項(xiàng)業(yè)務(wù),另外也從關(guān)聯(lián)公司的業(yè)務(wù)和服務(wù)中取得經(jīng)營商業(yè)生態(tài)系統(tǒng)上的支援。業(yè)務(wù)和關(guān)聯(lián)公司的業(yè)務(wù)包括:淘寶網(wǎng)、天貓、聚劃算、全球速賣通、阿里巴巴國際交易市場、1688、阿里媽媽、阿里云、螞蟻金服、菜鳥網(wǎng)絡(luò)等。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜