加入星計劃,您可以享受以下權益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 根要深,葉要茂,政企AI之路的挑戰(zhàn)
    • 技術之根深入大地,一棵堅韌不拔的AI之榕
    • 生態(tài)之葉繁茂參天,百行百業(yè)的智能生長
    • 一榕參天,萬物生長
  • 推薦器件
  • 相關推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

以全棧智算擁抱生態(tài),為AIGC種一棵向上生長的巨榕

04/30 11:30
1622
閱讀需 14 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

榕樹,被稱為百木之王。它既有極深的根,又有繁茂的葉。只要一棵榕樹長成,就能夠獨木成林,遮天蔽日。更可貴的是,榕樹可以為樹蔭下繁茂的生態(tài)提供支撐,形成“一榕生,萬物長”的格局。

開年以來,OpenAI推出了炸裂的Sora文生視頻模型,再一次將AIGC技術競賽的天花板拉高,科技巨頭蘋果也宣布大力投資生成式AI。

種種跡象都表明,狂飆了一年的AIGC,仍在吸引大量行業(yè)和企業(yè)的涌入,我們已經(jīng)很少見到科技與互聯(lián)網(wǎng)公司說他們不關心大模型、不想做AI。

然而,在大模型及AIGC的落地實踐中,大型政企會面臨一個困難局面:既希望確保AI技術與基礎設施全棧可靠,具有高自主、高安全的特征,同時又希望接入開放多元的生態(tài),滿足行業(yè)專屬場景定制化、個性化需求,實現(xiàn)生態(tài)化發(fā)展。

如何幫助政企平衡二者的發(fā)展?今天的AIGC和大模型,需要一棵榕樹般根深葉茂的支撐。其中,根,就是AI技術;葉,則是AI生態(tài)。

產(chǎn)業(yè)用好AIGC、激活新質(zhì)生產(chǎn)力的現(xiàn)實需求,也驅(qū)動著基礎設施服務商們不斷升級。

以新華三為例,就選擇將AI技術的“根”扎得很深很牢,又要讓AI產(chǎn)業(yè)生態(tài)枝繁葉茂,催生應用落地繁榮生長。

如何更快地利用AI技術長出新質(zhì)生產(chǎn)力,是這個春天很多企業(yè)都在思考的問題。那么不妨一起來看看新華三是如何以端到端的全棧智算解決方案助萬物生長。

根要深,葉要茂,政企AI之路的挑戰(zhàn)

在討論新華三這棵AI巨榕之于產(chǎn)業(yè)的價值之前,我們有必要先了解一下,從2023年春季的爆火,AIGC狂飆一年之后,如今的政企所面對的技術與產(chǎn)業(yè)背景。

整體來看,中國大模型和AIGC產(chǎn)業(yè)已經(jīng)達到了驚人的成就,相關應用也開始嘗試向具體的業(yè)務場景探索,展現(xiàn)出強勁的增長態(tài)勢。大模型、AIGC作為新質(zhì)生產(chǎn)力,目前已經(jīng)成為各行各業(yè)的共識。

然而這一年來的落地實踐,也讓我們看到了存在于國內(nèi)AI產(chǎn)業(yè)的深層隱憂:大型政企、科研院校做AI大模型,有著三大難以兼顧的發(fā)展挑戰(zhàn)。

1. 技術不易貫通。AI及大模型訓練,是一項復雜且技術密集的任務,要求異構(gòu)算力的深度整合以及高效的分布式并行計算,其中的技術挑戰(zhàn)層出不窮。比如異構(gòu)算力意味著要將不同類型的計算硬件,如GPU、FPGA甚至ASIC,進行有效協(xié)同。然而,不同硬件之間的接口、通信協(xié)議以及優(yōu)化方法各不相同。此外,分布式并行訓練要求在多個計算節(jié)點之間,實現(xiàn)數(shù)據(jù)的快速傳輸和同步。網(wǎng)絡延遲、數(shù)據(jù)不對稱以及節(jié)點故障等問題,都可能影響到訓練的性能和穩(wěn)定性??梢哉f,想要利用多種計算資源來提供算力,必須實現(xiàn)對分布式并行計算的“一體化”貫通/協(xié)作,以滿足模型訓練的復雜需求,這是做AI的首要難關。

2. 信息安全無法保障。AI作為新質(zhì)生產(chǎn)力,與各行各業(yè)的結(jié)合才剛剛開始,其中包括大量國計民生關鍵行業(yè)。訓練AI模型時,往往需要使用大量的用戶數(shù)據(jù),這些數(shù)據(jù)可能包含商業(yè)機密或隱私信息,在公域環(huán)境下,如何確保這些數(shù)據(jù)不被泄露或濫用,成了一個巨大的挑戰(zhàn)。此外,AI的訓練推理都十分依賴高性能計算硬件及相關軟件,人工智能基礎設施的供應鏈韌性與安全性難以保障,也是很多企業(yè)的顧慮所在。

3.生態(tài)難以發(fā)展。我們知道,大型政企或?qū)嶓w行業(yè)在落地AI時,需要的軟硬件很多,往往會考慮一攬子工程。這時,一個繁榮且富有活力的AI生態(tài),可以為政企提供多樣化的AI產(chǎn)品和服務。但生態(tài)建設需要各方以開放的態(tài)度,愿意共享資源,攜手合作創(chuàng)新,而目前部分科技巨頭更希望將生態(tài)伙伴鎖定在自身的軟硬件體系內(nèi),這讓很多不想“把雞蛋放在一個籃子”的政企,無法加速擁抱AI的腳步。

不難看出,生態(tài)的融合是部署AIGC能力落地、推進智能化升級的關鍵。

有沒有一種可行的解決辦法,能同時實現(xiàn)三者的兼顧與平衡,幫助政企加速部署AI能力呢?今天的新華三,就提供了一種解題思路:

端到端的全棧的靈犀智算解決方案,如同一顆AI巨榕。新華三選擇將AI之根扎進深處,打造安全堅實的AI軟硬件底座;用一體化的技術枝干,讓AI開發(fā)使用全棧貫通;將生態(tài)之葉伸向蒼穹,攜手優(yōu)選生態(tài)模型,孕育出AI應用與服務的繁花萬千。

技術之根深入大地,一棵堅韌不拔的AI之榕

政企做AI最擔心的是什么?一開始引入AI應用或大模型很容易,但那只是“首付”。AI技術與業(yè)務場景的結(jié)合,需要長時間的適配、迭代、升級。如果在這個過程中,出現(xiàn)了“算力買不到”“模型用不了”的風險,會給相關業(yè)務和服務帶來持續(xù)的危機。因此,一個高可靠、高安全的AI基礎軟硬件生態(tài),對于政企市場來說必不可少。

堅韌不拔的AI巨榕,必須將技術牢牢扎根。目前,業(yè)界已形成共識,那就是我國的AIGC行業(yè)可以分為基礎設施層、模型層和應用層三個層級結(jié)構(gòu)。但能夠?qū)⑷龑右惑w貫通的廠商仍屬少數(shù)。新華三發(fā)布的靈犀智算解決方案,就是新華三自身所打造的、面向AI時代的全棧技術體系,在這個體系里,三個層面將一體貫通,讓技術之根向下扎入底層創(chuàng)新、向上抵達應用末梢。

首先是基礎設施層。

如前所說,單一的計算資源,難以滿足AIGC及大模型的訓練需求,需要綜合利用多種計算硬件,而將不同架構(gòu)、不同類型的計算資源有效地整合并實現(xiàn)協(xié)同工作,是一個巨大而重要的問題。尤其是自2024開年 Sora文生視頻大模型驚艷亮相以來,更強大的AIGC模型與萬億參數(shù)規(guī)模LLM的研發(fā)進程還將進一步加速,中國算力瓶頸的突圍變得愈發(fā)緊迫。對此,新華三利用自身的技術積累,充分發(fā)揮“算力×聯(lián)接”的乘數(shù)效應,將新華三領先的算力和聯(lián)接技術進行最佳的調(diào)優(yōu)與配合,帶來倍增的技術整合優(yōu)勢和智算效率,放大智算資源價值,發(fā)揮AIGC應用的最大潛能。???

?“算力多元化”,聚合多種算力資源,提供CPU和GPU多元化選擇,滿足市場與客戶的多樣化需求,并加強供應鏈的供給保障。

?“聯(lián)接標準化”,推動聯(lián)接標準化,通過服務器內(nèi)、外部GPU聯(lián)接標準化,實現(xiàn)異構(gòu)GPU的智算集群,降低算力部署和應用的成本,并通過軟件生態(tài)的標準化,打通智算孤島,促進資源共享與產(chǎn)業(yè)共同繁榮。

這一智算底座,將為“AI巨榕”下的政企用戶們,提供源源不斷的算力“養(yǎng)分”。

其次是模型層。

去年,新華三推出國內(nèi)首個面向To B、To G領域的私域大模型百業(yè)靈犀(LinSeer),支持在私域環(huán)境下進行數(shù)據(jù)分析和模型訓練,可以確保政企客戶在安全、專屬的環(huán)境下使用大模型,解決了很多國計民生行業(yè)的后顧之憂。今年,新華三在模型層上有了更顯著的提升,首先是在知識蒸餾上,以推動模型基座小型化實現(xiàn)數(shù)據(jù)高精度、高質(zhì)量和高表現(xiàn),其次是在輸出校準上,以精煉模型回答提升用戶體驗,同時針對特定場景設計專用算法,增強AI使用的精準度,最后是在模型使能上,通過模型、知識、應用及安全等多層次的融合,解決更加復雜的問題。

然后是應用層。

想要讓更多行業(yè)用戶能夠輕松上手,降低使用成本至關重要。因此,新華三打造了一站式靈犀應用使能平臺(LinSeer Hub),可實現(xiàn)多元模型組合管理、AI Agent開發(fā)、模型服務等功能,能夠靈活兼容新華三百業(yè)靈犀私域大模型及其他國內(nèi)外主流模型,不斷降低AI使用門檻,助力政企客戶快捷構(gòu)建智能應用,實現(xiàn)“模型使用自由”。

總的來說,依托新華三這棵AI之榕,政企可以一站式獲得覆蓋各層級的軟硬件支持,讓自身的AI能力快速生根發(fā)芽。

生態(tài)之葉繁茂參天,百行百業(yè)的智能生長

但如前文所說,構(gòu)建一個開放的AI生態(tài)實屬不易。對于投入了大量資源的AI廠商來說,將AI開發(fā)者、ISV服務商、客群關系都綁定在自身的生態(tài)內(nèi),可以更早地建立競爭壁壘,實現(xiàn)商業(yè)回報。但這也給AI使用者和政企客戶帶來了不便,比如無法靈活選擇更適合自己的大模型,難以得到充分及時的技術支持。

在一個開放多元的繁榮生態(tài)中,政企用戶可以收獲更多。為什么這么說?我們可以從新華三今天的回答中找到一些解題思路。

新華三提出“1+N”大模型策略(即百業(yè)靈犀私域大模型+N個優(yōu)選通用大模型和行業(yè)細分大模型),代表著將以開放兼容的態(tài)度,攜手業(yè)內(nèi)各垂直領域的杰出者,共同推動AIGC應用發(fā)展。AI不是閉門造車,作為一個方興未艾的產(chǎn)業(yè),AI高度依賴于產(chǎn)業(yè)各方的深度合作,匯聚多方智慧和資源,共同攻克技術難題,推動AI技術向應用轉(zhuǎn)化。因此,開放協(xié)作是AI創(chuàng)新的源泉。

更多選擇。新華三結(jié)合行業(yè)應用場景,優(yōu)選N個生態(tài)大模型,百行百業(yè)客戶可以在這里找到全套彈性擴展方案,靈活地滿足自身業(yè)務對個性化、專屬化的AI需求,而無需擔心只能使用某一廠商的模型,有著更充分的選擇空間。

更高效益。豐富多元化的產(chǎn)業(yè)生態(tài),也為政企客戶提供了更具成本優(yōu)勢、效益優(yōu)勢的產(chǎn)品和服務。比如在醫(yī)療、交通、制造等領域,新華三都提出了端到端的AI解決方案,助力客戶實現(xiàn)數(shù)字化轉(zhuǎn)型的智能化升級。

更多資源。政企的智能化升級是一個長期的綜合工程,其間的創(chuàng)新迭代升級,需要一系列的技術、人才、金融、政策等支持,遠離產(chǎn)業(yè)集群會大大增加成本。新華三與各地政府合作,打造全國知名的AIGC產(chǎn)業(yè)發(fā)展先行區(qū)、產(chǎn)業(yè)集聚地和人才新高地——圖靈小鎮(zhèn),讓各地形成有影響力的AI產(chǎn)業(yè)集群。目前“圖靈小鎮(zhèn)”模式已在杭州、鄭州、咸陽等多地先行落地。

都說“背靠大樹好乘涼”,總體來看,依托新華三所打造的開放、多元的繁榮生態(tài)體系,政企的智能化升級之路,也會走得更穩(wěn)、更輕松、更可持續(xù)。

一榕參天,萬物生長

以大模型為首的人工智能技術是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,為各行各業(yè)注入源源不斷的新質(zhì)生產(chǎn)力,是很多企業(yè)不想錯過、不敢錯過的技術大潮。

面向大型政企私域部署的需求,新華三已經(jīng)培育出了一棵天時地利的參天巨榕。從核心底層技術支撐、安全可靠AI大模型部署方案,到開放的生態(tài)選擇、合作機制間的貫通,實現(xiàn)了技術可信、安全可靠、生態(tài)可依的兼顧與平衡。

在AIGC時代快節(jié)奏、高效率的進程中,以新華三為代表的ICT廠商,將為百行百業(yè)提供新質(zhì)生產(chǎn)力的動能。

“一榕參天,萬物生長”,堅韌而生機勃勃的AI巨榕,正向我們袒露出一片智能時代的盎然春意。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風險等級 參考價格 更多信息
MCF52258CAG66 1 Rochester Electronics LLC 32-BIT, FLASH, 66MHz, RISC MICROCONTROLLER, PQFP144, 20 X 20 MM, ROHS COMPLIANT, LQFP-144
$12.68 查看
ATMEGA64A-AUR 1 Microchip Technology Inc IC MCU 8BIT 64KB FLASH 64TQFP

ECAD模型

下載ECAD模型
$5.79 查看
MCP23017-E/SS 1 Microchip Technology Inc 16 I/O, PIA-GENERAL PURPOSE, PDSO28, 5.30 MM, PLASTIC, SSOP-28

ECAD模型

下載ECAD模型
$1.69 查看
新華三

新華三

新華三集團作為數(shù)字化解決方案領導者,致力于成為客戶業(yè)務創(chuàng)新、數(shù)字化轉(zhuǎn)型值得信賴的合作伙伴。作為紫光集團旗下的核心企業(yè),新華三擁有計算、存儲、網(wǎng)絡、5G、安全、終端等全方位的數(shù)字化基礎設施整體能力,提供云計算、大數(shù)據(jù)、人工智能、工業(yè)互聯(lián)網(wǎng)、信息安全、智能聯(lián)接、邊緣計算等在內(nèi)的一站式數(shù)字化解決方案,以及端到端的技術服務。同時,新華三也是HPE?服務器、存儲和技術服務的中國獨家提供商。

新華三集團作為數(shù)字化解決方案領導者,致力于成為客戶業(yè)務創(chuàng)新、數(shù)字化轉(zhuǎn)型值得信賴的合作伙伴。作為紫光集團旗下的核心企業(yè),新華三擁有計算、存儲、網(wǎng)絡、5G、安全、終端等全方位的數(shù)字化基礎設施整體能力,提供云計算、大數(shù)據(jù)、人工智能、工業(yè)互聯(lián)網(wǎng)、信息安全、智能聯(lián)接、邊緣計算等在內(nèi)的一站式數(shù)字化解決方案,以及端到端的技術服務。同時,新華三也是HPE?服務器、存儲和技術服務的中國獨家提供商。收起

查看更多

相關推薦

電子產(chǎn)業(yè)圖譜