百度智能云曬大模型落地成績單：5個(gè)第一！

明敏 發(fā)自 凹非寺，量子位 | 公眾號(hào) QbitAI

中國大模型平臺(tái)市場第一！

大模型應(yīng)用落地元年，百度最新成績單出爐——

• 中國大模型市場份額第一
• 中國大模型產(chǎn)品布局第一
• 中國大模型產(chǎn)業(yè)落地規(guī)模第一
• 上半年中標(biāo)數(shù)量/金額/行業(yè)覆蓋數(shù)/央國企項(xiàng)目數(shù)第一
• 文心大模型日調(diào)用量超7億
• 千帆平臺(tái)上精調(diào)模型超3萬，開發(fā)應(yīng)用超70萬

剛剛召開的百度云智大會(huì)上，百度智能云一邊秀市場成績，一邊還拉來三星、南方電網(wǎng)這樣的行業(yè)大客戶，現(xiàn)場秀落地效果。

此番動(dòng)作并不稀奇。9月份云廠商們熱火朝天密集發(fā)布，不同于去年的秀模型、秀算法，今年大家更愿意聊應(yīng)用、聊行業(yè)價(jià)值。

大模型趨勢，很快到了拿實(shí)績說話的階段。

為何百度智能云能成為“標(biāo)王”？從最新發(fā)布看起。

從底層計(jì)算到上層應(yīng)用，五大產(chǎn)品全升級

今年百度云智大會(huì)一共帶來5款A(yù)I產(chǎn)品升級，分別是：

底層基礎(chǔ)設(shè)施：百舸4.0發(fā)布。

中間模型和開發(fā)工具層：千帆大模型平臺(tái)3.0發(fā)布。

上層開箱即用AI應(yīng)用：客悅、曦靈、文心快碼。

它們共同構(gòu)成企業(yè)大模型產(chǎn)業(yè)落地的全棧能力，也能分別滿足企業(yè)應(yīng)用大模型的不同需求。

首先來看大模型應(yīng)用落地最不可或缺的底層算力基礎(chǔ)設(shè)施。百舸·AI異構(gòu)計(jì)算平臺(tái)正式發(fā)布4.0版本。

它以混合多芯技術(shù)為基礎(chǔ)，由下至上分為資源層、組件層、加速層和工具層，為企業(yè)提供大模型訓(xùn)推一體服務(wù)。

此次發(fā)布，百舸4.0在集群創(chuàng)建、開發(fā)實(shí)驗(yàn)、模型訓(xùn)練、模型推理等方面均進(jìn)行升級，覆蓋企業(yè)使用大模型的全流程，在諸多企業(yè)用戶重點(diǎn)關(guān)心的指標(biāo)上帶來大幅提升。

其次來看大模型平臺(tái)千帆，它主要為企業(yè)提供生成式AI生產(chǎn)以及應(yīng)用全流程開發(fā)工具鏈。

千帆大模型平臺(tái)3.0在應(yīng)用開發(fā)層、模型服務(wù)層和模型開發(fā)層全面升級。

應(yīng)用開發(fā)層，千帆大模型平臺(tái)3.0全面支持企業(yè)級RAG和企業(yè)級Agent開發(fā)，同時(shí)發(fā)布了端到端應(yīng)用開發(fā)工具AI速搭。

企業(yè)級RAG支持不限容量知識(shí)庫存儲(chǔ)，速度上能達(dá)到1.5秒內(nèi)返回結(jié)果。RAG全部環(huán)節(jié)包括解析、切片、向量化、召回、排序等，都可調(diào)可控。企業(yè)可以靈活配置出適合自己業(yè)務(wù)的方案。

澎湃新聞基于千帆企業(yè)級RAG，能夠快速從龐大媒資庫中準(zhǔn)確檢索內(nèi)容?？梢院芎帽苊獯竽Ｐ突糜X問題，能夠讓企業(yè)放心使用大模型在自身生產(chǎn)環(huán)境中檢索、回答的結(jié)果。

企業(yè)級Agent是另一種常見大模型落地方式。它能讓大模型進(jìn)行自主思考和任務(wù)拆解，并調(diào)用工具去全流程自動(dòng)完成任務(wù)。

企業(yè)級Agent支持文心系列以及百度各種垂類模型，并進(jìn)一步提供百度搜索、百度地圖等官方組件支持，另外也支持長短期記憶能力，讓Agent可以記住和用戶的對話內(nèi)容。

比如讓Agent制定一個(gè)國慶節(jié)去山西旅行3天的計(jì)劃路線，要參考《黑神話：悟空》中涉及的山西經(jīng)典，且希望住在品質(zhì)好、性價(jià)比高的酒店，好評優(yōu)先、500元以內(nèi)，而且想要規(guī)劃自駕路線。

可以看到Agent能在不同APP之間跳轉(zhuǎn)操作，像人一樣在做任務(wù)的分解、規(guī)劃和執(zhí)行。

AI速搭則支持一句話搭建應(yīng)用。通過聊天或者上傳PRD的方式來生成應(yīng)用，可以零代碼方式生成資產(chǎn)管理、CRM等企業(yè)級應(yīng)用。

過去幾個(gè)人幾天才能搞定的應(yīng)用開發(fā)，現(xiàn)在通過對話方式，以分鐘級速度就能完成。不懂開發(fā)的業(yè)務(wù)人員也能輕松上手。

而且還能以自然語言對話方式修改需求、增減模塊。

目前通過千帆大模型平臺(tái)開發(fā)的的應(yīng)用數(shù)量已經(jīng)超過70萬。

好用的應(yīng)用開發(fā)需要好用的模型提供基礎(chǔ)能力。

千帆模型服務(wù)層提供豐富大模型，覆蓋大語言模型和傳統(tǒng)模型。

因?yàn)樵趯?shí)際落地中，傳統(tǒng)NLP、CV模型仍舊有很多市場需求，大小模型混用的模式很常見。

所以千帆大模型平臺(tái)3.0進(jìn)一步豐富了可使用模型。主要包括百度自研的文心系列，以及新增語音系列能力模型和視覺系列模型。

模型開發(fā)層提供最全面的工具鏈。

包括DPO、KTO等模型訓(xùn)練算法和PTQ等模型量化算法，能夠高效支持超大規(guī)模模型微調(diào)和定制。

還支持CV、NLP、語音等傳統(tǒng)模型開發(fā)，實(shí)現(xiàn)數(shù)據(jù)、模型、算力資源的統(tǒng)一納管和調(diào)度，為企業(yè)提供一站式的大小模型開發(fā)體驗(yàn)。

最后來看AI應(yīng)用層。

云智大會(huì)主要帶來了3款A(yù)I應(yīng)用產(chǎn)品更新。

客悅：國內(nèi)首款大模型重構(gòu)的智能客服產(chǎn)品。

曦靈：國內(nèi)首個(gè)大模型全面重構(gòu)數(shù)字人平臺(tái)。

文心快碼：智能代碼助手。

客悅此次升級了多模態(tài)交互能力、多語言能力和端到端洞察能力。僅需3步就能建立一個(gè)智能客服。

支持視頻、音頻、圖文輸入的多模態(tài)交互客服體驗(yàn)，可以讓一些難以描述的問題更容易被解決，比如用戶可以拍下儀表盤照片直接詢問。同時(shí)支持中英文文檔問答。

引入的大模型客服洞察Agent可以分析用戶反饋用戶對話過程，通過意圖理解、關(guān)鍵信息抽取、情感抽取等，可以進(jìn)一步幫助企業(yè)了解客戶，如寶馬領(lǐng)悅、通用中國等都已用上這一能力。

曦靈4.0在能力提升的同時(shí)成本進(jìn)一步下降。

它現(xiàn)在支持小時(shí)級生成2D人像超擬人數(shù)字人、一句話生成3D數(shù)字人（10分鐘）、替代真人視頻播報(bào)、實(shí)時(shí)交互對話、直播等能力。

同時(shí)2D、3D數(shù)字人的應(yīng)用成本進(jìn)一步下降。只需199元，即可定制3D超寫實(shí)數(shù)字人，價(jià)格從萬元級別直接降到百元級別。

同時(shí)還提供開放的數(shù)字人組件平臺(tái)，AppBuilder可接入，支持輕量級SDK和標(biāo)準(zhǔn)化接口助力快速集成。

現(xiàn)在，通過小程序，人人都能構(gòu)建自己的數(shù)字人。

文心快碼（智能代碼助手）集成大模型技術(shù)，可以提供實(shí)時(shí)推薦、代碼生成、代碼審查、優(yōu)化代碼等能力。

此次發(fā)布了企業(yè)級代碼架構(gòu)解釋、企業(yè)級代碼審查能力和企業(yè)級代碼輔助能力。

其中，企業(yè)級代碼架構(gòu)解釋能讓大模型快速解讀代碼庫，梳理整個(gè)業(yè)務(wù)邏輯以及工程架構(gòu)。程序員接手項(xiàng)目后就不用再逐行看代碼，可以更快速清晰建立理解。

企業(yè)級代碼審查能力解決了傳統(tǒng)code review的問題。大模型參照以往企業(yè)私有代碼和知識(shí)，可以直接替代人類審查代碼內(nèi)容，提高整個(gè)代碼研發(fā)的效率和規(guī)范程度。

企業(yè)級輔助代碼則能基于以往私有代碼和知識(shí)庫，能讓AI編程更貼近于企業(yè)自身業(yè)務(wù)場景。

它能通過快速學(xué)習(xí)企業(yè)過往代碼與規(guī)范，使生成的代碼更符合企業(yè)要求。目前，文心快碼已經(jīng)服務(wù)超過1萬家企業(yè)客戶，幫助數(shù)百萬中國開發(fā)者提升編碼效率，整體提升研發(fā)效率20%。

總結(jié)來看，百度智能云這波大升級，方方面面都是以企業(yè)實(shí)際落地需求為核心，覆蓋底層基礎(chǔ)設(shè)施、模型能力及工具、上層AI應(yīng)用全棧技術(shù)能力。

為啥如此旗幟鮮明all in“落地戰(zhàn)”？

因?yàn)榇竽Ｐ蛻?yīng)用到了全面爆發(fā)的時(shí)刻。

拿下蔚來、三星、半數(shù)央國企

在此前的活動(dòng)中，百度副總裁謝廣軍曾將大模型應(yīng)用趨勢劃分為三個(gè)階段。

第一階段是ChatGPT剛剛誕生后，第一批想要接觸大模型的企業(yè)開始囤積算力、嘗試訓(xùn)練模型，帶火了整個(gè)行業(yè)的算力需求。

第二階段是從去年下半年到今年年中，開發(fā)者們開始在基座大模型上探索AI原生應(yīng)用開發(fā)，開始探索生成式AI可以落地應(yīng)用于哪些場景。這個(gè)過程中，大模型的滲透率非常高，“甚至比過去10年里AI在生產(chǎn)生活中的滲透都要廣泛”。

到了今年年中，終于一些大模型應(yīng)用跑了出來，能真正實(shí)際落地產(chǎn)生價(jià)值，由此也就到了第三階段。

這三階段的劃分，可以基于千帆平臺(tái)上文心系列模型的API調(diào)用量增長趨勢作為參考。最新數(shù)據(jù)顯示，百度文心大模型日均調(diào)用量超過7億次，半年增長超10倍；在千帆平臺(tái)上精調(diào)模型數(shù)量已超過3萬個(gè)。

進(jìn)一步參考行業(yè)數(shù)據(jù)，2024年上半年，大模型領(lǐng)域可統(tǒng)計(jì)到的中標(biāo)金額約為9.38億元，已經(jīng)遠(yuǎn)超2023年全年大模型中標(biāo)項(xiàng)目披露金額7.89億元，行業(yè)增速非常明顯。

其中，百度在主流大模型廠商中一舉拿下三項(xiàng)第一：最多中標(biāo)項(xiàng)目數(shù)量（17個(gè)）、覆蓋最多行業(yè)（6個(gè)）、中標(biāo)金額總數(shù)最高（9297萬）。超半數(shù)央國企都在使用百度智能云進(jìn)行AI創(chuàng)新應(yīng)用落地。

對外披露客戶中，不乏一些對大眾日常生活都產(chǎn)生深遠(yuǎn)影響的廠商與企業(yè)。

比如三星Galaxy S24系列手機(jī)就深度集成了文心大模型，可以提供“即圈即搜”、一鍵總結(jié)長文、端側(cè)AI實(shí)時(shí)語音轉(zhuǎn)錄等AI功能。

“即圈即搜”是三星Galaxy S24系列首創(chuàng)的AI能力，只需在屏幕上圈出/劃出圖像內(nèi)容，即可聯(lián)網(wǎng)進(jìn)行搜索。

要知道，AI手機(jī)是當(dāng)下領(lǐng)域內(nèi)公認(rèn)的趨勢，也是將AI切實(shí)引入大眾生活的重要載體。大模型對操作系統(tǒng)的影響，也將帶來移動(dòng)應(yīng)用的二次爆發(fā)。IDC預(yù)計(jì)，2024年中國市場上搭載AI功能終端設(shè)備將超70%，AI終端占比將達(dá)55%。

智能汽車行業(yè)更是與AI具有與生俱來的聯(lián)系。AI助手是智駕座艙內(nèi)最流行的新趨勢之一，也成為廣大車主感受大模型趨勢的重要媒介。

比如蔚來就基于千帆大模型平臺(tái)，在文心大模型基礎(chǔ)通過提示詞工程打造了NOMI GPT。

它能提供更懂用戶、更聰明、更萬能的AI小助手體驗(yàn)。目前NOMI已經(jīng)陪伴近20萬車友家庭。

目前，百度智能云已在政務(wù)/智慧城市、交通、能源、制造、汽車、金融、泛科技、教育領(lǐng)域探索大模型應(yīng)用落地場景。

那么問題來了——為何是百度？

拿下多個(gè)行業(yè)第一，百度憑什么。

其一，AI是百度的基因與內(nèi)核。過去十余年在底層技術(shù)上研發(fā)積累，為百度模型自研、模型開發(fā)能力對外輸出以及自身大模型應(yīng)用落地提供堅(jiān)實(shí)基礎(chǔ)。

由此，百度逐漸構(gòu)建了AI全棧能力，從底層計(jì)算平臺(tái)到上層應(yīng)用落地。尤其是大模型趨勢到來后，百度快速針對趨勢推出了面向行業(yè)的大模型平臺(tái)和一系列行業(yè)產(chǎn)品，在大模型產(chǎn)品布局上處于國內(nèi)第一。

其二，百度多年的AI落地經(jīng)驗(yàn)和自身應(yīng)用構(gòu)建經(jīng)驗(yàn)，也為大模型能力輸出提供可靠參考。

最直接的例子就是千帆大模型平臺(tái)對外提供豐富工具鏈，這些都是百度大模型開發(fā)經(jīng)驗(yàn)的對外輸出。百度副總裁謝廣軍也提到，他們希望企業(yè)用戶能在千帆大模型平臺(tái)上形成自己的數(shù)據(jù)飛輪，因?yàn)榘俣茸陨碇T多業(yè)務(wù)就是這樣運(yùn)作的。

以及最新動(dòng)向中，百度察覺到大模型趨勢激發(fā)千行百業(yè)擁抱AI的熱情，但并不是完全舍棄傳統(tǒng)AI。還有諸多企業(yè)存在大小模型混用、傳統(tǒng)NLP/CV模型的需求，因此在千帆大模型平臺(tái)3.0上進(jìn)一步豐富這方面能力。

其三，百度智能云的百舸構(gòu)建的異構(gòu)算力體系，可以為行業(yè)提供更多元的算力選擇。

尤其在大模型價(jià)格戰(zhàn)的趨勢下，“高效”、“充分”的底層算力，也能讓百度進(jìn)一步對外提供更具性價(jià)比的模型算力服務(wù)。

如上方方面面，共同構(gòu)成了百度智能云的“多個(gè)第一”。

百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖在云智大會(huì)上表示，過去的一年，是大模型從技術(shù)變革走向產(chǎn)業(yè)變革的關(guān)鍵一年。

大模型重構(gòu)一切，為每個(gè)企業(yè)提供平等的增長機(jī)會(huì)。

人類歷史上又一次生產(chǎn)力躍遷，正在加速發(fā)生。

正如蒸汽機(jī)之于第一次工業(yè)革命、發(fā)電廠之于第二次工業(yè)革命，計(jì)算機(jī)之于第三次工業(yè)革命，云計(jì)算基礎(chǔ)設(shè)施是眼下第四次工業(yè)革命的“底層基建”。

與此前有所不同的是，智能時(shí)代下的基礎(chǔ)設(shè)施，硬件設(shè)備只是重要構(gòu)成之一，建立在算力之上的模型、工具鏈與應(yīng)用開發(fā)工具，更是開掘智能時(shí)代“礦產(chǎn)”的重要工具。云智大會(huì)上，百度的最新亮相，正是這一邏輯的具體展開。

隨著大模型更大規(guī)模應(yīng)用落地趨勢開啟，智能時(shí)代底層基建的建設(shè)與發(fā)展也將進(jìn)入新一輪加速期。

在這之中，百度智能云作為主力選手，已然做好全面準(zhǔn)備了。