撰文?| 吳坤諺??編輯?| 王? ?潘
大模型在吟詩作畫,我們在苦哈哈干活。
一條流傳甚廣的段子道出大模型如今面臨的落地困境:作為目前技術(shù)的最前沿,AI大模型迫切需要真實(shí)的可落地場景釋放價值,才對得起軍備競賽中大小組織投入的人力與真金白銀。
但段子終歸只是段子,落地其實(shí)距離我們并不遙遠(yuǎn)。在現(xiàn)代人生活中必然接觸的電商場景中,大模型已經(jīng)走在落地之路上,重構(gòu)相關(guān)業(yè)態(tài)。其中風(fēng)頭最盛的當(dāng)屬生成式內(nèi)容(AIGC),包括但不限于文生圖、文生視頻、人機(jī)交互等。
只需簡單列舉,我們便不難得出一個重塑電商領(lǐng)域人貨場的故事:B端應(yīng)用智能客服、數(shù)字人直播提高人效,消費(fèi)者獲得24小時響應(yīng)客服的體驗(yàn);AIGC低成本生成全渠道內(nèi)容,智能化搜索與選品為分發(fā)增效的同時縮短交易鏈路,提升ROI……
只是如今深度學(xué)習(xí)中流傳的一句話道出了當(dāng)下AIGC的困境:我們已經(jīng)可以讓機(jī)器像人一樣說話,卻很難讓機(jī)器像人一樣智能。面對電商場景強(qiáng)交互、重決策、弱鏈接的的特點(diǎn),單純的“擬人”難以形成完善的產(chǎn)品邏輯。
因此對于AIGC在電商領(lǐng)域的落腳點(diǎn),玩家們通常尋求“在開放中求封閉”,走出一條自下而上的道路。
封閉場景做人效
據(jù)知名公司沙利文最新發(fā)布的《2023年中國智能客服市場報告》顯示,2022年中國智能客服市場規(guī)模已達(dá)到66.8億元,預(yù)計到2027年市場規(guī)模有望增長至181.3億元,預(yù)計五年內(nèi)復(fù)合增長率可達(dá)到20%以上。
我們見證這條細(xì)分賽道朝百億規(guī)模邁進(jìn),而電商普遍性應(yīng)用智能客服正是賽道能保持高增長的主要原因。
首當(dāng)其沖的是電商場景難以繞開的流量高峰以及流量帶來的高并發(fā)售前咨詢,雙十一、618之類的購物節(jié)不提,電商商家每一天都有可能遇到多起并發(fā)咨詢。在此情況下,無論是客服響應(yīng)過慢導(dǎo)致的用戶流失還是人工客服背后的高成本,都是已經(jīng)步入紅海的電商市場難以承受之重。
說白了,電商平臺普遍應(yīng)用智能客服是趨勢所向,而且從時間看來,智能客服的普遍應(yīng)用還早于大模型之前。如果說大模型是智能客服的二次躍升,那么智能客服的首次躍升是AI1.0時代的NLP(自然語言處理)技術(shù)。
“大模型驅(qū)動的AIGC出來之前,行業(yè)內(nèi)就已經(jīng)有比較成熟的基于NLP的智能客服,而且應(yīng)用很廣”,智齒科技產(chǎn)品VP陳喆告訴光子星球,“而客服場景接受的咨詢與問題大多是封閉性的,相比開放性場景更容易做出人效來”。
在尚未具備NLP自然語言處理技術(shù)之前,在線客服的產(chǎn)品形態(tài)是簡單的QA,根據(jù)預(yù)先錄入的關(guān)鍵詞、句、段做出機(jī)械回答。做一個不算恰當(dāng)?shù)谋扔?,NLP技術(shù)前后的智能客服一個是傳統(tǒng)RPG中機(jī)械反饋玩家的NPC,另一個是當(dāng)下3A大作中根據(jù)玩家實(shí)時情況做出不同反饋的智能NPC。
換句話說,NLP是在線客服智能化的開始,其市場化也同步進(jìn)入成熟期。那么大模型便是在線客服智能化的躍升,主要體現(xiàn)在高效化、個性化與更加智能化上。
陳喆用一則數(shù)據(jù)做了個不算準(zhǔn)確的類比,假設(shè)NLP技術(shù)讓智能客服可以準(zhǔn)確回答100個客戶問題中的50個,那么將大模型加入智能客服工作流后,目前可以做到準(zhǔn)確回答75個,而且可以通過數(shù)據(jù)庫的切換從而切換不同場景。
“提效的絕對值在20%~30%左右,相對值50%這樣”,陳喆稱。
大模型對智能客服的人效提升不僅存在于需求端,更存在于供給端。大模型現(xiàn)有的二開與外掛數(shù)據(jù)庫范式讓智能客服產(chǎn)品從頭搭建的時間相對此前大大縮短了,投入的人力和時間成本呈現(xiàn)數(shù)量級的下降。而數(shù)據(jù)庫、知識庫的切換也確保了產(chǎn)品的獨(dú)特性。
當(dāng)大模型還在尋找落地場景時,50%的增效已經(jīng)為行業(yè)帶來了足夠的確定性,無論是大模型結(jié)合現(xiàn)有智能客服產(chǎn)品或是大模型以客服形式直接在SaaS領(lǐng)域落地。
更值得行業(yè)深究的問題是,打造一個智能客服產(chǎn)品需要構(gòu)建什么樣的技術(shù)棧,以及接下來的商業(yè)化。
demo與落地間的距離
智能客服是AIGC在電商領(lǐng)域落地的急先鋒,只是接入成本高昂的大模型能力卻是一件急不來的事情。
于大廠而言,客服不過是電商平臺中積重難返的成本損耗之一,一般不會在該領(lǐng)域投入太多資源;而中小廠商自然也沒有能力從零構(gòu)建模型底座。陳喆便直言智齒科技未構(gòu)建自研大模型,而是調(diào)用領(lǐng)先模型以及互聯(lián)網(wǎng)數(shù)據(jù),從而在應(yīng)用層打造產(chǎn)品。
換句話說,智能客服領(lǐng)域普遍存在投入資源的限制。底座缺失的情況下,智能客服目前大多遵循的是“選型調(diào)用——數(shù)據(jù)采集清洗——訓(xùn)練微調(diào)——部署應(yīng)用”的范式,但問題也隨之而來,且主要集中在數(shù)據(jù)層面。
一般來說,智能客服本身是應(yīng)對客戶降本需求的產(chǎn)品,自身的成本問題便更為突出。業(yè)內(nèi)常見的調(diào)用成熟的數(shù)據(jù)庫的做法的確可以極大縮短產(chǎn)品雛形的上線時間,卻會影響到成品的使用體驗(yàn)。一個是準(zhǔn)確率有可能因?yàn)閿?shù)據(jù)偏差而下降,另一個是數(shù)據(jù)同步存在滯后性。
數(shù)據(jù)本身會經(jīng)由廠商做結(jié)構(gòu)化的采集清洗,能否完美貼合客戶所在行業(yè)或領(lǐng)域卻是另外一回事,因?yàn)槠浯嬖跀?shù)據(jù)偏差導(dǎo)致的幻覺問題難以避免。陳喆告訴光子星球:“可回答率的提升也伴隨著輕微的準(zhǔn)確率下降,這在不少客戶看來是不能接受的。比如法律、教育、金融等領(lǐng)域的客戶?!?/p>
而數(shù)據(jù)同步更偏向于對智能客服供給與需求雙端。一方面,客戶需要及時上傳有待用于訓(xùn)練微調(diào)的數(shù)據(jù),另一方面,廠商也需要高頻率的微調(diào)并更新產(chǎn)品。
陳喆稱,智齒科技目前的更新頻率是周更,在開放數(shù)據(jù)接口的情況下,客戶需要及時傳送最新數(shù)據(jù),經(jīng)歷一段時間的語料學(xué)習(xí)后才能讓“最新數(shù)據(jù)”的價值得以體現(xiàn)。
“你的需求是秒級、分鐘級還是小時級都可以,數(shù)據(jù)前一秒push到我這,下一秒就會成為我們產(chǎn)品的訓(xùn)練語料?!?/p>
這不失為一個同步的好辦法,但也較為依賴調(diào)用模型的學(xué)習(xí)能力,而且難以第一時間“消化”數(shù)據(jù)價值。
至于最初的成本問題,相對而言反而沒那么重要了。智能客服場景的封閉性本就限制了數(shù)據(jù)量,從某家非頭部廠商的視角看,智能客服目前既不需要“囤卡”或接入向量數(shù)據(jù)庫來保障檢索效率,也不需要在調(diào)用模型時過于考量tokens成本,只需要結(jié)合對應(yīng)成本進(jìn)行定價即可——無論如何,使用智能客服節(jié)約的人效都比目前的定價要高得多。
可以肯定的是,智能客服想做出一個demo來確實(shí)容易,但其距離落地之間的距離并不止投入一個調(diào)用或自研的模型。難以量化的成本或?qū)⒊蔀槲磥碇悄芸头惖乐?,玩家們的護(hù)城河。
微妙的生存空間
在討論AIGC結(jié)合智能客服的可能性的同時,我們還需要考慮到智能客服并非由AI開拓的新賽道,而是一條有著十余年歷史、業(yè)態(tài)為大模型所重構(gòu)的老賽道。
于智能客服賽道而言,業(yè)態(tài)的重構(gòu)包括從NLP升維至大模型的底層變動、從語義理解演變?yōu)槎嗄B(tài)的功能躍升等,但非技術(shù)視角下的商業(yè)模式卻未曾改變。
說白了,智能客服是一項(xiàng)以降本為核心目的的SaaS業(yè)務(wù),這一點(diǎn)從《2023年中國智能客服市場報告》數(shù)據(jù)顯示軟件占據(jù)2022年中國智能客服市場79.94%中可見一二。也就是說,智能客服廠商的生存空間在于客戶與達(dá)成智能客服能力之間的距離,這一點(diǎn)在技術(shù)變遷的重要節(jié)點(diǎn)也未曾改變。
“如果大廠能在智能客服把我們打死的話,那么早在NLP時期我們就已經(jīng)死了”,陳喆說。
更進(jìn)一步,智能客服既然是SaaS業(yè)務(wù)中的一種,那么其增長范式也同樣有因循邏輯。例如推出客服領(lǐng)域大模型的移動、聯(lián)通等運(yùn)營商與容聯(lián)云,采用的便是產(chǎn)品驅(qū)動型增長(Product-led Growth)為主的增長模式,而對于未具備相應(yīng)能力的非頭部廠商而言,大多呈現(xiàn)更偏向于體驗(yàn)驅(qū)動型增長(eXperience-Led Growth)的模式。
并非腰部廠商以及他們的客戶不在意產(chǎn)品表現(xiàn),而是腰部廠商面對大廠在技術(shù)與資源上的傾軋,需要構(gòu)建第二增長曲線來為自己拓寬生存空間。比較典型的是針對客戶在應(yīng)用產(chǎn)品時可能發(fā)生的問題做“預(yù)處理”,以及盡可能拓展主要業(yè)務(wù)之外的業(yè)務(wù)路線等。
以某腰部廠商為例,他們?yōu)樽约耶a(chǎn)品專門建立了運(yùn)營部門,“無所不用其極”來做客戶支持,貼近客戶。而運(yùn)營部門的工作包括代客戶寫prompt、幫助客戶做私域運(yùn)營、甚至作為客戶與廠商之間的“中轉(zhuǎn)站”,以成員的形式撮合數(shù)字化整體解決方案等。
誠然,小廠能做的基本上大廠也能做,只不過需要投入一定時間與人力。只是兩者對智能客服的認(rèn)知以及展開業(yè)務(wù)的路線分野,也為腰部廠商擠出了不小的生存空間。
“大廠資源多投入高,自然想大口吃肉,盯著大客戶開單。而且也免不了一些務(wù)虛的東西,比如讓客戶試跑模型來‘偷師’語料。我們是更接地氣,盡可能讓客戶降本的需求在售前就能有清晰的感知”,某腰部廠商產(chǎn)品經(jīng)理稱。
況且,作為企業(yè)數(shù)字化轉(zhuǎn)型眾多項(xiàng)目中的一個,智能客服的盤口并不算大。一般大客戶會選擇打包的方式多方采購,防止一體化的風(fēng)險,這其中也蘊(yùn)含著非頭部廠商的機(jī)會。
目前看來,如今的智能客服賽道還算得上“萬類霜天競自由”,只是隨著智能客服與AIGC結(jié)合程度的加深,競爭白熱化后的業(yè)態(tài)很可能再次改變。
最基本的幻覺問題導(dǎo)致生成內(nèi)容質(zhì)量不穩(wěn)定擺在全行業(yè)面前,目前尚未有明確解法;而智能客服結(jié)合AIGC的業(yè)務(wù)進(jìn)入成熟期后,從降本增效到更進(jìn)一步的價值創(chuàng)造的趨勢又在倒逼智能客服廠商加碼技術(shù)迭代。比較典型的是電商領(lǐng)域的智能客服完全可以從客服延伸到導(dǎo)購。
此外,光子星球還自某頭部大廠處了解到,AIGC在電商客服場景的應(yīng)用存在時延,單純語義檢索難以保障用戶滿意度,引入向量數(shù)據(jù)庫似乎是未來的必然。
智能客服以其自身的降本價值以及與大模型的耦合程度,已然成為大模型落地的確定性場景之一。而其大模型時期的發(fā)展才剛起了個頭,勉強(qiáng)從“智障”變“智能”的客服面對復(fù)購、交叉銷售等需求,還需要更多范式迭代。