安防進(jìn)入大模型時(shí)代，依圖「求索」新十年

廣度上，狹義上的安防市場(chǎng)，從以抓逃布控為主體的公共安全業(yè)務(wù)，走向更綜合的城市治理類(lèi)業(yè)務(wù)；與此同時(shí)，泛安防市場(chǎng)借助視覺(jué)智能化技術(shù)，向前進(jìn)入更大的ToB企業(yè)市場(chǎng)，同時(shí)增加非視頻投入，通過(guò)擴(kuò)充產(chǎn)品線，尋求更大的增長(zhǎng)空間。

深度上，企業(yè)仍以視頻為核心，在智能技術(shù)上進(jìn)一步投入感知智能、認(rèn)知智能，部屬大模型能力。

這兩個(gè)方向的開(kāi)掘，都與視頻的智能化緊密結(jié)合。

從早期“看得見(jiàn)"，到“看得清"，再到今天大模型賦能下的“看得懂"，視頻智能化經(jīng)歷了L1-L5五個(gè)階段的進(jìn)化：

從圖片的結(jié)構(gòu)化標(biāo)簽到視頻的語(yǔ)義理解；

從眾多的判別式任務(wù)模型到視覺(jué)為基礎(chǔ)的多模態(tài)大模型；

從端側(cè)攝像頭AI算力到云邊側(cè)集中式服務(wù)器AI算力；

從人、車(chē)的識(shí)別到長(zhǎng)尾物體的識(shí)別；

從標(biāo)簽式篩選交互到基于語(yǔ)義的人機(jī)多模態(tài)交互。

在L5階段，大家基本達(dá)成一個(gè)重要共識(shí)：以Transformer為基礎(chǔ)的大模型統(tǒng)一了視頻和大數(shù)據(jù)的底層框架，也開(kāi)啟了視頻智能化情境理解的新時(shí)代。

意味著面對(duì)同一個(gè)指令，整個(gè)流程將從割裂的兩個(gè)步驟簡(jiǎn)化成一個(gè)步驟，并且由于省略了中間過(guò)程，預(yù)測(cè)準(zhǔn)確性將極大提升。

以統(tǒng)計(jì)A路口過(guò)去十天的擁堵?tīng)顩r為例，以往的做法是，先通過(guò)攝像頭做解析產(chǎn)生大量結(jié)構(gòu)化數(shù)據(jù)，再到數(shù)據(jù)庫(kù)環(huán)節(jié)匹配結(jié)果；而視覺(jué)和大數(shù)據(jù)的融合，將非結(jié)構(gòu)化的視頻和結(jié)構(gòu)化的數(shù)據(jù)庫(kù)做了融合，變成用一個(gè)模型統(tǒng)一解決，具體到操作，只需語(yǔ)音指揮即可，“過(guò)去10天A路口特別擁堵，請(qǐng)將該路口的攝像頭調(diào)取出來(lái)”。

換言之，大模型時(shí)代，當(dāng)數(shù)據(jù)從一端流入，結(jié)果就會(huì)從另一端直接流出。

于公安行業(yè)，將是一場(chǎng)警務(wù)信息化系統(tǒng)的大改造。

首先，大模型將帶來(lái)視頻智能化建設(shè)的重大轉(zhuǎn)變。

視頻智能化建設(shè)分兩種模式：一是圖片流，前端相機(jī)直接做智能化，然后把圖片回傳后端做進(jìn)一步分析，缺點(diǎn)是大量信息被丟失；一是視頻流，前端攝像頭負(fù)責(zé)捕捉，后端進(jìn)行視頻分析，雖然保留了視頻中的所有語(yǔ)義，行為能被完整刻畫(huà)，但由于沒(méi)有大模型的加持，視頻完整語(yǔ)義的價(jià)值并沒(méi)有被完全挖掘和使用。

走視頻流的智能化路線，是對(duì)客戶更加負(fù)責(zé)的選擇，“圖片流只能做人臉識(shí)別，隨著業(yè)務(wù)需求增長(zhǎng)，圖片流建設(shè)模式就會(huì)變成斷頭路，只能換新相機(jī)；而視頻流對(duì)前端建設(shè)有利舊保護(hù)，只需后端升級(jí)算法即可?！?/p>

考慮到大模型只能部署在后端，未來(lái)視頻流智能化或?qū)⒊蔀橹髁鳌?/p>

其次，是IT基礎(chǔ)設(shè)施的重大變化。

前面已經(jīng)提到，傳統(tǒng)的信息化技術(shù)，通過(guò)前端攝像機(jī)會(huì)產(chǎn)生大量結(jié)構(gòu)化數(shù)據(jù)，結(jié)構(gòu)化數(shù)據(jù)存在數(shù)據(jù)庫(kù)里，數(shù)據(jù)庫(kù)則存在硬盤(pán)里。

大模型時(shí)代，所有數(shù)據(jù)經(jīng)過(guò)模型處理，會(huì)生成蘊(yùn)含對(duì)視頻語(yǔ)義完整理解的特征向量，特征向量存在向量數(shù)據(jù)庫(kù)里，向量數(shù)據(jù)庫(kù)存在顯存里。

在從傳統(tǒng)數(shù)據(jù)庫(kù)變到向量數(shù)據(jù)庫(kù)的過(guò)程中，基礎(chǔ)設(shè)施層面，也將從過(guò)去建CPU為主的數(shù)據(jù)庫(kù)系統(tǒng)，到建設(shè)GPU為主的向量搜索系統(tǒng)。

基于這一認(rèn)知，依圖在2022年發(fā)布了求實(shí)服務(wù)器。

對(duì)于這款服務(wù)器的誕生，許焰如此解釋?zhuān)骸斑M(jìn)入到向量時(shí)代，超融合架構(gòu)的服務(wù)器威力非常大，依圖求實(shí)服務(wù)器有一個(gè)最大的特點(diǎn)，內(nèi)存即顯存，因?yàn)榧幢?a class="article-link" target="_blank" href="/manufacturer/1000151/">英偉達(dá)的A100也只有40G的顯存，但求實(shí)服務(wù)器內(nèi)存可以到512G，甚至1T?！痹S焰介紹。

再者，從生產(chǎn)過(guò)程講，有了預(yù)訓(xùn)練大模型，用戶需求端到端的時(shí)間以及成本會(huì)被極大壓縮。

一方面，用大模型技術(shù)替代過(guò)去小模型，可以極大壓縮生產(chǎn)過(guò)程周期，降低算法研發(fā)成本，讓客戶更快享受到技術(shù)的紅利。

比如，當(dāng)用戶要做一個(gè)“騎電瓶車(chē)不戴頭盔”的需求時(shí)，AI公司需要先收集數(shù)據(jù)做訓(xùn)練，需求提出到滿足，至少一到兩個(gè)月。

有了預(yù)訓(xùn)練大模型后，只需輸入“騎電瓶車(chē)不帶頭盔”的指令，就能生成算法，一周時(shí)間即可達(dá)到之前一兩個(gè)月才有的效果，并且時(shí)間越長(zhǎng)，模型精度越高。

另一方面，通過(guò)算法和算力的端到端的整合，也會(huì)帶來(lái)成本最小化。

許焰舉例，“過(guò)去做1萬(wàn)路視頻智能化，得用16個(gè)機(jī)柜，現(xiàn)在算法和算力實(shí)現(xiàn)端到端整合后，只用一個(gè)機(jī)柜就可以解決所有問(wèn)題，但整體成本下降了80%?！?/p>

最后，從業(yè)務(wù)層面講，傳統(tǒng)的指揮中心、移動(dòng)警務(wù)、偵查破案等都會(huì)發(fā)生重大變化。

比如指揮中心可以直接通過(guò)語(yǔ)音調(diào)取攝像頭，如“幫我調(diào)取所有公園的視頻”、“幫我調(diào)取所有現(xiàn)在擁堵路段的視頻”；移動(dòng)警務(wù)也將變成，民警在路上巡邏上時(shí)，不再需要在執(zhí)法儀上打字，而可以高效率地通過(guò)語(yǔ)音輸入指令，如“請(qǐng)查詢(xún)前方戴黑色帽子的人的身份?！?/p>

“新安防、真智能”，安防的下一個(gè)十年屬于智能

“依圖一直堅(jiān)信安防市場(chǎng)會(huì)從監(jiān)控走向智能?！?/p>

如果說(shuō)依圖有什么明顯區(qū)別于其他公司的地方，就在于其始終認(rèn)可安防市場(chǎng)的價(jià)值，并用十年時(shí)間堅(jiān)守安防市場(chǎng)。

談到依圖對(duì)安防市場(chǎng)的貢獻(xiàn)，許焰滿是自豪：

“自2012年成立至今，在安防智能化發(fā)展的各個(gè)階段，依圖都代表業(yè)界最前沿水平。依圖之所以堅(jiān)信安防是個(gè)好市場(chǎng)，一個(gè)原因也在于依圖在安防市場(chǎng)做到了盈利，持續(xù)為客戶創(chuàng)造價(jià)值?！?/p>

這種價(jià)值具體表現(xiàn)為，時(shí)至今日，依圖是安防行業(yè)第一個(gè)推出可實(shí)戰(zhàn)可商用的多模態(tài)大模型的公司。

“第一個(gè)”寫(xiě)起來(lái)雖然簡(jiǎn)單，但對(duì)于依圖而言，背后是沉甸甸的付出。

2018年，依圖提出“新安防，真智能”的口號(hào)，至今未變。

彼時(shí)，視覺(jué)智能化快速發(fā)展，人臉識(shí)別開(kāi)始進(jìn)入規(guī)?；涞仉A段。依圖的“新安防”口號(hào)，為公安業(yè)務(wù)流程的變革而發(fā)；“真智能”口號(hào)的提出，則強(qiáng)調(diào)了“真正的智能”給安防行業(yè)帶來(lái)的差異化的用戶價(jià)值。

進(jìn)入大模型時(shí)代，公安的業(yè)務(wù)流程、智能化程度躍遷到了新的階段，但依圖這句口號(hào)的內(nèi)核依然沒(méi)有變化。

真正讓人動(dòng)容之處在于，依圖并沒(méi)有淪為“口號(hào)專(zhuān)家”，而是將口號(hào)掛在了實(shí)際行動(dòng)上。

一直以來(lái)，客戶看似不合理的追求六個(gè)字：高價(jià)值、低成本。

滿足這個(gè)需求并不容易，尤其在AI這一有著極高技術(shù)和渠道門(mén)檻的賽道。

但依圖對(duì)這句話的信奉和踐行，是AI公司中難得一見(jiàn)的扎實(shí)。

支撐依圖“安防是好市場(chǎng)”背后的商業(yè)邏輯正是，追求價(jià)值最大化、成本最小化。

依圖2017年開(kāi)始布局芯片板塊，2019年5月9日發(fā)布首款云端AI芯片“求索”，用于視覺(jué)推理領(lǐng)域。

當(dāng)時(shí)的發(fā)布會(huì)現(xiàn)場(chǎng)，依圖通過(guò)四塊“求索”芯片，實(shí)時(shí)比對(duì)現(xiàn)場(chǎng)觀眾，演示十分鐘內(nèi)，無(wú)一起誤報(bào)。

依圖之所以向上做芯片，在于看到了算法性能高速發(fā)展和機(jī)器算力提升緩慢的矛盾，這一矛盾導(dǎo)致AI公司們要么犧牲算法性能，削足適履；要么沒(méi)有先進(jìn)算法，空耗資源。

而隨著中美科技競(jìng)爭(zhēng)的加劇，美國(guó)對(duì)中國(guó)芯片的封鎖制裁力度持續(xù)升級(jí)，國(guó)產(chǎn)化具有高性?xún)r(jià)比的芯片產(chǎn)品在此刻顯得尤為重要，依圖的選擇似乎又更具有前瞻性：做硬件和算法的端到端的整合，可以給用戶最高性?xún)r(jià)比的后端智能化產(chǎn)品。

如果說(shuō)，以前因?yàn)槿狈y(tǒng)一的模型結(jié)構(gòu)導(dǎo)致芯片和算法公司難以匹配，在一定程度上說(shuō)明人工智能芯片還不太成立，那么到今天，這個(gè)阻礙已經(jīng)消失了。

2019年，依圖開(kāi)始投入以Transformer為基礎(chǔ)的大模型技術(shù)，如今回看這一決定，其意義在于，選對(duì)了公司未來(lái)幾年的發(fā)展路徑。

當(dāng)企業(yè)選擇的方向更準(zhǔn)確，研發(fā)的效率就會(huì)更高效，成本更低，對(duì)客戶而言就是更高的性?xún)r(jià)比，最終實(shí)現(xiàn)雙贏。

“到今天，依圖的多模態(tài)大模型已經(jīng)在全國(guó)30多個(gè)項(xiàng)目中部署應(yīng)用?！睋?jù)許焰介紹，依圖“天問(wèn)”多模態(tài)大模型，有以下三大特點(diǎn)：

其一，視頻語(yǔ)義搜索能力，支持用自然語(yǔ)言搜索各類(lèi)視頻。

類(lèi)似“堵塞消防通道的車(chē)”、”積水的路面“、”無(wú)人看管的紅色行李箱“等表達(dá)都可以快速找出對(duì)應(yīng)的視頻。

其二，零樣本、冷啟動(dòng)。

比如要?jiǎng)?chuàng)建一個(gè)騎車(chē)不戴頭盔的算法，只需輸入“騎車(chē)不戴頭盔”，就能生成算法，并且算法一旦上線，便能在線上做分鐘級(jí)的訓(xùn)練，越用精度越高。

其三，內(nèi)置了大量凝結(jié)依圖對(duì)行業(yè)認(rèn)知的算法。

通過(guò)針對(duì)性的將特定數(shù)據(jù)放入訓(xùn)練模型中，如大客流、重點(diǎn)區(qū)域防控等典型算法，來(lái)提高模型性能。

今年以來(lái)，依圖的天問(wèn)大模型收到不少令許焰印象深刻的反饋。

某城市交通事故頻發(fā)，該市客戶找到依圖做城市路口的常規(guī)違章和不文明行為判定，要求用天問(wèn)大模型賦能利舊的前端攝像頭。

依圖做了闖紅燈、超速、不禮讓行人、騎車(chē)不戴安全帽、違法掉頭、壓實(shí)線等各種各樣的算法，系統(tǒng)上線第一天，準(zhǔn)確度只有60%-70%，一周結(jié)束后精度基本達(dá)到100%，并且成本比以往的建設(shè)成本下降了 60% - 70%。

在許焰的回憶中，“當(dāng)時(shí)這個(gè)客戶特別興奮，因?yàn)橐缊D用一周時(shí)間，解決了該城市交通治理極大的痛點(diǎn)?！?/strong>