加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 首個(gè)面向?qū)崟r(shí)分析的GA版本
    • 更快推動(dòng)AI應(yīng)用大規(guī)模落地
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

7天開發(fā)一個(gè)AI Agent應(yīng)用!秘密武器:一體化數(shù)據(jù)庫

10/25 11:00
1223
閱讀需 15 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

明敏 發(fā)自 凹非寺,量子位 | 公眾號(hào) QbitAI

幾個(gè)工程師、一個(gè)星期,就能做一個(gè)AI Agent應(yīng)用了。

效果be like——能理解用戶復(fù)雜長命令,推薦符合要求的奶茶店。

推薦兩公里內(nèi)、評(píng)分4.5以上、人均消費(fèi)25元以內(nèi)干凈衛(wèi)生的奶茶店。

要知道,這背后需要它能分析處理不同模態(tài)的數(shù)據(jù),比如文本、地理信息、圖像等。

放在以前,構(gòu)建這樣的AI應(yīng)用需要多個(gè)不同的數(shù)據(jù)庫,還需要配備經(jīng)驗(yàn)豐富且規(guī)模較大團(tuán)隊(duì)來管理復(fù)雜技術(shù)棧。

如今,能如此輕松搞定,多虧了背后的一體化數(shù)據(jù)庫OceanBase

最新發(fā)布會(huì)上,OceanBase推出首個(gè)面向?qū)崟r(shí)分析處理場景的GA版本:4.3.3版本。

不僅推出全新向量檢索功能,實(shí)現(xiàn)SQL+AI一體化,還進(jìn)一步增強(qiáng)多模態(tài)數(shù)據(jù)處理能力。

感覺方方面面都是為AI時(shí)代做好了準(zhǔn)備啊。

為啥能這么說?

從最新發(fā)布的新能力看起。

首個(gè)面向?qū)崟r(shí)分析的GA版本

此次OceanBase 4.3.3核心升級(jí)的能力主要有3方面:

    • AP場景性能提升
    • 多模態(tài)數(shù)據(jù)支持
    • 向量檢索與索引

首先,OceanBase 4.3.3版本升級(jí)了對(duì)復(fù)雜數(shù)據(jù)類型處理能力。

新增Array類型,這意味著數(shù)據(jù)庫可以直接存儲(chǔ)、查詢和操作數(shù)組數(shù)據(jù)。并對(duì)Roaringbitmap類型數(shù)據(jù)的計(jì)算性能進(jìn)行了優(yōu)化,意味著數(shù)據(jù)庫能夠更高效地處理和操作大型集合數(shù)據(jù)。

其次,OceanBase 4.3.3在向量融合查詢的關(guān)鍵能力上帶來提升,推出全新向量檢索能力,支持向量數(shù)據(jù)類型和向量索引,并基于向量索引提供強(qiáng)大搜索能力。

用戶可通過SQL及Python SDK等方式靈活調(diào)用OceanBase的向量檢索能力。

如今,在通用數(shù)據(jù)庫中集成向量插件已經(jīng)成為一種趨勢,這種方式能夠直接復(fù)用通用數(shù)據(jù)已有功能和生態(tài)。

OceanBase與螞蟻集團(tuán)聯(lián)合開發(fā)了向量索引庫,這個(gè)索引庫已經(jīng)在螞蟻集團(tuán)大量業(yè)務(wù)場景中得到驗(yàn)證(如生物識(shí)別、企業(yè)內(nèi)部知識(shí)庫等),性能成熟。

現(xiàn)場跑分結(jié)果顯示,該向量庫在960維的GIST數(shù)據(jù)集上表現(xiàn)出色,在ANN Benmarks測試中性能遠(yuǎn)超其他算法,排名第一。

特別是在 90% 以上的召回率區(qū)間,查詢性能(QPS)相比此前最優(yōu)算法 glass 提升 100%,相比基線算法hnswlib提升300%。

該向量引擎深度融合了OceanBase的存儲(chǔ)引擎和SQL引擎,實(shí)現(xiàn)SQL+AI一體化。能夠在一條SQL語句中實(shí)現(xiàn)標(biāo)量、向量、空間地理等混合查詢。

比如“望小京”demo中,用戶給的提示詞為“推薦兩公里內(nèi)、評(píng)分4.5以上、人均消費(fèi)25元以內(nèi)干凈衛(wèi)生的奶茶店”。這背后涉及到處理文本、圖像和地理位置等不同類型的數(shù)據(jù),需要更強(qiáng)大的數(shù)據(jù)分析和查詢能力。

最后,OceanBase 4.3.3還針對(duì)AP(分析處理)場景進(jìn)行大幅性能優(yōu)化,尤其是在海量數(shù)據(jù)分析時(shí),能夠提供更短的響應(yīng)時(shí)間和更高的吞吐能力。

    • TPC-H 1T場景提升64%
    • TPC-DS 1T場景提升36%
    • ClickBench hot- run提升49%
    • cold-run性能提升149%

同時(shí)大幅完善了實(shí)時(shí)AP功能,包括支持列存副本、物化視圖、外表集成、快速導(dǎo)入導(dǎo)出等。

實(shí)現(xiàn)滿足TP和AP負(fù)載的物理資源強(qiáng)隔離,可確保系統(tǒng)在處理事務(wù)型負(fù)載時(shí),不受分析型負(fù)載的影響,特別是在實(shí)時(shí)數(shù)據(jù)分析和決策場景中,能夠保持系統(tǒng)的高性能與穩(wěn)定性。

在易用性方面也做了升級(jí),通過提供AP參數(shù)版本,用戶可以針對(duì)不同場景選擇特定模板,不需要再單獨(dú)配置參數(shù)。并增強(qiáng)了AP場景中對(duì)SQL診斷能力的支持。

總結(jié)來看,OceanBase 4.3.3在基礎(chǔ)分布式能力上,帶來更強(qiáng)性能、向量多模融合、融入AI技術(shù)棧。

也就是將AI與數(shù)據(jù)庫進(jìn)一步融合。

這并不難理解,AI應(yīng)用/AI Agent大勢所在,各類應(yīng)用智能化升級(jí)改造,底層數(shù)據(jù)庫必須緊隨趨勢升級(jí)。

不過在這之中,OceanBase還反復(fù)提到了一個(gè)關(guān)鍵詞——一體化。

它不僅是OceanBase的自身特性,如今也逐漸成為行業(yè)擁抱AI時(shí)代的一個(gè)優(yōu)解。

Why?

更快推動(dòng)AI應(yīng)用大規(guī)模落地

對(duì)于數(shù)據(jù)庫的發(fā)展,行業(yè)內(nèi)逐漸達(dá)成一些共識(shí)。

AI能力大幅提升,導(dǎo)致全球80%以上的非結(jié)構(gòu)化數(shù)據(jù)被激活,背后的挖掘分析需求井噴,在這一新變化下,數(shù)據(jù)處理面臨更大規(guī)模、更多模態(tài)、實(shí)時(shí)性更強(qiáng)以及數(shù)據(jù)碎片和數(shù)據(jù)孤島問題。

這些變化給數(shù)據(jù)庫提出了諸多新的發(fā)展需求。

最首要的便是,分布式數(shù)據(jù)庫成為一種大趨勢。

華東師范大學(xué)數(shù)據(jù)學(xué)院院長、CCF數(shù)據(jù)庫專委會(huì)常委錢衛(wèi)寧提出,互聯(lián)網(wǎng)時(shí)代數(shù)據(jù)走向了開放環(huán)境,在數(shù)據(jù)是分布式的時(shí)代里,數(shù)據(jù)庫也需要是分布式的。

分布式數(shù)據(jù)庫可以讓多臺(tái)服務(wù)器協(xié)同作業(yè),完成單臺(tái)服務(wù)器無法處理的任務(wù),尤其是高并發(fā)或者大數(shù)據(jù)量的任務(wù)。

除此之外,隨著AI、云計(jì)算等技術(shù)發(fā)展,數(shù)據(jù)庫還呈現(xiàn)出以下特點(diǎn)。

第一,云計(jì)算的普及推動(dòng)了云數(shù)據(jù)庫的快速發(fā)展。云數(shù)據(jù)庫提供按需擴(kuò)展、高可用性和成本效益。

第二,大數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)需求增加,多模態(tài)是一種趨勢,NoSQL數(shù)據(jù)庫(如MongoDB、Cassandra、Redis、Couchbase)越來越受到歡迎。NoSQL數(shù)據(jù)庫提供了更好的擴(kuò)展性和靈活性,適用于存儲(chǔ)和處理各種數(shù)據(jù)類型,如文檔、鍵值對(duì)、圖數(shù)據(jù)等。

第三,HTAP數(shù)據(jù)庫成為熱點(diǎn),甚至是主流數(shù)據(jù)庫的一項(xiàng)基礎(chǔ)能力。這類數(shù)據(jù)庫能夠同時(shí)處理事務(wù)性和分析性工作負(fù)載,滿足了企業(yè)實(shí)時(shí)數(shù)據(jù)處理和分析的需求。

第四,開源也是一大趨勢。開源數(shù)據(jù)庫(如PostgreSQL、MySQL、MariaDB)憑借其社區(qū)驅(qū)動(dòng)的發(fā)展模式、強(qiáng)大的功能和靈活的部署方式,成為企業(yè)和開發(fā)者的熱門選擇。

不過來到實(shí)際落地層面,盡管數(shù)據(jù)、數(shù)據(jù)庫在變得更加多元復(fù)雜,但是企業(yè)用戶總還是希望能只用一套系統(tǒng)來解決不同工作負(fù)載

比如能同時(shí)在事務(wù)處理(如支付、訂單等高頻交易場景)和復(fù)雜的實(shí)時(shí)分析查詢,這背后需要TP+AP結(jié)合。

以及AI與多模查詢能力的融合,如Rockset和Oracle這樣的數(shù)據(jù)庫系統(tǒng)通過hybrid search融合查詢技術(shù),將SQL查詢與向量化查詢相結(jié)合,使得數(shù)據(jù)處理能夠同時(shí)包含文本、結(jié)構(gòu)化數(shù)據(jù)和向量數(shù)據(jù)等不同類型。

方方面面影響下,一體化設(shè)計(jì)逐漸成為被市場青睞的路線。

以MongoDB和Oracle為代表的數(shù)據(jù)庫廠商正在各自推動(dòng)一體化數(shù)據(jù)庫的發(fā)展。國家工業(yè)信息安全發(fā)展研究中心等共同編制的《分布式數(shù)據(jù)庫發(fā)展趨勢研究報(bào)告》中也表示,分布式數(shù)據(jù)架構(gòu)的設(shè)計(jì)正在走向一體化

在這之中,OceanBase的一體化理念非常鮮明。它包括:

一體化產(chǎn)品:多工作負(fù)載(TP+AP)、多模(SQL+NoSQL)、向量(SQL+AI)。

一體化引擎:一體化存儲(chǔ),一體化事務(wù),一體化SQL。

一體化架構(gòu):包括單機(jī)分布式一體化與多云原生。

OceanBase介紹,這種一體化的思路是隨著客戶需求不斷發(fā)展而來。

首先在底層架構(gòu)設(shè)計(jì)上,單機(jī)分布式一體化與多云原生并存,可以滿足大中小企業(yè)的不同需求。OceanBase已經(jīng)和目前主流云廠商均達(dá)成合作,實(shí)現(xiàn)公有云“多云共生”,同時(shí)也提供專有云、混合云等不同部署環(huán)境,保證一致體驗(yàn)。

其次隨著數(shù)據(jù)庫場景不斷變化,從傳統(tǒng)場景到泛互聯(lián)網(wǎng)場景,OceanBase從TP到TP+AP,逐漸走向多工作負(fù)載一體化。

比如在第一階段OLTP+,會(huì)浮現(xiàn)出山東移動(dòng)這類客戶的需求,他們主要關(guān)注復(fù)雜查詢場景,需要增強(qiáng)業(yè)務(wù)處理效率。

第二階段浮現(xiàn)出了海底撈這類用戶的需求。海底撈本來使用兩個(gè)系統(tǒng)分別處理OLTP和OLAP,這導(dǎo)致OLTP和OLAP之間存在數(shù)據(jù)延遲,沒法保證數(shù)據(jù)一致性,還需要兩份數(shù)據(jù)兩份成本。OceanBase能將其整合,不僅使整體成本降低,還能提升原本的AP性能。

第三階段還會(huì)浮現(xiàn)出實(shí)時(shí)營銷等場景,對(duì)實(shí)時(shí)AP提出更多要求。

以及在實(shí)際推廣中,OceanBase發(fā)現(xiàn)越來越多客戶將OceanBase既應(yīng)用在KV存儲(chǔ)場景,也應(yīng)用在NoSQL場景,或者替換HBase、Redis等。因?yàn)镺ceanBase能夠解決各個(gè)場景中很多棘手問題,比如對(duì)于NoSQL而言,最大的挑戰(zhàn)在于數(shù)據(jù)規(guī)模,分布式架構(gòu)可以很好解決數(shù)據(jù)擴(kuò)展的問題。

因此,順應(yīng)用戶需求,OceanBase在不斷增加對(duì)多種數(shù)據(jù)類型的支持,實(shí)現(xiàn)多模一體化。

最后,來到AI時(shí)代?!癆I for DB,DB for AI”成為共識(shí)。

AI應(yīng)用大規(guī)模落地的前提是大模型技術(shù)能夠在各行各業(yè)低成本易用。

數(shù)據(jù)庫的發(fā)展經(jīng)驗(yàn)可以為AI應(yīng)用推廣提供參考。比如在數(shù)據(jù)庫中引入向量插件,實(shí)現(xiàn)SQL+AI,能夠大幅簡化原有AI技術(shù)棧,讓打造AI Agent的門檻驟降。

最后總結(jié)來看,以O(shè)ceanBase為代表的一體化數(shù)據(jù)庫不僅能為企業(yè)提供更更好的數(shù)據(jù)底座,而且方方面面都滿足AI應(yīng)用發(fā)展的需求。它總體呈現(xiàn)出這些特點(diǎn):

第一,高效的數(shù)據(jù)處理和分析。

支持HTAP,能夠在同一個(gè)系統(tǒng)中同時(shí)處理事務(wù)性(OLTP)和分析性(OLAP)負(fù)載。企業(yè)可以實(shí)時(shí)地對(duì)交易數(shù)據(jù)進(jìn)行分析,而不需要等待數(shù)據(jù)的同步和轉(zhuǎn)移,從而加快決策速度和響應(yīng)時(shí)間。

實(shí)時(shí)分析,可以在數(shù)據(jù)生成的同時(shí)進(jìn)行分析,確保數(shù)據(jù)的時(shí)效性,這對(duì)于實(shí)時(shí)推薦、風(fēng)控、監(jiān)控等AI應(yīng)用至關(guān)重要。

第二,簡化的數(shù)據(jù)管理。

一體化數(shù)據(jù)庫能夠確保數(shù)據(jù)的一致性和完整性,因?yàn)槭聞?wù)處理和分析處理在同一個(gè)系統(tǒng)內(nèi)完成,避免了數(shù)據(jù)同步和轉(zhuǎn)換過程中可能出現(xiàn)的延遲和錯(cuò)誤。

通過將多種數(shù)據(jù)類型(如關(guān)系型數(shù)據(jù)、文檔數(shù)據(jù)、向量數(shù)據(jù)等)集成在一個(gè)系統(tǒng)中,一體化數(shù)據(jù)庫簡化了數(shù)據(jù)存儲(chǔ)和管理。企業(yè)不需要維護(hù)多個(gè)數(shù)據(jù)庫系統(tǒng),減少了數(shù)據(jù)孤島問題和運(yùn)維復(fù)雜性。

第三,靈活性和擴(kuò)展性。

一體化數(shù)據(jù)庫支持多模態(tài)數(shù)據(jù)處理,能夠處理和分析結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)。這種靈活性使企業(yè)可以在一個(gè)平臺(tái)上處理不同類型的數(shù)據(jù),滿足各種業(yè)務(wù)需求。

一體化數(shù)據(jù)庫可以在公有云、私有云和本地數(shù)據(jù)中心的混合環(huán)境中部署,支持異構(gòu)環(huán)境下的數(shù)據(jù)管理和應(yīng)用。這使企業(yè)能夠根據(jù)業(yè)務(wù)需求靈活選擇和調(diào)整部署方案。

第四,簡化AI應(yīng)用構(gòu)建。

AI應(yīng)用通常需要進(jìn)行高效的向量檢索和相似性搜索。一體化數(shù)據(jù)庫通過深度集成向量引擎,支持快速向量化計(jì)算和相似度查詢,提升AI應(yīng)用的性能。

一體化數(shù)據(jù)庫能夠?qū)?shù)據(jù)存儲(chǔ)和AI模型緊密結(jié)合,支持復(fù)雜的AI工作負(fù)載。這種集成減少了數(shù)據(jù)傳輸的延遲,提高了模型訓(xùn)練和推理的效率。

第五,降低成本和復(fù)雜性。

一體化數(shù)據(jù)庫減少了企業(yè)需要維護(hù)的數(shù)據(jù)庫系統(tǒng)數(shù)量,簡化了技術(shù)棧,降低了系統(tǒng)集成和運(yùn)維的復(fù)雜性。

通過優(yōu)化資源利用和減少多系統(tǒng)間的數(shù)據(jù)同步和轉(zhuǎn)換,一體化數(shù)據(jù)庫降低了總體擁有成本,提高了投資回報(bào)率。

AI時(shí)代,Data is Power

李飛飛當(dāng)初篤定做ImageNet,背后的核心邏輯就在于,她相信AI改變世界,數(shù)據(jù)是最簡單最直接的方式。

如今,AI應(yīng)用落地趨勢已經(jīng)開啟。數(shù)據(jù)作為生產(chǎn)要素,在AI時(shí)代已是水電般的存在。

而一體化數(shù)據(jù)庫正在為數(shù)據(jù)更充分靈活高效應(yīng)用提供新思路。

據(jù)了解,一體化數(shù)據(jù)庫OceanBase將成為螞蟻集團(tuán)的AI數(shù)據(jù)底座,為一系列AI時(shí)代新應(yīng)用“支小寶”、“螞小財(cái)”以及支付寶百寶箱智能體開發(fā)平臺(tái)的數(shù)據(jù)管理提供支持。

一體化正在成為數(shù)據(jù)庫發(fā)展歷程中,一個(gè)旗幟鮮明的方向。

相關(guān)推薦

電子產(chǎn)業(yè)圖譜