近日,PerfXCloud完成重大更新,上架了面壁小鋼炮 MiniCPM 系列的端側(cè)多模態(tài)模型 MiniCPM-Llama3-V 2.5,現(xiàn)已對平臺用戶免費開放體驗!
MiniCPM-Llama3-V 2.5
- MiniCPM 是以「以小博大」著稱的旗艦端側(cè)模型,也不斷推新端側(cè)多模態(tài)能力天花板——MiniCPM-Llama3-V 2.5實現(xiàn)了「以最小參數(shù),撬動最強(qiáng)性能」的最佳平衡點,并具備以下亮點能力:
- 領(lǐng)先的性能:MiniCPM-Llama3-V 2.5以 8B 量級的大小超過了GPT-4V-1106、Gemini Pro 等主流商用閉源多模態(tài)大模型。
- 優(yōu)秀的OCR能力:OCRBench 得分達(dá)到 725,超越GPT-4o、GPT-4V、Gemini Pro、Qwen-VL-Max 等商用閉源模型,達(dá)到最佳水平。
- 多語言支持:模型支持了德語、法語、西班牙語、意大利語、俄語等 30+ 種語言的多模態(tài)能力,并表現(xiàn)出了良好的多語言多模態(tài)對話性能。
- 可信行為:在Object HalBench的幻覺率降低到了 10.3%,顯著低于 GPT-4V-1106 (13.6%),達(dá)到開源社區(qū)最佳水平。
- 高效部署:通過模型量化、CPU、NPU、編譯優(yōu)化等高效加速技術(shù),實現(xiàn)高效的終端設(shè)備部署。
在綜合評測權(quán)威平臺OpenCompass上,MiniCPM-Llama3-V 2.5 以小博大,綜合性能超越多模態(tài)“巨無霸”GPT-4V和Gemini Pro。
PerfXCloud
PerfXCloud是澎峰科技為開發(fā)者和企業(yè)量身打造的AI開發(fā)和部署平臺。它專注于滿足大模型的微調(diào)和推理需求,為用戶提供極致便捷的一鍵部署體驗。PerfXCloud為算力中心提供大模型AI科學(xué)與工程計算的整體運(yùn)營解決方案,助力算力中心升級成為“AI超級工廠”。
模型廣場圖片
PerfXCloud介紹
目前,PerfXCloud(澎峰云)已面向基石用戶免費開放DeepSeek-V2 ?236B、llama3.1 405B的API調(diào)用接口。趕快注冊申請成為基石用戶來體驗吧!