小米 OV 集體自研 ISP 芯片的背后，真相并不簡單

有公司做了十多年ISP，也沒有進(jìn)入行業(yè)一流水平。

過去十多年，中國的手機(jī)廠商們借高通和聯(lián)發(fā)科的SoC芯片，推動了智能手機(jī)的普及，同時也躋身全球手機(jī)行業(yè)的前列。然而，隨著手機(jī)市場競爭的加劇，以及消費(fèi)者對手機(jī)使用體驗(yàn)的更高追求，通用的手機(jī)SoC成為了手機(jī)巨頭們提升競爭力的瓶頸。

于是，小米、OPPO、VIVO相繼走上了自研芯片的道路，他們的終極目標(biāo)是自研SoC芯片，但當(dāng)下都聚焦ISP（Image Signal Processor，圖像信號處理器）的研發(fā)。手機(jī)巨頭們?yōu)槭裁炊歼x擇從自研ISP芯片入門？消費(fèi)者需求、手機(jī)廠商的技術(shù)積累、ISP的技術(shù)特性、手機(jī)市場的未來趨勢等都是關(guān)鍵原因，這也是本文將詳細(xì)解答的問題。

至于手機(jī)巨頭們自研芯片能否成功？多位業(yè)內(nèi)資深人士都告訴雷鋒網(wǎng)，這在于手機(jī)廠商的決心。

“困”在芯片里的手機(jī)巨頭，踏上自研之路

2013年12月，中國開啟4G時代。三年后的2016年，國產(chǎn)手機(jī)開始全面崛起，這一年，蘋果和三星在中國的市場份額開始下降，華為、OPPO和VIVO的市場份額高速增長，小米也憑借超高性價比迅速占領(lǐng)市場。

兩大市場研究機(jī)構(gòu)Counterpoint和canalys 2021年第二季度的數(shù)據(jù)顯示，小米、OPPO、VIVO位列全球五大手機(jī)廠商之列，分別排名第二、第三和第五位，合計(jì)市場份額超過35%。小米創(chuàng)始人董事長兼首席執(zhí)行官雷軍更是在近日放出豪言，“5至10年后，小米會成世界第一的手機(jī)公司。”

躋身全球前五的三大手機(jī)廠商們有一個共同點(diǎn)，每一代手機(jī)功能的重大提升都與高通、聯(lián)發(fā)科當(dāng)年最新的SoC的特性密切相關(guān)。這也讓他們面臨一個共同的挑戰(zhàn)，在增長乏力的手機(jī)市場，想要實(shí)現(xiàn)性能和體驗(yàn)的差異被芯片制約。

自研芯片是一條被證明可行的路徑，蘋果、華為和三星都通過自研芯片實(shí)現(xiàn)了差異化，并成功占領(lǐng)了高端手機(jī)市場。實(shí)際上，要沖擊世界第一的小米早在2014年就踏上了芯片自研之路，在2017年發(fā)布了首款手機(jī)SoC澎湃S1，但體驗(yàn)不盡人意。

有業(yè)內(nèi)人士對雷鋒網(wǎng)表示：“澎拜S1失敗一個非常關(guān)鍵的原因是太急于求成。”

研發(fā)SoC受挫，小米又在2019年研發(fā)了一款I(lǐng)SP芯片澎湃C1，這款芯片與2021年3月發(fā)布的小米折疊屏手機(jī)MIX FOLD同時亮相，能夠?qū)崿F(xiàn)更好的3A（自動對焦，自動白平衡，自動曝光）處理，自研ISP+自研算法也順勢成為這款旗艦手機(jī)的一大賣點(diǎn)。

這邊MIX FOLD已經(jīng)開賣，那邊OPPO和VIVO也在自研芯片的道路上快步前行。

2019年9月，VIVO執(zhí)行副總裁胡柏山透露其在2018年初就開始考慮深度參與SoC的設(shè)計(jì)中，并在當(dāng)年年底發(fā)布了與三星聯(lián)合研發(fā)的SoC芯片Exynos 980。雖然已經(jīng)深度參與SoC研發(fā)，但自研才是VIVO的目標(biāo)。界面新聞7月報(bào)道，VIVO內(nèi)部代號“悅影”的首款自研芯片即將推出，可能也是ISP芯片，將會在X70系列手機(jī)上首發(fā)。

OPPO公布自研芯片的進(jìn)展相對較晚，2020年2月OPPO CEO特別助理發(fā)布內(nèi)部文章提出了芯片、軟件開發(fā)、云服務(wù)的三大計(jì)劃，其中芯片項(xiàng)目名為“馬里亞納計(jì)劃”。有消息人士爆料，OPPO自研的首款芯片也是ISP芯片，將在2022年初上市的Find X4系列手機(jī)上首發(fā)。

這就意味著，“困”在第三方手機(jī)SoC里的三大手機(jī)巨頭，明年將會進(jìn)入新一輪的芯片比拼。但為什么是ISP芯片？

自研ISP的四大理由

自2017年全球手機(jī)市場增速開始下降，手機(jī)廠商們的競爭就愈加激烈。今日頭條發(fā)布的2018年手機(jī)行業(yè)營銷白皮書指出，2018年手機(jī)功能營銷的競爭點(diǎn)趨于集中，AI類特性有8個、屏幕類5個、解鎖方式和配色各4個，其中，AI功能又以AI拍照和攝影類居多。

此后的三年間，手機(jī)行業(yè)對于攝像頭的關(guān)注只增不減，2020騰訊手機(jī)行業(yè)洞察白皮書指出，消費(fèi)者對攝像頭、用途和電池的關(guān)注度顯著提升，其中攝像頭的關(guān)注度增長率僅次于操作系統(tǒng)。

“影像系統(tǒng)其實(shí)是一個很長的鏈條，包括前端傳感器、鏡頭、馬達(dá)，承載圖像處理的核心部件——ISP芯片，以及后端標(biāo)定和調(diào)優(yōu)等過程。”安謀科技高級產(chǎn)品經(jīng)理柴衛(wèi)華對雷鋒網(wǎng)表示。

圖片來自三星

“相同的鏡頭和傳感器經(jīng)過不同的ISP，也會有不同的效果。”愛芯科技ISP負(fù)責(zé)人、系統(tǒng)架構(gòu)師張興同時表示，“ISP的價值是提升圖像質(zhì)量。但I(xiàn)SP是非標(biāo)準(zhǔn)化的芯片IP，既有客觀的性能指標(biāo)，比如攝像頭的數(shù)量、分辨率幀率、帶寬、功耗、延遲等。也有比較難以完全客觀化的圖像評價指標(biāo)，包括亮度指標(biāo)（動態(tài)范圍、對比度、曝光準(zhǔn)確和速度等）、色彩相關(guān)指標(biāo)（飽和度、色彩準(zhǔn)確度、悅目程度等）、清晰度等。從經(jīng)驗(yàn)中來，關(guān)于圖像主觀和客觀的測試，大概有40-60種甚至更多。” 愛芯科技是一家AI視覺芯片創(chuàng)業(yè)公司，AI ISP是其自研技術(shù)之一。

雖然對于好畫質(zhì)很難有統(tǒng)一的標(biāo)準(zhǔn)，但亮度、色彩和清晰度也有一些客觀指標(biāo)，比如有標(biāo)準(zhǔn)的顏色模型衡量色差。“在客觀指標(biāo)達(dá)到一定程度之后，客戶通常也會根據(jù)不同的需求去調(diào)整主觀指標(biāo)。ISP的一個特點(diǎn)是有很多的可調(diào)參數(shù)，工程師可以調(diào)整設(shè)計(jì)好的ISP硬件參數(shù)以適應(yīng)不同的環(huán)境。一款好的通用ISP，要提供有足夠靈活性和具備可擴(kuò)展性。”柴衛(wèi)華指出。

影像功能是消費(fèi)者關(guān)注的重點(diǎn)，而ISP是實(shí)現(xiàn)差異化的關(guān)鍵，并且手機(jī)出貨量巨大，自研芯片如果成功最終可以轉(zhuǎn)化為整機(jī)的成本優(yōu)勢，這是手機(jī)巨頭們選擇自研ISP的初始動力，也是第一個理由。

“華為能夠用自研的NPU+ISP實(shí)現(xiàn)獨(dú)具特色的AI拍照功能，相比之下，使用高通和聯(lián)發(fā)科SoC的手機(jī)廠商發(fā)揮的空間會受到限制。”耀途資本投資總監(jiān)于光說，“由于硬件迭代的周期比較長，手機(jī)廠商的需求也不能被快速滿足，特別是差異化的需求，自研ISP芯片實(shí)現(xiàn)硬件和軟件的緊密結(jié)合是一個不錯的選擇。”

張興進(jìn)一步解釋，ISP一旦設(shè)計(jì)完成，可供調(diào)的參數(shù)大致就確定了，但是這些參數(shù)是有限的，如果想要提供調(diào)試出所有風(fēng)格的可調(diào)參數(shù)，芯片面積又會很大到無法承受，這中間需要進(jìn)行平衡。

想要實(shí)現(xiàn)差異化的手機(jī)廠商們，在影像系統(tǒng)領(lǐng)域有了多年的積累，也就有了自研ISP的底氣，這也是手機(jī)廠商選擇自研ISP的第二個理由。

研發(fā)ISP芯片的可行性是手機(jī)廠商堅(jiān)定邁入自研芯片之路的關(guān)鍵，也是第三個理由。億智電子創(chuàng)始人兼CEO陳峰說：“由于ISP芯片更加專用，研發(fā)ISP在生態(tài)上的限制小很多。研發(fā)ISP的主要挑戰(zhàn)主要有三點(diǎn)：由于圖像算法每年都有新的方法，技術(shù)在不斷迭代；另外，圖像的效果需要在滿足圖像測試客觀指標(biāo)之外，也需要在主觀效果可調(diào)整性上下功夫；最后是需要適應(yīng)不同的場景，ISP要能夠做到自適應(yīng)調(diào)整好各個環(huán)境下的參數(shù)。”

芯片公司最寬的護(hù)城河就是生態(tài)，既然ISP芯片的生態(tài)限制相對較小，再加上手機(jī)廠商在算法以及對場景需求的理解上已經(jīng)有豐富的經(jīng)驗(yàn)，并且已經(jīng)各有特色，特別是在場景適應(yīng)方面，手機(jī)廠商都有豐富的經(jīng)驗(yàn)。

手機(jī)廠商研發(fā)ISP，還有適應(yīng)未來視頻攝影+AI功能競爭的長遠(yuǎn)價值，這是第四個理由。

“手機(jī)廠商已經(jīng)在拍照中享受到了AI算法帶來的好處，包括超級夜景、AI美顏等功能，從趨勢來看未來幾年，AI拍照最火的幾個功能會從拍照推向視頻。這就需要一顆高效的AI ISP芯片，以及將AI算法和傳統(tǒng)ISP進(jìn)行更好的結(jié)合。”張興認(rèn)為。

柴衛(wèi)華也認(rèn)為：“隨著短視頻的需求發(fā)展，手機(jī)也越來越重視視頻拍攝的性能。視頻流對于ISP除了有畫質(zhì)的要求之外，非常重要的挑戰(zhàn)就是實(shí)時性。要實(shí)時處理4K甚至8K視頻的海量數(shù)據(jù)，呈現(xiàn)完美的影像效果，處理器性能、算法優(yōu)異、存儲帶寬和與系統(tǒng)延遲都是挑戰(zhàn)。”

AI是提升拍照和視頻效果的關(guān)鍵。陳峰指出，目前AI與ISP結(jié)合主要有兩種形式，一種是ISP For AI，這種結(jié)合方式主要用于檢測或識別功能的產(chǎn)品，目標(biāo)是保證檢測或識別的準(zhǔn)確率，比如人臉門禁以及輔助駕駛。另一種是AI For ISP，這種結(jié)合是用AI替換ISP中的一個或多個圖像增強(qiáng)算法，在包括HDR（高動態(tài)范圍）、夜景降噪、超級分辨率等方面有較好的效果。

“近幾年，手機(jī)業(yè)界發(fā)現(xiàn)在目前AI算力的支持下，AI算法已經(jīng)超越了傳統(tǒng)ISP算法的效果，因此目前主流的趨勢是用AI算法替代一個傳統(tǒng)算法，或者將AI算法與傳統(tǒng)算法結(jié)合。”張興進(jìn)一步表示，“要充分發(fā)揮NPU算力與ISP結(jié)合的價值，實(shí)現(xiàn)真正意義上的AI ISP，需要在設(shè)計(jì)的最初就將兩個IP結(jié)合起來設(shè)計(jì)。如果是買來的IP，兩者結(jié)合實(shí)現(xiàn)好的功能難度很大，即便實(shí)現(xiàn)，也會有大量的功耗和芯片面積的浪費(fèi)。”

陳峰具體指出，“在視頻應(yīng)用領(lǐng)域，效果稍微好的AI降噪算法，實(shí)時處理1080p@30fps視頻就需要10Tops以上的算力，目前這種應(yīng)用方案還比較少。”

總體看來，消費(fèi)者對手機(jī)更好拍照和攝影功能的追求是原動力，在手機(jī)廠商有手機(jī)多年影像技術(shù)積累的前提下，自研ISP芯片成為了手機(jī)廠商可實(shí)現(xiàn)的目標(biāo)，而將AI+ISP的能力從拍照延伸至視頻領(lǐng)域能夠提升手機(jī)廠商當(dāng)下和未來的競爭力。自研ISP芯片自然成了手機(jī)廠商們不約而同的選擇。

沖擊高端成敗的關(guān)鍵在“決心”

接下來的關(guān)注點(diǎn)是，自研ISP芯片到底能帶來哪些不同？已經(jīng)發(fā)布的小米澎湃C1，官方的說法是自研ISP將數(shù)字信號處理效率提升100%，可以進(jìn)行更精細(xì)、更先進(jìn)的3A處理。

業(yè)內(nèi)一位資深人士說：“澎湃C1實(shí)際上是一個協(xié)處理器，或者說Pre-ISP，在SoC ISP前進(jìn)行圖像處理，相對而言會比較容易處理，能夠輔助處理一些特定場景的應(yīng)用。不過，由于是在SoC外單獨(dú)增加了一顆芯片，因此無論是成本還是功耗都會有所增加。”

至于實(shí)際的使用體驗(yàn)是否有明顯的速度和質(zhì)的提升，還需要更多的用戶反饋。

手機(jī)廠商的自研ISP要從賣點(diǎn)真正轉(zhuǎn)化為差異化優(yōu)勢，ISP團(tuán)隊(duì)非常重要。“ISP的發(fā)展一直在進(jìn)步，遠(yuǎn)還沒到成熟的階段。要設(shè)計(jì)出有競爭力的ISP芯片，取決于隊(duì)伍自身的成熟性。有公司做了十多年ISP，也沒有進(jìn)入行業(yè)的一流水平。當(dāng)然，這也與一家公司對于ISP的認(rèn)知以及投入有很大的關(guān)系。”張興表示。

業(yè)內(nèi)資深人士也表示，“手機(jī)廠商自研芯片成敗的關(guān)鍵在于投入的決心，特別是SoC。”

但國內(nèi)整個芯片行業(yè)都缺人才，想要組建有豐富經(jīng)驗(yàn)的ISP團(tuán)隊(duì)挑戰(zhàn)巨大。柴衛(wèi)華說：“ISP研究與發(fā)展涉及到算法、電路設(shè)計(jì)、系統(tǒng)整合、器件調(diào)較、畫質(zhì)調(diào)優(yōu)等多方面。因此相應(yīng)的人才要求不僅專，而且廣，除了需要掌握數(shù)學(xué)、物理、計(jì)算機(jī)、集成電路的知識，還需要有光學(xué)、顏色等學(xué)科知識。國內(nèi)在這一領(lǐng)域的積累還比較有限，所以相關(guān)人才也比較缺乏。”

“國內(nèi)在手機(jī)ISP領(lǐng)域有豐富經(jīng)驗(yàn)的人才本來就比較有限，不過現(xiàn)在華為海思的不穩(wěn)定，展銳也有一些相關(guān)的人才，這都是其它公司獲取人才的機(jī)會。”業(yè)內(nèi)資深人士表示。

“即便能設(shè)計(jì)出有競爭力的ISP。要讓消費(fèi)者對手機(jī)廠商的自研芯片有認(rèn)知也需要時間，我認(rèn)為這至少需要2-3代的迭代。” 一位芯片行業(yè)的分析師對雷鋒網(wǎng)表示，“我認(rèn)為小米和OPPO自研芯片從現(xiàn)金流的角度會更有優(yōu)勢，而VIVO挑戰(zhàn)會更大一些。”

該分析師同時表示：“自研ISP主要會用于高端手機(jī)，因此對高通的影響可能會大一些。”

有意思的是，聯(lián)發(fā)科在今年七月份發(fā)布了天璣5G開放架構(gòu)的平臺，基于其旗艦SoC為手機(jī)廠商提供更接近底層的開放資源，包括相機(jī)、顯示器、圖形、AI處理單元、傳感器和無線連接等子系統(tǒng)。這既可以理解為順應(yīng)手機(jī)廠商自研芯片追求差異化的趨勢，也可以理解為阻擋手機(jī)廠商自研SoC的舉措。

無論如何，自研芯片都是手機(jī)廠商站上手機(jī)市場金字塔頂端的必選項(xiàng)，但這條路在時間、技術(shù)和資本投入方面都充滿挑戰(zhàn)，高通和聯(lián)發(fā)科在手機(jī)SoC領(lǐng)域都有幾十年的積累，蘋果和華為也是經(jīng)歷十多年的努力和迭代才取得了如今的成就，而小米、OPPO、VIVO才剛剛開始。

小米ISP芯片架構(gòu)師左坤隆在《強(qiáng)國基石》的紀(jì)錄片中透露，ISP只是小米自研芯片的起點(diǎn)，其SoC同樣也在研發(fā)中。

據(jù)悉，小米和OPPO都在上海大力招聘芯片人才，有消息稱OPPO芯片團(tuán)隊(duì)的人數(shù)已經(jīng)超過千人。他們是要直接要研發(fā)一款SoC芯片還是會研發(fā)其它單芯片？上述分析師認(rèn)為電源管理芯片是不錯的選擇，因?yàn)榭斐湟彩鞘謾C(jī)的一大賣點(diǎn)。

于光指出，在電源管理芯片市場已經(jīng)有一些不錯的創(chuàng)業(yè)公司，手機(jī)巨頭們在這一領(lǐng)域也已經(jīng)投資了多家公司。

熱鬧過后，誰會是下一個擁有自研SoC高端手機(jī)玩家？

作者 | 包永剛

編輯 | 李帥飛