商湯田豐：元宇宙?zhèn)惱淼钠叽箫L(fēng)險(xiǎn)防范

作者：謝貝寧 商湯智能產(chǎn)業(yè)研究院助理研究員

  宮超  商湯智能產(chǎn)業(yè)研究院科技政策與倫理研究主任

編輯：張學(xué)睿 商湯智能產(chǎn)業(yè)研究院助理研究員

“面對(duì)元宇宙巨大的產(chǎn)業(yè)價(jià)值、科研價(jià)值和社會(huì)價(jià)值，以及潛在風(fēng)險(xiǎn)，我們更應(yīng)該加快研究元宇宙?zhèn)惱?，?gòu)建立足當(dāng)下、面向未來(lái)、有益人類發(fā)展的元宇宙?zhèn)惱碛^。”2022年7月27日下午，商湯智能產(chǎn)業(yè)研究院院長(zhǎng)田豐在“元宇宙?zhèn)惱恚浩胶獍l(fā)展下的新時(shí)空”研討會(huì)上如此講到。

“元宇宙?zhèn)惱恚浩胶獍l(fā)展下的新時(shí)空”研討會(huì)由中國(guó)數(shù)字經(jīng)濟(jì)百人會(huì)、世界工程組織聯(lián)合會(huì)創(chuàng)新技術(shù)專委會(huì)、亞洲科技促進(jìn)可持續(xù)發(fā)展目標(biāo)聯(lián)盟、商湯科技和亞太經(jīng)合組織中小企業(yè)信息化促進(jìn)中心主辦，日本元宇宙國(guó)際協(xié)會(huì)協(xié)辦，來(lái)自中國(guó)、日本、新加坡的8位專家圍繞元宇宙發(fā)展及倫理進(jìn)行了主題發(fā)言與探討，田豐以《元宇宙?zhèn)惱恚簲?shù)字元生代的文化啟蒙》為題發(fā)表主題演講。

圖：數(shù)字原住民和數(shù)字移民

田豐介紹，05后至10后的“α世代”是人工智能時(shí)代的數(shù)字原生代、數(shù)字原住民。70后、80后、90后的XYZ世代屬于數(shù)字移民。數(shù)字移民群體認(rèn)為從物理世界到數(shù)字世界存在數(shù)字鴻溝挑戰(zhàn)，即個(gè)人的數(shù)字化轉(zhuǎn)型，而數(shù)字原住民則天然認(rèn)為只有一個(gè)虛實(shí)融合的元世界。

元宇宙中的消費(fèi)、社交、學(xué)習(xí)和生活，對(duì)于α世代的世界觀、價(jià)值觀和人生觀塑造很重要。反之，α世代對(duì)于元宇宙的發(fā)展也同樣重要，因?yàn)閿?shù)字原住民認(rèn)知決定了元宇宙的未來(lái)。

田豐介紹，根據(jù)相關(guān)統(tǒng)計(jì)數(shù)據(jù)，63.6%的中國(guó)網(wǎng)民喜歡虛擬偶像，且越年輕的群體越喜歡虛擬偶像，但19-38歲的群體仍是虛擬偶像愛(ài)好者主要群體且具有自主消費(fèi)能力，粉絲們的月平均收入在5000元以上的人占75%。

在元宇宙?zhèn)涫茏放醯耐瑫r(shí)，田豐也提醒要注意防范元宇宙?zhèn)惱砻媾R的七大風(fēng)險(xiǎn)。

圖：元宇宙可持續(xù)發(fā)展的倫理風(fēng)險(xiǎn)

第一，人類生產(chǎn)力陷阱風(fēng)險(xiǎn)。

元宇宙可能帶來(lái)更泛化的脫實(shí)向虛：首先是娛樂(lè)時(shí)間陷阱，如果人類花費(fèi)大量時(shí)間在虛擬世界娛樂(lè)上，而不是提升科研和生產(chǎn)能力，那將會(huì)是人類社會(huì)的倒退，不利于人類的生存與發(fā)展，尤其是對(duì)于老齡化和少子化人口結(jié)構(gòu)的國(guó)家；其次是認(rèn)知行為陷阱，在元宇宙中產(chǎn)生的錯(cuò)誤行為會(huì)對(duì)現(xiàn)實(shí)世界造成反噬；最后是文化價(jià)值陷阱，在元宇宙中形成的錯(cuò)誤價(jià)值觀會(huì)反映到現(xiàn)實(shí)世界之中。

田豐認(rèn)為，“元宇宙價(jià)值漏斗”可以幫助塑造正確的價(jià)值觀，通過(guò)元宇宙的數(shù)字生產(chǎn)力、數(shù)字科研能力和數(shù)字治理能力，以虛助實(shí)，形成對(duì)實(shí)體產(chǎn)業(yè)、現(xiàn)實(shí)社會(huì)的實(shí)際價(jià)值。

圖：元宇宙陷阱金字塔&元宇宙價(jià)值漏斗

第二，虛擬偶像的“負(fù)面引導(dǎo)”風(fēng)險(xiǎn)。

虛擬偶像的行為會(huì)對(duì)粉絲產(chǎn)生誘導(dǎo)，尤其是未成年人。商湯AI數(shù)字醫(yī)生小糖教導(dǎo)未成年人如何抗疫、防疫、養(yǎng)成衛(wèi)生健康的生活習(xí)慣，作為虛擬偶像起到了正向帶動(dòng)的作用。但是也會(huì)存在虛擬偶像“負(fù)面引導(dǎo)”例子。例如，某平臺(tái)上一位虛擬主播宣稱半年消失了是被拐賣了，這個(gè)對(duì)粉絲群體產(chǎn)生了很大的影響。

第三，數(shù)字替身Avatar作惡的風(fēng)險(xiǎn)。

玩家在虛擬環(huán)境中的自我認(rèn)知有可能誘導(dǎo)現(xiàn)實(shí)中的行為和意識(shí)轉(zhuǎn)變，潛移默化地改變?nèi)藗冊(cè)镜牡赖抡J(rèn)知標(biāo)準(zhǔn)和決策理性，激化人性中的丑惡面。換言之，數(shù)字替身在虛擬環(huán)境中可能激發(fā)人性惡的一面。

第四，虛擬環(huán)境誘導(dǎo)風(fēng)險(xiǎn)。

環(huán)境本身不僅具有跟蹤功能，而且具有誘導(dǎo)功能，這將致使人與環(huán)境的關(guān)系發(fā)生逆轉(zhuǎn)，即虛擬世界中的行為變成現(xiàn)實(shí)世界的行為。田豐認(rèn)為，如何利用虛擬世界產(chǎn)生正面的環(huán)境影響而非負(fù)面的環(huán)境誘導(dǎo)，是目前亟待解決的問(wèn)題。

第五，Deepfake欺騙風(fēng)險(xiǎn)。

Deepfake技術(shù)換臉近年來(lái)引發(fā)大量騙局。例如，詐騙分子偽造了方舟投資（Ark Invest）CEO凱瑟琳·伍德、以太坊聯(lián)合創(chuàng)始人查爾斯·霍斯金森等多位幣圈名人推薦BitVex的視頻。因此，如何保證該技術(shù)不傳播錯(cuò)誤信息，而是形成正向大眾教育和正能量的輸出存在挑戰(zhàn)。

第六，“中之人”的生存困境。

“中之人”指由真人驅(qū)動(dòng)的數(shù)字人和虛擬偶像。在日本，數(shù)字人和虛擬主播存在巨大收入差距；在中國(guó)，虛擬主播的高營(yíng)業(yè)收入也與其背后的中之人的薪資待遇不相匹配。相比于屏幕前的虛擬形象，背后中之人的生活狀態(tài)應(yīng)獲得更多的關(guān)注。

第七，虛擬群體“網(wǎng)暴”風(fēng)險(xiǎn)。

元宇宙中存在大量沉浸式體驗(yàn)和信息沖擊可能會(huì)放大“網(wǎng)暴”帶來(lái)的負(fù)面影響，法不責(zé)眾心態(tài)會(huì)從互聯(lián)網(wǎng)蔓延到元宇宙，且存在引發(fā)更嚴(yán)重“網(wǎng)暴”的可能。因此，元宇宙中的公共監(jiān)督和社會(huì)治理顯得極為重要。

縱觀東西方倫理發(fā)展歷程，田豐認(rèn)為東西方倫理雖然內(nèi)容不同，但共同強(qiáng)調(diào)人與外物之間的關(guān)系。在此基礎(chǔ)上，結(jié)合元宇宙所帶來(lái)的產(chǎn)業(yè)價(jià)值、科研價(jià)值和社會(huì)價(jià)值，以及潛在風(fēng)險(xiǎn)，田豐提出平衡發(fā)展的元宇宙?zhèn)惱碛^。

田豐解釋，平衡發(fā)展的元宇宙?zhèn)惱碛^包含三個(gè)主要方面：

第一，可持續(xù)發(fā)展。元宇宙一定要賦能實(shí)體產(chǎn)業(yè)。

第二，以人為本。元宇宙?zhèn)惱砀幼⒅卦鰪?qiáng)人民的幸福感。

第三，技術(shù)可控。即確保元宇宙相關(guān)技術(shù)的安全。

此外，田豐在圓桌對(duì)話環(huán)節(jié)指出，元宇宙原住民（05-10后）與元宇宙移民（05前）由于生長(zhǎng)經(jīng)濟(jì)大背景不同，決定了兩者之間消費(fèi)觀、人生觀和世界觀的不同。他表示，相比于元宇宙移民，元宇宙原住民更多注重精神、愛(ài)好和戶外消費(fèi)上，他們焦慮與進(jìn)取共存，同時(shí)對(duì)于中國(guó)文化更加自信。最后，田豐強(qiáng)調(diào)，自然交互應(yīng)用的普及和新一代數(shù)字技術(shù)的培訓(xùn)，以及智能技術(shù)在邊緣群體上的醫(yī)療護(hù)理，將會(huì)成為未來(lái)重點(diǎn)發(fā)展方向。