警惕！深度合成技術(shù)“硬幣的兩面”

3月1日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行，再度引發(fā)業(yè)界對(duì)算法技術(shù)的探討。真?zhèn)坞y辨的AI換臉視頻、逼真的音視覺合成特效、火爆出圈的虛擬數(shù)字人……這些創(chuàng)新應(yīng)用皆標(biāo)志著AI算法的突飛猛進(jìn)，同時(shí)也成為了深度合成技術(shù)走入尋常百姓家的具體體現(xiàn)。

深度合成技術(shù)重新定義虛擬化數(shù)字生存空間

“深度合成技術(shù)，是利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。” 瑞萊智慧副總裁唐家渝向《中國電子報(bào)》記者介紹說。

從該技術(shù)的正向應(yīng)用價(jià)值來看，作為當(dāng)前大熱的元宇宙概念中的一項(xiàng)關(guān)鍵技術(shù)，深度合成已被廣泛應(yīng)用于影視、音樂、科技、教育、生活、娛樂、咨詢等各個(gè)領(lǐng)域，需求場景趨于多元且成熟。比如北京冬奧會(huì)期間的手語AI解說小聰、登上春晚舞臺(tái)的虛擬偶像洛天依以及動(dòng)畫、游戲中快速生成的人物形象等等。

“深度合成重新定義虛擬化數(shù)字的生存空間。” 瑞萊智慧CEO田天表示，“元宇宙是非?；鸨脑掝}，很多新應(yīng)用都在快速發(fā)展，但是在虛擬空間里關(guān)鍵的一點(diǎn)就是怎樣快速生成更多內(nèi)容的創(chuàng)作，特別是跟實(shí)體進(jìn)行虛實(shí)結(jié)合的，基于深度合成技術(shù)我們可以把制作時(shí)間和成本大大壓縮，可以豐富虛擬空間的內(nèi)容，可以為更加多元化的傳播提供可能性。所以，深度合成也是元宇宙發(fā)展過程中必不可少的支撐性技術(shù)。”

濫用深度合成技術(shù)危害不容忽視

然而，不容忽視的是，隨著技術(shù)門檻快速降低，通過深度合成技術(shù)制造虛假視頻、虛假語音進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為和事例也在不斷增多、危害性不斷增強(qiáng)，對(duì)社會(huì)國家安全，公司以及個(gè)人的名譽(yù)、財(cái)產(chǎn)造成等都會(huì)造成不可估量的損失。據(jù)悉，此前有不法分子通過偽造企業(yè)高管語音騙取3500萬美元，這樁“深度偽造第一大案”曾經(jīng)轟動(dòng)一時(shí)。

“數(shù)字技術(shù)帶來的變化是深刻的。數(shù)字內(nèi)容的可重復(fù)性、持久性和全球影響力改變了欺騙的潛在規(guī)模和影響。”中國社會(huì)科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文指出，Deepfake（深度偽造）削弱了人們對(duì)信息和媒介的信任感，也會(huì)對(duì)人際關(guān)系產(chǎn)生影響。

近日，清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心聯(lián)合發(fā)布《深度合成十大趨勢報(bào)告（2022）》。報(bào)告開篇，中國科學(xué)院院士、清華大學(xué)人工智能研究院創(chuàng)始院長張鈸寫道：“與其他技術(shù)不同，由于人工智能的安全性問題主要來源于算法本身的不安全，它更容易被誤用和濫用。以深度合成技術(shù)為例，不法分子可以利用它給社會(huì)帶來巨大的威脅。”

他指出，未來人工智能產(chǎn)業(yè)的發(fā)展，一方面必須擴(kuò)大應(yīng)用的場景，另一方面也必須保證數(shù)據(jù)和算法的安全性、魯棒性?？萍及l(fā)展和應(yīng)用如何才能在最大程度上做到趨利避害，是一個(gè)需要長期探索和研究的課題。

深度合成技術(shù)漸入良性發(fā)展軌道

如今，信息網(wǎng)絡(luò)已經(jīng)深入到我們生活的各個(gè)角落，如果深度合成技術(shù)被無節(jié)制的濫用，我們的眼見、耳聞都不再為實(shí)，社會(huì)信任也將蕩然無存。因此，必須以法律的形式引導(dǎo)技術(shù)向善。2022年1月28日，國家網(wǎng)信辦最新公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》（簡稱《深度合成征求意見稿》），為深度合成技術(shù)做出了一系列較為明確的規(guī)定和指引?？梢钥吹?，深度合成技術(shù)正在逐步邁入一條良性的發(fā)展軌道。

“處理Deepfake（深度偽造）沒有靈丹妙藥，需要采取多種應(yīng)對(duì)措施，包括技術(shù)、法律和更廣泛的社會(huì)措施。” 段偉文表示。對(duì)于深度合成服務(wù)提供者而言，應(yīng)當(dāng)加強(qiáng)信息內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，建立健全用于識(shí)別違法和不良深度合成信息內(nèi)容的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序，對(duì)違法和不良信息依法采取響應(yīng)處置措施，并對(duì)相關(guān)深度合成服務(wù)使用者依法約束采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號(hào)等處置措施。

同時(shí)，還應(yīng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理，提供具有對(duì)人臉、人聲等生物識(shí)別信息或者可能涉及國家安全、社會(huì)公共利益的特殊物體、場景等非生物識(shí)別信息編輯功能的模型、模板等工具，應(yīng)當(dāng)自行開展安全評(píng)估，預(yù)防信息安全風(fēng)險(xiǎn)。

田天指出，希望國家加快推動(dòng)法治建設(shè)，逐步完善配套的法規(guī)政策，但同時(shí)也要倡導(dǎo)發(fā)展自律自治，健全常態(tài)化的聯(lián)動(dòng)機(jī)制，加強(qiáng)檢測相關(guān)技術(shù)研究與宣傳，推動(dòng)形成全社會(huì)對(duì)深度合成共同治理的格局，鼓勵(lì)與促進(jìn)該技術(shù)更多的正向應(yīng)用、正向發(fā)展。

作者丨宋婧

編輯丨連曉東

美編丨馬利亞