產(chǎn)業(yè)觀察 | 科技應(yīng)向善，AI不能被濫用

和你語音通話甚至視頻對(duì)話的，可能不是本人！近期，利用人工智能“換聲”“換臉”實(shí)施電信詐騙引發(fā)全網(wǎng)關(guān)注。以AI為代表的新一代信息技術(shù)就像一把雙刃劍，我們?cè)谙硎芷鋷淼谋憷托实耐瑫r(shí)，也應(yīng)追根溯源，對(duì)數(shù)據(jù)安全和治理引起高度重視。

在美國某軟件公司的網(wǎng)站，上傳任何人的一段簡短音頻，數(shù)分鐘后就能讓這個(gè)聲音說指定的任何話了。不僅如此，還有會(huì)講中國脫口秀的“馬斯克”，翻唱周杰倫的AI孫燕姿。AI技術(shù)日新月異，不僅大幅降低了使用成本，還讓詐騙變得更容易和更加隱蔽。在自然語言和人臉識(shí)別上，中國有海量訓(xùn)練好的數(shù)據(jù)，基于AI大模型的小樣本學(xué)習(xí)，效率很高、成本很低。這就讓AI這柄“雙刃劍”，一面向善，一面向惡。

向善，可以根據(jù)故去者的音頻，讓他們繼續(xù)“活”在當(dāng)下，例如“鄧麗君”演繹的新歌；根據(jù)逝去親人的生前錄音，讓他們?cè)诮裉斓膱鼍爸性佻F(xiàn)，以慰思念；向惡，則可以利用AI技術(shù)合成親人聲音實(shí)施詐騙，比如利用AI語音技術(shù)偽造緊急情況，騙取關(guān)心自己的親人交出現(xiàn)金或私人信息。

面對(duì)AI詐騙，個(gè)人要提高防范意識(shí)。相比傳統(tǒng)電信詐騙，AI詐騙更加隱蔽和逼真，更加高效和精準(zhǔn)，也更加難以防范和追查。在生成AI面前，大多數(shù)人沒有防范意識(shí)，“朋友”的臉和“朋友”的聲音就是信任的來源。面對(duì)AI詐騙，傳統(tǒng)的防詐技術(shù)還無法及時(shí)攔截、預(yù)警。要防范此類詐騙，首先還是要當(dāng)事人自己有警惕之心，避免個(gè)人信息被盜用。

面對(duì)AI詐騙，應(yīng)追根溯源，提升數(shù)據(jù)治理水平。一方面，相關(guān)監(jiān)管部門的防詐措施要跟上，加快防詐的技術(shù)管理手段升級(jí)，識(shí)別并及時(shí)發(fā)出警示；要擴(kuò)大宣傳廣而告之新型AI詐騙的特點(diǎn)，提示風(fēng)險(xiǎn)，提供識(shí)別手段。另一方面，要從法律法規(guī)、產(chǎn)業(yè)自律和AI接口管理等多個(gè)層面入手，堵住AI技術(shù)背后的危害源頭，切斷AI詐騙的灰色產(chǎn)業(yè)鏈，使AI應(yīng)用合理合法。今年4月份，國家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見，其中第五條就對(duì)提供服務(wù)方有規(guī)定，要求利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

面對(duì)AI詐騙，還要見招拆招，“魔高一尺道高一丈”。例如各行各業(yè)對(duì)身份認(rèn)證的基礎(chǔ)需求加快了人臉識(shí)別等AI技術(shù)的應(yīng)用，給不法分子通過圖片、3D打印等物理方式攻擊突破人臉識(shí)別系統(tǒng)進(jìn)行資金盜取詐騙提供可乘之機(jī)。針對(duì)人臉識(shí)別攻擊，我們要在技術(shù)上進(jìn)行多模態(tài)融合防護(hù)。多模態(tài)生物識(shí)別技術(shù)相較于單一生物特征，通過設(shè)計(jì)融合算法，綜合人臉幾何特征、聲紋、虹膜等多種特征，彌補(bǔ)某些生物特征容易被偽造的弱點(diǎn)，提升識(shí)別精確度，可以形成對(duì)人臉識(shí)別攻擊的技術(shù)防御。

在防止AI技術(shù)被濫用的同時(shí)，我們對(duì)AI這樣新一代信息技術(shù)的應(yīng)用不能因噎廢食。ChatGPT等前沿AI技術(shù)對(duì)社會(huì)生產(chǎn)力的推動(dòng)作用顯而易見，面對(duì)新技術(shù)變革，我們除了積極擁抱，更要心懷敬畏，提升風(fēng)控能力，令其為推動(dòng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型、提升實(shí)體經(jīng)濟(jì)服務(wù)質(zhì)效發(fā)揮更大的作用。