產(chǎn)業(yè)觀察｜ChatGPT或?qū)⒁l(fā)新的安全隱患

近來，伴隨ChatGPT4、百度文心一言等大模型的接連發(fā)布，AIGC賽道的熱度持續(xù)攀升，成為科技界最熱的風(fēng)口之一。各大廠商忙著搶占大模型高地，資本市場(chǎng)也表現(xiàn)出極大的熱情，相關(guān)投融資熱度開始飆升。比如，由李開復(fù)創(chuàng)新工場(chǎng)孵化的AI企業(yè)——瀾舟科技剛成立不久，就推出了中文語言模型——孟子輕量大模型，近日火速完成了Pre-A+輪融資。前京東高管周伯文創(chuàng)立的銜遠(yuǎn)科技也已完成數(shù)億元天使輪融資。

知其安創(chuàng)始人聶君在接受記者采訪時(shí)指出，ChatGPT或?qū)硪恍┤碌漠a(chǎn)業(yè)安全隱患。首先是數(shù)據(jù)安全隱患?！昂芏嘤脩粼谠囉眠^程中，會(huì)把一些像代碼這樣的敏感信息放到這里面去。ChatGPT所有這些服務(wù)器、數(shù)據(jù)都是保存在國外，這些敏感數(shù)據(jù)也將被保存在國外，這是目前我們看到的一個(gè)比較大的風(fēng)險(xiǎn)?！彼f道。

第二，ChatGPT為用戶提供的結(jié)果并不具備驗(yàn)真或者驗(yàn)偽的作用，如果直接拿ChatGPT結(jié)果來做相應(yīng)的安全結(jié)果的確認(rèn)，也會(huì)帶來一些隱患的問題?！皬墓粽呓嵌葋碇v，ChatGPT會(huì)帶來更多攻擊者效率提升，”騰訊安全策略發(fā)展中心總經(jīng)理呂一平對(duì)記者說道，“特別在詐騙場(chǎng)景下，或者在釣魚場(chǎng)景下，安全專業(yè)領(lǐng)域有一個(gè)用詞叫‘社攻’，指社交攻擊的方式，就是通過跟你聊天，或者郵件溝通，誘使你去點(diǎn)擊惡意鏈接，或者會(huì)在毫不感知情況下下載了一些惡意軟件或者工具，可能會(huì)感染你的電腦或者偷竊你的數(shù)據(jù)。原來像這種怎么做角色扮演，怎么做釣魚劇本，需要有人扮演一個(gè)角色，肯定有一套說辭和口徑，現(xiàn)在有了ChatGPT，就可以通過人工智能的方式來做劇本設(shè)計(jì)?！?/p>

以前，如果人工做這樣一個(gè)劇本設(shè)計(jì)，其實(shí)花很長時(shí)間去做，因?yàn)?a class="article-link" target="_blank" href="/baike/521558.html">網(wǎng)絡(luò)攻擊者要深入理解對(duì)方工作，要扮演HR、保險(xiǎn)公司業(yè)務(wù)員等角色還需要對(duì)這些業(yè)務(wù)有比較清晰的了解?，F(xiàn)在，通過ChatGPT可以大幅度提升劇本設(shè)計(jì)效率。

根據(jù)經(jīng)驗(yàn)，以往社交誘騙中角色比較多，以前是HR、財(cái)務(wù)、保險(xiǎn)、銀行業(yè)務(wù)員等，但是未來場(chǎng)景下可能更多不同的設(shè)計(jì)角色出現(xiàn)，在ChatGPT的效率輔助下，會(huì)引發(fā)這種釣魚攻擊產(chǎn)生更多多樣化角色、誘騙手段。

呂一平指出，安全是一個(gè)伴生屬性，新技術(shù)的產(chǎn)生和應(yīng)用一定會(huì)帶來新的安全風(fēng)險(xiǎn)。對(duì)于我們做安全專業(yè)領(lǐng)域這個(gè)方向上面的同仁來講，大家是始終關(guān)注新的技術(shù)發(fā)展，因?yàn)樾录夹g(shù)發(fā)展帶來新的風(fēng)險(xiǎn)，是需要我們應(yīng)對(duì)的。

不過，聶君表示，目前確實(shí)也有不少安全行業(yè)從業(yè)者使用ChatGPT文檔編寫、材料整理這方面提升效率，或者把原先通過人工來完成的一些相對(duì)比較中低端的技術(shù)活會(huì)交給ChatGPT來做，比如解析日志、編寫一些安全運(yùn)營的策略等，在這些方面，ChatGPT對(duì)于產(chǎn)業(yè)安全也是具備一定的積極作用的。

在企業(yè)上云大趨勢(shì)下，云原生安全的重要性愈發(fā)凸顯。對(duì)于企業(yè)而言，要做安全建設(shè)首先是要滿足業(yè)務(wù)需求，然后要考慮如何能夠更好設(shè)計(jì)安全結(jié)構(gòu)、安全體系、安全能力建設(shè)，更好滿足這個(gè)業(yè)務(wù)的需求。這其實(shí)是一個(gè)很復(fù)雜的過程，可能需要通過不同安全廠商提供不同的安全產(chǎn)品和服務(wù)，來滿足這個(gè)需求。這對(duì)很多企業(yè)來講是一個(gè)很大的功課。

“云原生安全就是把安全做成一種云服務(wù)的形態(tài)提供給上云的企業(yè)，”呂一平建議稱。尤其對(duì)于中小企業(yè)而言，可以通過合理的成本實(shí)現(xiàn)比較好的安全防護(hù)能力建設(shè)，讓“安全”從一個(gè)奢侈品變成一個(gè)必需品。

聶君認(rèn)為，安全從來不是獨(dú)立存在，而是跟整個(gè)IT基礎(chǔ)設(shè)施、研發(fā)結(jié)構(gòu)相關(guān)的。很多安全問題做到最后，從根本上來看，是底層架構(gòu)限制和制約了安全問題的解決。當(dāng)前，由于云本身的整個(gè)IT基礎(chǔ)結(jié)構(gòu)發(fā)生了革命性的變化，在這個(gè)變化過程當(dāng)中，需要把安全的能力嵌入到云環(huán)境里面，云原生安全解決方案將會(huì)帶來比較革命性一些變化。