“PS摧毀大眾對(duì)圖片的信任后，Deepfake也在摧毀大眾對(duì)視頻的信任。

”

作為人工智能領(lǐng)域的新實(shí)踐，近年來，利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術(shù)，已在多個(gè)領(lǐng)域大量應(yīng)用，伴隨著不斷涌現(xiàn)的使用需求，深度合成內(nèi)容數(shù)量和關(guān)注度呈現(xiàn)快速增長態(tài)勢。

另一方面，每一次技術(shù)變革，在造福社會(huì)的同時(shí)，也不可避免地會(huì)帶來安全風(fēng)險(xiǎn)。惡意使用該技術(shù)生成的音視頻，也顯現(xiàn)出了巨大的破壞力，給個(gè)人、企業(yè)造成了聲譽(yù)損害和財(cái)產(chǎn)損失，也對(duì)社會(huì)、國家安全造成威脅。

一、“眼見不再為實(shí)”，換人臉詐騙在全國相繼出現(xiàn)

一段視頻、一段語音，未必是真人拍攝或錄制，在你不知道的手機(jī)App后臺(tái)、支付界面、門禁閘機(jī)，或許有人正在盜刷你的臉。隨著人工智能（AI）深度合成技術(shù)日益精湛，合成的音頻、視頻等偽造內(nèi)容越來越能以假亂真。毫無疑問，我們生活的現(xiàn)實(shí)世界正在面臨技術(shù)濫用的風(fēng)險(xiǎn)與挑戰(zhàn)。

公開資料顯示，在人臉生成、語音合成等領(lǐng)域，已經(jīng)出現(xiàn)了不少詐騙案例。

近兩年來，在浙江、安徽、江蘇等地，多名盜取個(gè)人信息的犯罪嫌疑人被公安部門抓獲。犯罪嫌疑人作案流程極為雷同：先是非法獲取他人照片或有償收購他人聲音等“物料”，然后利用人工智能技術(shù)將照片“活化”、合成動(dòng)態(tài)視頻，之后或直接騙過社交平臺(tái)、支付寶賬戶的人臉核驗(yàn)機(jī)制，進(jìn)行非法獲利；或騙過手機(jī)卡注冊(cè)過程中的人工審核環(huán)節(jié)，繼而利用他人名下的手機(jī)號(hào)進(jìn)行電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博等，使被收集信息的人遭受安全威脅和財(cái)產(chǎn)損失。

據(jù)公安部網(wǎng)安局公布的案例，2020年12月，某公司財(cái)務(wù)小王接到領(lǐng)導(dǎo)電話，要求立刻給供應(yīng)商轉(zhuǎn)款2萬元。由于老板的口音十分逼真，小王信以為真，在1小時(shí)內(nèi)轉(zhuǎn)款完成，后發(fā)現(xiàn)被騙。在凈網(wǎng)2021專項(xiàng)行動(dòng)中，南通警方曾破獲了一起AI人臉識(shí)別詐騙案件：犯罪團(tuán)伙利用AI軟件偽造人臉識(shí)別認(rèn)證來解綁用戶賬號(hào)，再以低廉的價(jià)格將賬號(hào)賣給下游的詐騙份子，從而非法牟利。

2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶人臉動(dòng)態(tài)視頻破解身份核驗(yàn)，為黑灰產(chǎn)業(yè)提供注冊(cè)虛擬手機(jī)卡等技術(shù)支撐的案件。近年來，類似事件開始更多的進(jìn)入公眾視野。

深度合成內(nèi)容模糊了真實(shí)和虛假的邊界，將對(duì)社會(huì)信任、媒體信任、政治信任產(chǎn)生巨大的影響。

二、起底Deepfake，AI換臉造假何時(shí)休？

什么是Deepfake？

“深度偽造”，也被譯作“深度造假”，譯自英語中的Deepfake，其是計(jì)算機(jī)的“深度學(xué)習(xí)”（Deep learning）和“偽造”（Fake）的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時(shí)代。通俗理解就是把圖片和聲音輸入機(jī)器學(xué)習(xí)的算法，從而可以輕易地進(jìn)行“面部操作”（Face manipulation）——把一個(gè)人的臉部輪廓和表情放置在其他任何一個(gè)人的臉上，同時(shí)利用對(duì)聲音的逼真處理，制造出實(shí)為合成卻看似極真的視頻。

從應(yīng)用上來說，Deepfake主要是對(duì)人臉進(jìn)行篡改和重新編輯，包括表情修改、換臉、換口型、合成新人臉?biāo)姆N模式。其中，換臉和對(duì)口型是Deepfake最主要的應(yīng)用模式，其破壞性和殺傷力也最強(qiáng)。

“深度偽造”引起大家的特別關(guān)注，并上升至內(nèi)容安全層面的考慮，是在2019年。這一年，基于深度偽造技術(shù)的應(yīng)用軟件相繼推出，在應(yīng)用商店相繼登上榜首，獲得數(shù)以億計(jì)的用戶。

FaceApp的人臉“變老”，ZAO和Reface的人臉交換，“螞蟻呀嘿”的人臉表情驅(qū)動(dòng)、“美圖秀秀”的人臉編輯、“無中生有”的人臉合成……這些軟件中的瞬間“變臉”特效，向人們展示了人臉偽造逐漸細(xì)分化的趨勢。

與傳統(tǒng)圖像視頻處理技術(shù)相比，深度偽造技術(shù)具有“門檻低、效率高、質(zhì)量好”的特點(diǎn)，所以它也被探索用于影視、醫(yī)療、虛擬現(xiàn)實(shí)等商業(yè)，比如在影視后期制作中，表情操縱、全臉替換等深度合成技術(shù)可以被用于影視劇本地化嘴型修改、虛擬IP打造等場景中。

然而，與正面效應(yīng)相比，這些特性也同步放大了潛在威脅和安全隱患。目前，深度偽造的技術(shù)門檻正大幅降低，網(wǎng)絡(luò)上充斥著大量偽造教程和開源可用的計(jì)算機(jī)程序，即便是不具備專業(yè)算法能力的普通用戶，也可以在很短時(shí)間內(nèi)輕松上手。尤其依托深度學(xué)習(xí)算法特性，在海量圖像和視頻數(shù)據(jù)的驅(qū)動(dòng)下，深度合成技術(shù)不斷演進(jìn)迭代，仿真精度不斷得到提升。所以，制作一段高逼真度的虛假音視頻成本極低，卻可以借助社交媒體等平臺(tái)短時(shí)間風(fēng)靡互聯(lián)網(wǎng)。對(duì)于這樣一種技術(shù)，如果不進(jìn)行規(guī)制，將產(chǎn)生可怕的后果。

比如：深度偽造技術(shù)的大規(guī)模濫用正侵害到社會(huì)公眾的合法權(quán)益。深度偽造技術(shù)最常見的非法運(yùn)用方式，將一些知名歌星、影星等公眾人物的臉“移花接木”到色情明星身上，偽造色情片非法牟利，或者是偽造惡搞視頻，這對(duì)個(gè)人名譽(yù)權(quán)與肖像權(quán)構(gòu)成嚴(yán)重侵害。

其次是公眾財(cái)產(chǎn)安全，不法分子可以利用漏洞劫持手機(jī)識(shí)別攝像頭，利用照片活化、表情操縱等深度偽造技術(shù)冒充機(jī)主，進(jìn)而對(duì)機(jī)主的微信好友實(shí)行轉(zhuǎn)賬詐騙。同樣的，電信詐騙中也有類似利用“語音偽造”技術(shù)的案例。

不僅如此，深度偽造還將會(huì)對(duì)社會(huì)安全和國家安全造成威脅。例如，借助互聯(lián)網(wǎng)平臺(tái)捏造虛假新聞、炮制政治謠言，深度偽造技術(shù)大大增加了網(wǎng)絡(luò)內(nèi)容監(jiān)管的復(fù)雜性，也帶來了社會(huì)信任危機(jī)與網(wǎng)絡(luò)政治安全風(fēng)險(xiǎn)。在病毒式傳播的深度偽造背后，可能蘊(yùn)藏著操縱社會(huì)輿論、激化社會(huì)矛盾與擾亂正常社會(huì)經(jīng)濟(jì)秩序等系統(tǒng)性的危害。

三、引導(dǎo)技術(shù)向善，完善AI風(fēng)險(xiǎn)治理體系

一方面，需發(fā)揮技術(shù)能力，阻止AI濫用，用魔法打敗魔法。

“科技為更好”是科技的使命，更是科技締造者的初衷。對(duì)于科技企業(yè)而言，如何使AI服務(wù)于民、造福于民，為“全民反詐”注入科技力量，必將是行業(yè)研討的重點(diǎn)。

隨著深度偽造的負(fù)面風(fēng)險(xiǎn)不斷加劇，如何有效甄別深度合成內(nèi)容就成為了關(guān)鍵，但隨著合成質(zhì)量的不斷提升，傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用。因此，開發(fā)有效的人臉偽造檢測方法是保證信息安全的當(dāng)務(wù)之急。

人民中科專注內(nèi)容安全領(lǐng)域，研究團(tuán)隊(duì)針對(duì)深度偽造的不同場景和難點(diǎn)，通過機(jī)器學(xué)習(xí)、算法學(xué)習(xí)和模型訓(xùn)練，在技術(shù)能力上，具備基于身份空間約束的身份交換型偽造人臉鑒別和基于噪聲一致性的偽造人臉鑒別等多種偽造人臉鑒別技術(shù)能力。

同時(shí)，人民中科依托世界領(lǐng)先的內(nèi)容理解技術(shù)和核心產(chǎn)品跨模態(tài)智能視頻搜索引擎“白澤”，提供面向政府和企業(yè)的內(nèi)容安全服務(wù)、內(nèi)容監(jiān)測及版權(quán)保護(hù)、內(nèi)容情報(bào)挖掘、內(nèi)容安全測評(píng)和互聯(lián)網(wǎng)內(nèi)容審核、風(fēng)控、巡檢等系統(tǒng)，一站式內(nèi)容風(fēng)控解決方案，全方位護(hù)航數(shù)字世界網(wǎng)絡(luò)安全與治理。

另一方面，需要完善相關(guān)法律法規(guī)，技術(shù)與立法亟需齊頭并進(jìn)。

近年來，針對(duì)深度合成技術(shù)遭惡意使用，各國紛紛出臺(tái)相關(guān)法律法規(guī)，探索深度合成的治理路徑。美國從聯(lián)邦和州層面進(jìn)行專門立法，歐盟將深度合成納入《通用數(shù)據(jù)保護(hù)條例（GDPR）》等現(xiàn)有法律框架規(guī)制。國家網(wǎng)信辦公布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，亦對(duì)深度合成技術(shù)作出了一系列較為明確的規(guī)定和指引。因此，刑法應(yīng)對(duì)深度合成技術(shù)濫用行為予以規(guī)制，同時(shí)從風(fēng)險(xiǎn)防控的角度，加強(qiáng)對(duì)個(gè)人信息安全的保護(hù)。

同時(shí)，2022年3月，我國首個(gè)國家層面的科技倫理治理指導(dǎo)性文件《關(guān)于加強(qiáng)科技倫理治理的意見》發(fā)布，凸顯技術(shù)倫理治理的重要性緊迫性。在今年的最高法工作報(bào)告中，包括人臉安全在內(nèi)的個(gè)人信息安全等多次被提及。

最后，技術(shù)是中立的，但使用技術(shù)的人是有立場的。對(duì)于“深度偽造內(nèi)容”，平臺(tái)也應(yīng)依法履行安全管理義務(wù)，落實(shí)管理責(zé)任，圍堵黑色產(chǎn)業(yè)鏈的生存空間。

責(zé)編：岳青植監(jiān)制：李紅梅

END

參考來源：

1.《多地現(xiàn)變臉詐騙案：合成一個(gè)視頻最低2元，人工審核難辨真假》新華社

2.《起底多地發(fā)生的“變臉”詐騙案》北青網(wǎng)

3.《國際安全研究》2022年第3期

4.《全民反詐進(jìn)行時(shí)，AI“亮劍”打擊網(wǎng)絡(luò)詐騙》新華網(wǎng)

5.《深度偽造色情圖片？國家網(wǎng)信辦擬出新規(guī)：深度合成內(nèi)容需標(biāo)識(shí)》南方都市報(bào)

6.《“換臉”真相：“深度偽造”的網(wǎng)絡(luò)狂歡和安全威脅》環(huán)球網(wǎng)

7.《一張圖片就能“活化”成視頻？警惕AI深度合成擊穿風(fēng)險(xiǎn)底線》半月談

關(guān)于人民中科

人民中科智能技術(shù)有限公司，是人民網(wǎng)與中科院自動(dòng)化所共同發(fā)起設(shè)立的“人工智能技術(shù)引擎”和科技成果轉(zhuǎn)化平臺(tái)，擁有世界領(lǐng)先的內(nèi)容理解技術(shù)，核心產(chǎn)品是跨模態(tài)智能搜索引擎“白澤”，初始應(yīng)用場景是數(shù)字世界的安全，目標(biāo)是成為全球內(nèi)容科技領(lǐng)導(dǎo)企業(yè)。