視頻換臉、語音變聲……隨著人工智能（AI）深度合成技術(shù)的日益精湛，越來越多的人遇到過這樣的情況：我們明明身處某地，但就在同一時刻，我們的臉、表情和姿態(tài)卻出現(xiàn)在一些手機App后臺、支付界面、門禁閘機，被人盜刷并被用來牟利。

公安部門近年來在上海、浙江、安徽、江蘇等地辦案發(fā)現(xiàn)，多名犯罪嫌疑人使用深度合成技術(shù)，將非法盜取或有償求購的照片和音頻進行“活化”、合成為動態(tài)視頻后進行非法牟利：或是騙過平臺的人臉識別機制直接盜取他人賬戶錢款，或是騙過手機卡注冊的人工審核環(huán)節(jié)，盜用他人手機號進行電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博。

深度合成技術(shù)，是人工智能領(lǐng)域前沿的一項新技術(shù)，從圖像合成技術(shù)發(fā)展而來，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)，包括但不限于文本轉(zhuǎn)語音、語音轉(zhuǎn)換、人臉生成、人臉替換、姿態(tài)操控等技術(shù)。聽起來似乎很玄妙，但是一段網(wǎng)傳視頻顯示，經(jīng)過某深度合成技術(shù)軟件的“妙手”，一個人的照片被“活化”成了另一個人的一段視頻，以假亂真程度之高，竟然成功地騙過了人臉識別核驗系統(tǒng)。

據(jù)業(yè)內(nèi)人士介紹，深度合作技術(shù)近年來實現(xiàn)了飛躍式的發(fā)展，而基于深度合成技術(shù)的各類應(yīng)用，也早從2019年開始已經(jīng)逐漸在影視制作、廣告營銷、社交娛樂等多個領(lǐng)域落地生根。清華大學(xué)今年3月發(fā)布的《深度合成十大趨勢報告》顯示，在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。深度合成內(nèi)容關(guān)注度也呈指數(shù)級增長，通過對互動數(shù)據(jù)進行統(tǒng)計，2021年新發(fā)布的深度合成視頻的點贊數(shù)已超過3億。此外，越來越多的企業(yè)機構(gòu)開始利用深度合成技術(shù)提供面向公眾的產(chǎn)品和服務(wù)，涵蓋圖像、視頻、音頻、文本等多個領(lǐng)域。例如作為人機交互中重要一環(huán)的語音合成，被廣泛應(yīng)用于智能客服、語音導(dǎo)航、有聲讀物、語音助手等場景。

不過，正如公安部門在辦案中發(fā)現(xiàn)的，這項新技術(shù)的強大功能也給了不法分子可趁之機，被用來惡意篡改人臉識別信息、實行詐騙、色情服務(wù)、制造謠言等違法行為。這意味著，我們生活的現(xiàn)實世界正在面臨著深度合成技術(shù)被濫用的風(fēng)險與挑戰(zhàn)。

為規(guī)避風(fēng)險，我國正積極探尋有效的治理機制。2019年11月起先后出臺的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《中華人民共和國民法典》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，均對生成合成類內(nèi)容等提出了不同程度的監(jiān)管要求。今年1月，網(wǎng)信辦又起草了《互聯(lián)網(wǎng)信息服務(wù)/深度合成管理規(guī)定（征求意見稿）》并向社會公開征求意見。其中明確規(guī)定：任何組織和個人不得利用深度合成服務(wù)從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，違者將酌情接受法律法規(guī)制裁。這份文件還要求，深度合成服務(wù)提供者 應(yīng)當(dāng)依法對深度合成服務(wù)使用者進行真實身份信息認證，其所制作的內(nèi)容需經(jīng)過審核并保證可追溯。

復(fù)旦大學(xué)信息科學(xué)與工程學(xué)院副教授凌力在接受東方衛(wèi)視采訪時表示，深度合成技術(shù)具有非常廣闊的發(fā)展空間和應(yīng)用空間。未來的應(yīng)用場景將覆蓋圖像、語音、文本等更多樣化的模態(tài)，我們甚至可以看到支持4K、8K模式的高清化人像生成。但同時我們必須認識到，任何新技術(shù)都可能是一把雙刃劍，必須進行合理的使用，否則就將不可避免地產(chǎn)生風(fēng)險。

凌力表示，深度合成技術(shù)的發(fā)展速度越快，融入現(xiàn)實生活的程度越深，就越可能侵犯到個人隱私、威脅到社會信息系統(tǒng)安全。目前，我國的監(jiān)管部門已經(jīng)充分認識到了這一點，并已經(jīng)開始采取針對性的措施。但僅僅靠法律法規(guī)上的硬性約束是不夠的，還可以嘗試從科技創(chuàng)新、增強防范意識等多個渠道綜合進行應(yīng)對。比如，目前已有部門或企業(yè)綜合運用3D立體檢測、紅外檢測等新技術(shù)來進行信息核驗，實踐證明，可以有效地避免單一使用人臉識別技術(shù)帶來的風(fēng)險。

（看看新聞Knews記者：金梅 阮麗 陳昱卉）