在短視頻平臺的海量內(nèi)容中，一種特殊賬號正越來越活躍。這些賬號里，由AI生成的數(shù)字人，要么扮演成西裝筆挺的“投資大師”，要么化身溫柔體貼的“健康顧問”，看似情感真摯卻是暗藏玄機(jī)。還有一些主播花式打造人設(shè)，編撰家長里短、跌宕起伏的劇情，吸引中老年人關(guān)注，但最后，瞄準(zhǔn)的還是大家的錢包。

在一個(gè)名為“建國弟弟”的賬號中，幾條視頻都是相同的形象，男子動作表情生硬，語調(diào)單一，有時(shí)口型甚至對不上臺詞，人物形象邊緣也出現(xiàn)明顯的摳圖印記。但評論區(qū)里，還是有不少阿姨給他送上愛心和玫瑰花。

記者在某社交平臺搜了下“建國”，就發(fā)現(xiàn)包括“李明哥”、“海闊天空”等賬號名的18個(gè)“建國”，每個(gè)賬號的粉絲數(shù)從幾千到幾萬不等，在部分作品不明顯的位置，有用小字標(biāo)記的“通過AI數(shù)字人打造”字樣，其中10個(gè)賬號開通了櫥窗，售賣所謂的“健康食品”等商品。

這類賬號通常擁有高度相似的背景、人物形象乃至動作神態(tài)，唯一不同的是播報(bào)的內(nèi)容，涵蓋情感交流、國學(xué)文化、中醫(yī)養(yǎng)生等多個(gè)領(lǐng)域，旨在精準(zhǔn)擊中中老年用戶的興趣點(diǎn)，從而迅速積累粉絲和流量。

一些老年消費(fèi)者表示，這些賬號發(fā)布的視頻，乍一看很難分辨出是AI制作的。視頻中的人物形象親切、說話好聽，很具有迷惑性。

不過，從熟悉視頻制作的人看來，大部分AI數(shù)字人神態(tài)、語氣都有不自然的地方，為什么部分老年人仍然會投入情感，沉迷其中，甚至心甘情愿掏腰包呢？特約評論員沈彬指出，尤其中老年女性，對網(wǎng)絡(luò)內(nèi)容的辨別能力不強(qiáng)，又渴望精神滿足，就容易被一些別有用心的人重重圍獵。之前有假靳東，有“秀才”擺拍，還有這一次的“建國弟弟”AI假人。AI人一張嘴就是“寶貝姐姐，建國弟弟想你了，歲月是一首詩”，一些內(nèi)心比較空虛的老年婦女可能就被假象所迷惑。而且中老年人不一定能馬上識別AI生成內(nèi)容。網(wǎng)信部門幾年前就明確規(guī)定，對于AI生成內(nèi)容要做強(qiáng)制標(biāo)注。但是我們看到一些AI騙局中，標(biāo)注字體非常小、非常淡，很容易被受害者所忽視。

事實(shí)上，養(yǎng)生、情感內(nèi)容一直是“收割”老年消費(fèi)者的重災(zāi)區(qū)，被騙通常與受教育程度無關(guān)，而是沉迷視頻帶來的情緒價(jià)值。

有媒體報(bào)道，市面上已經(jīng)涌現(xiàn)出制作數(shù)字人的外包公司，幫助客戶搭建數(shù)字人形象，指導(dǎo)運(yùn)營賬號，服務(wù)價(jià)格在5000-10000元不等，相關(guān)AI賬號目的就是利用老年人的同理心賣貨。

根據(jù)宣傳，在AI工具的輔助下，理論上一天可以創(chuàng)作出100條視頻，最少3天就可以起號，從而輕松實(shí)現(xiàn)月入過萬。變現(xiàn)方式包括創(chuàng)作分成、短視頻或直播帶貨、廣告變現(xiàn)等。

且不說AI賬號帶貨的商品真假、質(zhì)量如何，這些賬號首先就觸及了平臺規(guī)則紅線，有被封禁的風(fēng)險(xiǎn)。例如，騰訊視頻號就有《細(xì)則》明確禁止使用AI工具生成的虛擬形象直播帶貨。

而隨著技術(shù)快速迭代，針對中老年的AI換臉詐騙案也開始頻繁出現(xiàn)。去年，江西就有一位老人被換臉視頻蒙蔽，要貸款200萬元給網(wǎng)戀男友“靳東”拍戲。此外，還有用AI換臉真人制作色情影片、盜刷醫(yī)保的違法案例。

今年兩會期間，除了政協(xié)委員靳東再次提到AI換臉的危害，小米創(chuàng)始人 雷軍也抱怨自己的形象被做成了“AI人”。

AI技術(shù)的普及，不僅讓帶貨騙局大行其道，還大幅降低了詐騙門檻，為“個(gè)人獨(dú)狼式”的電詐提供滋生土壤，現(xiàn)在，甚至一兩個(gè)詐騙分子就可以完成作案。

散發(fā)小廣告的、編寫釣魚代碼的、物色目標(biāo)獵物的、利用話術(shù)引人上鉤的、受害人上當(dāng)后分散轉(zhuǎn)移贓款的，甚至還有囚禁虐待電詐人員的“打手”。在電影里，成百上千人分工明確，流水式作業(yè)展開詐騙。

而現(xiàn)在在AI技術(shù)輔助下，一兩名詐騙分子就可以作案，AI承擔(dān)了從目標(biāo)篩選到身份偽裝，再到實(shí)施詐騙和逃避打擊等以往詐騙中的關(guān)鍵任務(wù)，而這種情形在最新的案例中已經(jīng)超過六成。

新型詐騙中，AI技術(shù)被“武器化”的程度令人咋舌。分析103篇詐騙案新聞報(bào)道可見，AI換臉技術(shù)使用率近一半。犯罪分子通過非法獲取的人臉照片和語音樣本，利用開源AI工具生成逼真的虛擬形象。

AI技術(shù)的普及使得詐騙手段更加多樣化和難以防范，沒有深厚技術(shù)背景的人也能輕松獲取和使用相關(guān)技術(shù)實(shí)施詐騙，詐騙場景的多樣性超出想象，冒充公檢法機(jī)關(guān)、偽造親友求助、虛擬投資平臺等套路層出不窮。

數(shù)據(jù)顯示，在所有AI詐騙案例中，冒充類詐騙占比高達(dá)62%，其次是金融類和交易類詐騙。還有詐騙分子把AI技術(shù)應(yīng)用到了交友“賽道”。

隨著AI技術(shù)的不斷升級，甚至逐漸形成了一條分工明確、相互協(xié)作的完整化黑色產(chǎn)業(yè)鏈。上游技術(shù)提供者通過暗網(wǎng)兜售“AI換臉套餐”，價(jià)格從幾百元到數(shù)萬元不等。中游推廣者利用非法獲取的個(gè)人信息庫，通過短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺等渠道轉(zhuǎn)移資金。整個(gè)過程中，技術(shù)、數(shù)據(jù)、資金形成了完整閉環(huán)，而隨著AI技術(shù)不斷發(fā)展，黑色產(chǎn)業(yè)鏈也在不斷升級和演變，打擊AI詐騙面臨著更大的挑戰(zhàn)。

AI技術(shù)一日千里，老年人成了最容易上當(dāng)?shù)娜后w之一，怎樣幫助老年人反詐？如何識別AI皮套下的騙術(shù)？我們還能做些什么？特約評論員沈彬介紹，這個(gè)月我國網(wǎng)信部門發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》，今后，相關(guān)標(biāo)識一定要非常明確、必須強(qiáng)化AI的顯著標(biāo)識，不能再打“擦邊球”，要讓用戶能夠辨別出是真人還是假人，不允許在網(wǎng)上以假亂真。另一方面，也要強(qiáng)化司法的有所作為，對這樣的AI假人能夠及時(shí)“亮劍”，堅(jiān)決斬?cái)嗪诨疑a(chǎn)業(yè)鏈。而互聯(lián)網(wǎng)平臺也要守土有責(zé)，履行社會責(zé)任，決不允許大量劣質(zhì)的“AI人”在互聯(lián)網(wǎng)上打“擦邊球”。另外，還要加強(qiáng)針對中老年人的互聯(lián)網(wǎng)知識普及，讓他們明白網(wǎng)上什么是真的，什么是假的，幫助他們提升AI的鑒別能力。