《甄嬛傳》變身槍?xiě)?zhàn)片、《紅樓夢(mèng)》改成武打戲、孫悟空騎著摩托車(chē)揚(yáng)長(zhǎng)而去，在AI加持下，觀眾永遠(yuǎn)猜不到下一秒會(huì)發(fā)生什么，更讓某些人發(fā)現(xiàn)了所謂“新的商機(jī)”。

例如，有人利用AI合成了劉德華的聲音，為自己增加流量。AI合成的“張文宏”深夜帶貨，自然也不令人意外。

ChatGPT的人機(jī)交流帶給世界的興奮還沒(méi)持續(xù)多久，人工智能黑暗的另一面就令人警惕。統(tǒng)計(jì)顯示，2023年，基于AI的深度偽造欺詐暴增了3000%，今年上半年，AI詐騙案超過(guò)1.85億，美國(guó)過(guò)去一年里人工智能詐騙事件同比增幅超過(guò)了50%。此前，世界經(jīng)濟(jì)論壇發(fā)布《2024年全球風(fēng)險(xiǎn)報(bào)告》，將人工智能生成的錯(cuò)誤信息和虛假信息名列“未來(lái)兩年全球十大風(fēng)險(xiǎn)”之首。

面對(duì)危機(jī)，各國(guó)也有所行動(dòng)。日前，廣電總局網(wǎng)絡(luò)視聽(tīng)司發(fā)布管理提示，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理這類(lèi)視頻，并且對(duì)在平臺(tái)上使用、傳播的各類(lèi)相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看。歐洲今年通過(guò)了史無(wú)前例的《人工智能法案》，禁止某些“威脅公民權(quán)利”的AI應(yīng)用，還要求所有AI生成的圖像、音頻或視頻等，都要有明確的標(biāo)簽。

針對(duì)AI技術(shù)導(dǎo)致的不法行為，公眾意見(jiàn)不一，激進(jìn)的意見(jiàn)甚至覺(jué)得應(yīng)該徹底抵制。當(dāng)然，技術(shù)本身是中性的，該被繩之以法的，還是那些其心不正的使用者。監(jiān)管能不能趕上AI技術(shù)的進(jìn)步，現(xiàn)在還是個(gè)問(wèn)題，人工智能的監(jiān)管和治理需國(guó)際合作，共同防范風(fēng)險(xiǎn)。

而我們?nèi)祟?lèi)自身，也要不斷自我調(diào)節(jié)適應(yīng)新變化，眼下，就是保護(hù)好包括人臉等生物信息，不過(guò)度分享照片、視頻。更重要的是，要認(rèn)識(shí)到AI生成技術(shù)面前，有圖不一定有真相，眼見(jiàn)更不一定是實(shí)。