隨著AI技術發(fā)展，近來各種“AI魔改”視頻、照片在網(wǎng)絡大行其道，亂象頻出?！墩鐙謧鳌纷兩順寫?zhàn)片、《紅樓夢》改成武打戲、孫悟空騎著摩托車揚長而去，在AI加持下，觀眾永遠猜不到下一秒會發(fā)生什么。

另有一些人還迅速從AI合成視頻技術中發(fā)現(xiàn)商機。例如，某AI應用程序上，用戶只需提供兩張照片，支付一定價格所謂的制作費，就能利用AI合成技術生成長約5秒的所謂和明星“接吻”或“擁抱”的短視頻。

針對上述亂象，日前，廣電總局網(wǎng)絡視聽司發(fā)布《管理提示》，要求各相關省局督促轄區(qū)內(nèi)短視頻平臺排查清理這類視頻，并且對在平臺上使用、傳播的各類相關技術產(chǎn)品嚴格準入和監(jiān)看。9月，國家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》公開征求意見，其中明確，相關服務提供者應當在視頻顯著位置添加提示標識，視頻傳播平臺也應當提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容，同時做好相應的監(jiān)測，在發(fā)布內(nèi)容周邊添加顯著的提示標識。

但是對于這一新課題，到底如何有效監(jiān)管呢？上海人工智能研究院數(shù)字化治理中心主任彭嘉昊認為，對于AI生成式技術的使用和監(jiān)管，目前還存在不少難點甚至盲點。