西藏日喀則市定日縣發(fā)生的地震災情牽動人心，當?shù)亓鱾鞒龅母鞣N救援畫面，更是令人揪心不已。然而，卻有一些不真實的內(nèi)容趁機渾水摸魚，利用人們的同情心進行誤導、吸引流量。某視頻平臺上一位博主發(fā)布的照片顯示：一個戴帽子的小孩被壓在倒塌的建筑物下，全身鋪滿塵埃。下方文字標簽還和西藏日喀則地震關聯(lián)。在某短視頻平臺上，至少有10個以上的賬號轉發(fā)了這張圖片，有賬戶甚至獲得好幾萬的轉發(fā)和點贊。

而實際上，這張小男孩的圖片是由AI生成的，圖中孩子的左手顯示為六根手指，是常見的AI圖片錯亂之處。此外，平臺也在相關圖片下方給出文字提示：“疑似使用AI生成技術，請謹慎甄別”。雖然平臺有提示，但仍有不少網(wǎng)友仍被誤導，為圖中的孩子難受落淚，甚至在評論區(qū)追問圖片中的小孩是否獲救。這并非個例，在某視頻平臺上，以“日喀則地震群眾被埋”為關鍵詞進行搜索發(fā)現(xiàn)，不少視頻博主都發(fā)布了AI生成的災區(qū)圖片，且都在配文中與日喀則地震關聯(lián)。

網(wǎng)友利用AI技術生成圖片，關聯(lián)地震災區(qū)現(xiàn)場，這樣的行為是否欠妥？如果引發(fā)不良影響，該承擔哪些責任？律師劉鋒今天在接受看看新聞Knews的采訪時表示，如果這張圖片是在地震前就用AI生成并發(fā)布在社交平臺，其實并不違法。但是在地震發(fā)生后，這張照片被多個帳號轉發(fā)并誤導大家以為這是真實存在的，就有違新聞真實性的原則，所以在這個時間點發(fā)布這樣的照片非常不妥，脫離了原來創(chuàng)作這張作品的初衷，演變成博眼球、博流量，這種行為已經(jīng)涉嫌違法。

劉鋒說，雖然發(fā)布者在圖片的下方給出了提示，但提示的字體有多大？是不是可以讓大家很清晰的看到？還有即便是備注為AI生成圖片，但發(fā)布的內(nèi)容如果是為了博眼球、吸引流量，甚至引發(fā)大家恐慌或者誤解的，就不能完全免責，我國《治安管理處罰法》明確規(guī)定，散布謠言、謊報險情、警情、擾亂社會公共秩序的，可處5天以上10天以內(nèi)拘留，并處500元以下的罰款。

如今，AI技術在給生產(chǎn)生活帶來便利的同時，也為不法分子提供了便利。AI去衣、AI換臉，不少不法分子將這些先進的技術變成敲詐勒索的工具。今年6月，一家互聯(lián)網(wǎng)公司的技術員就利用AI技術偽造近7000張淫穢圖片進行販賣，嫌疑人因以制作、販賣淫穢物品牟利被追究刑事責任。AI生成文字或視頻還被用于制造虛假信息。今年4月，上海長寧警方查處了一起利用AI編造女星去世短視頻的案件，對造謠者處以行政拘留3天。

以前我們都說“有圖有真相”，但隨著AI的發(fā)展，有圖也未必有真相。尤其是在出現(xiàn)重大災情、重大事件的時候，難以避免有人利用人們的同情等情緒，將AI技術用以編偽消息、造假新聞，以此來獲得網(wǎng)民關注和點贊量，進而實現(xiàn)流量變現(xiàn)。那么，我們要如何甄別 AI文章、AI圖片、AI視頻？去年9月，我國曾發(fā)布人工智能生成合成內(nèi)容的征求意見稿，規(guī)定AI生成的圖片、視頻、虛擬場景等，均應添加顯著提示標識；但實際上，部分發(fā)布者和平臺，為了享受AI工具帶來的流量紅利，采取睜一只眼、閉一只眼的態(tài)度。

為治理AI亂象，近年來相關部門也出臺了多項政策和措施。從2023年起，施行的多部管理規(guī)定明確，提供和使用生成式人工智能服務，應當遵守法律、尊重社會公德和倫理道德。不得侵害社會公共利益、擾亂經(jīng)濟和社會秩序。此前，一些發(fā)布者將圖文內(nèi)容移花接木、肆意編造網(wǎng)絡謠言，引發(fā)公眾關注、傳播。公安機關已經(jīng)依法追究其法律責任。這其實也是在提醒受眾，網(wǎng)絡信息魚龍混雜，你看到勁爆圖片或震撼視頻時，要留心是不是AI生成的，是不是應該采信，都要多個心眼。

此外，對于在不少平臺，AI生成圖片及相關視頻能立刻發(fā)出，平臺審核是否應進一步加強管理？對于AI生成圖片的相關視頻立刻能發(fā)出，發(fā)出約1小時后才出現(xiàn)“疑似AI技術生成”的提示語，在律師劉峰看來，這在某種程度上說明平臺審核存在問題，其審核規(guī)則具有滯后性，提示方式也存在不夠明顯的漏洞。

劉峰還表示，平臺在發(fā)布內(nèi)容前應進行必要的審核，以確保信息的真實性和準確性。特別是在涉及災害等敏感話題時，更應加強審核力度。且盡管有文字提示，但仍有網(wǎng)友誤解，這也進一步說明，平臺的提示方式不夠醒目和有效。劉峰說，平臺每天有大量的文字、圖片在發(fā)布，對于平臺來說審核的壓力也很大，所以平臺適用避風港原則，也就是說平臺只要不是惡意為之，或者說當受害者通知平臺，平臺立即處理，也可以不承擔責任，但如果平臺對違規(guī)行為采取姑息態(tài)度，依舊需要承擔相關責任。對此，劉峰呼吁，平臺應該改進審核機制，提高審核效率，并采用更加直觀有效的提示方式，以避免虛假信息的傳播。