AI技術(shù)正被頻頻用來作為造謠黑手，讓“造謠一張嘴，辟謠跑斷腿”的現(xiàn)實性困難，再度凸顯。公安部網(wǎng)安局在14日早間發(fā)布的一起公告顯示，近期在互聯(lián)網(wǎng)上廣為流傳的“頂流明星賭博輸10億”的信息，其實是一則由AI技術(shù)編造的、徹頭徹尾的謠言。

公告稱，經(jīng)查明，網(wǎng)民徐某強為博取流量、謀取非法利益，在3月10日使用軟件中的AI智慧生成功能，輸入社會熱點詞，制作了標題為“頂流明星被曝境外豪賭輸光十億身家引發(fā)輿論海嘯”的謠言信息，并通過互聯(lián)網(wǎng)平臺對外發(fā)布，造成謠言迅速傳播擴散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜、熱榜，嚴重擾亂公共秩序。公安機關(guān)根據(jù)相關(guān)法律法規(guī)，對徐某強處以行政拘留8日的處罰。

事實上，在公安部出臺官方辟謠之前，一些藝人已經(jīng)不得不陸續(xù)通過社交賬號自證清白。此前在傳聞的發(fā)酵過程中，一些網(wǎng)民化身偵探，試圖從細節(jié)里推測出謠言的主角。種種捕風捉影、似是而非的猜測，也讓這些藝人成為了謠言的受害者，并通過藝人自帶的明星效應進一步加劇了謠言的傳播。

隨著辟謠信息的發(fā)布，不少網(wǎng)民發(fā)出一聲嘆息，深感自己又一次被互聯(lián)網(wǎng)上狂飆的虛假信息欺騙了。不少人追問：為什么一則謠言能在短時間內(nèi)引發(fā)如此巨大的關(guān)注和轉(zhuǎn)發(fā)？這其中，眾多奉行“流量為王”的自媒體扮演了什么角色？為何僅僅是捕風捉影，就迫使一眾明星不得不自證清白？

答案或許是，謠言編得太像是真的了！根據(jù)公安部的通報，涉事者在編造時喂給AI工具的語料，包括了“頂流明星”、“境外豪賭”、“十億元”等詞語。這些詞語不但本身就容易吸引眼球，而且還能牽連出大量沉積在互聯(lián)網(wǎng)上的公開信息，盡管這些信息也是真假難辨。記者還注意到，在涉事者徐某強發(fā)布網(wǎng)帖之后，多家自媒體在轉(zhuǎn)發(fā)時的爆料，無論是在增加的關(guān)鍵熱詞上，還是轉(zhuǎn)發(fā)的時間上，都明顯地呈現(xiàn)出驚人的同步性，也毫無疑問地增加了迷惑性。

有意思的是，針對這則由AI工具炮制的謠言，也有網(wǎng)民同樣用AI進行了分析，結(jié)論是，“該傳聞缺乏實質(zhì)性證據(jù)”。此外，令人遺憾的是，公開數(shù)據(jù)顯示，“超一線男星澳門賭博”這一詞條閱讀量高達上百萬，而緊跟其后的辟謠詞條，閱讀量只有十幾、二十萬，再次印證了“造謠一張嘴，辟謠跑斷腿”的現(xiàn)實性困難。

記者梳理公開報道發(fā)現(xiàn)，使用AI技術(shù)造謠已非孤例，此前曝光的諸多案例中，相關(guān)謠言都對社會秩序和公眾信任造成了極大沖擊。比如，今年1月，西藏日喀則地震期間，就有一張AI生成的“兒童被廢墟掩埋”圖片，因畫面逼真，讓無數(shù)網(wǎng)友揪心；春節(jié)剛過，又有自媒體借著電影《哪吒2》的熱度，炒作電影制作公司員工“愿意996是因為公司在成都分房”；不久前，熱傳的“80后死亡率突破5.2%”，也被證明其實是個別人別有用心的斷章取義。

類似案例，不一而足，但它們都有一個共同點，那就是：看起來有精確細節(jié)，卻沒有信息來源，仔細搜索后會發(fā)現(xiàn)有明顯事實錯誤。這當中，有很大一部分“功勞”，都屬于AI工具。憑借著超強的數(shù)據(jù)捕捉和內(nèi)容生成能力，AI技術(shù)正在成為謠言編造利器，眾多社交平臺則成為謠言傳播的重災區(qū)。比如，今日頭條近日公布的數(shù)據(jù)就顯示，該平臺在去年處理的低質(zhì)AI內(nèi)容，超過了93萬條；處置的利用AI批量發(fā)布虛假、低質(zhì)或抄襲的賬號，也達到了近3萬個。

除了“看上去很真”、傳播速度快、傳播范圍廣以外，AI造謠還有個特點，就是造謠成本低。有博主曾測算，一篇AI文章的成本是人民幣0.00138元，也就是，一分錢可以生成七篇文章，客觀上也助推了AI造謠的量大管飽。

面對AI造謠帶來的種種沖擊和傷害，監(jiān)管部門也加大了對互聯(lián)網(wǎng)內(nèi)容生態(tài)的治理。2023年8月開始實施的《生成式人工智能服務(wù)管理暫行辦法》就要求，AI服務(wù)提供者對圖片、視頻等內(nèi)容進行標識。去年9月，要求進一步細化，不僅是AI提供者，社交傳播平臺也需要添加明顯的AI標識，區(qū)別AI內(nèi)容和真實內(nèi)容。今年2月，網(wǎng)信辦發(fā)布的2025年“清朗”系列專項行動則明確，今年將針對AI技術(shù)的濫用亂象展開重點整治。

那么，針對頻發(fā)的AI造謠亂象，治理的難點究竟在哪里？該如何動用多種手段，來進行系統(tǒng)性破局？

律師劉峰認為，傳統(tǒng)的造謠往往集中于單一事件和單一個體，造謠者和傳謠者往往也是同一個體。AI造謠則與此有著顯著不同。憑借著先進技術(shù)對眾多熱詞的篩選、提煉和整合，AI造謠不僅能準確抓住多個群體的興趣點，還常常能在提煉此前信息的基礎(chǔ)上進行第二波、第三波傳播。因此，AI造謠對于相關(guān)當事人和互聯(lián)網(wǎng)內(nèi)容生態(tài)的傷害，也是表現(xiàn)出幾何倍數(shù)的增長。此外，AI造謠在生產(chǎn)方式上也呈現(xiàn)出一種分工合作的狀態(tài)，也就是說，信息源的發(fā)掘、信息的創(chuàng)作、信息的傳播，這些都有專門的人去做，而且每個環(huán)節(jié)都可能形成一個單獨的產(chǎn)業(yè)鏈。

劉峰表示，以上種種情況，都對監(jiān)管提出了新的挑戰(zhàn)，相應地，在法律上怎么定罪、怎么量刑，也必須要重新思量。但是要想從根本上遏制AI造謠亂象，除了在法律層面完善規(guī)定、加大懲處以外，還需要相關(guān)主體協(xié)同發(fā)力。比如，各地網(wǎng)信部門和公安部門應當要加大監(jiān)測和打擊力度，技術(shù)部門、研發(fā)者應當要加強相關(guān)的識別、溯源和攔截能力。當然，公眾也應與時俱進，積極提升自身的數(shù)字素養(yǎng)和對虛假信息的辨別能力，從而讓謠言止于智者。