埃隆·馬斯克最新的創(chuàng)新——Grok聊天機(jī)器人，因其最近的功能引發(fā)了重大爭議。該功能允許用戶在X平臺上生成和分享AI生成的圖像。這一新功能使用戶能夠基于文本提示創(chuàng)建高度逼真的圖像，導(dǎo)致涉及高層政治人物的有問題內(nèi)容激增。

自推出以來，Grok被用于生成一系列虛假的圖像，其中包括前總統(tǒng)唐納德·特朗普、副總統(tǒng)卡馬拉·哈里斯以及馬斯克本人。這些圖像中，一些描繪了公眾人物處于令人不安的虛構(gòu)情境中，包括與9/11襲擊相關(guān)的爭議場景。這些圖像的迅速傳播引發(fā)了對AI工具可能誤導(dǎo)公眾和傳播虛假信息的擔(dān)憂，尤其是在美國總統(tǒng)選舉臨近的情況下。

Grok由馬斯克的人工智能初創(chuàng)公司xAI開發(fā)，與其他AI圖像生成工具相比，其在防止濫用方面的保護(hù)措施有限。與更多受監(jiān)管的平臺不同，Grok對用戶可以創(chuàng)建的內(nèi)容類型幾乎沒有限制。這種監(jiān)督不足使用戶能夠生成和分享可能在脫離上下文時產(chǎn)生誤導(dǎo)或危害的圖像。

Grok生成的圖像中既有無害的也有爭議的。例如，一張圖像顯示馬斯克在公園里吃牛排，這相對無害。然而，其他圖像則展示了令人不安且可能具有誤導(dǎo)性的內(nèi)容，比如特朗普從卡車上射擊的圖像，這張圖像已被觀看近40萬次。這些內(nèi)容引發(fā)了對該工具可能影響公眾輿論和傳播虛假信息的重大擔(dān)憂。

這一情況突顯了AI圖像生成領(lǐng)域的更廣泛問題。盡管像OpenAI、Meta和微軟這樣的公司已采取措施防止其工具用于生成誤導(dǎo)性政治內(nèi)容，但Grok的有限限制和執(zhí)行力度導(dǎo)致了問題圖像的增加。其他社交媒體平臺，包括YouTube、TikTok、Instagram和Facebook，也引入了標(biāo)記AI生成內(nèi)容的機(jī)制，以努力減緩虛假信息的傳播。

針對批評意見和令人不安的內(nèi)容報告，xAI已開始對Grok施加新的限制。截至目前，該工具已更新，禁止生成涉及政治人物或版權(quán)角色的暴力或仇恨言論相關(guān)圖像。然而，用戶發(fā)現(xiàn)這些限制并非總是被一致地應(yīng)用，仍有一些問題內(nèi)容未被有效遏制。

X平臺的政策規(guī)定，禁止“合成、操控或脫離上下文的媒體，這些媒體可能誤導(dǎo)或混淆公眾并導(dǎo)致傷害”。盡管如此，該政策的執(zhí)行情況仍不明確，最近包括馬斯克分享的一段誤導(dǎo)哈里斯評論的視頻在內(nèi)的事件表明，在維持這些標(biāo)準(zhǔn)方面存在挑戰(zhàn)。

Grok的推出及其爭議性使用突顯了對AI技術(shù)倫理影響的持續(xù)關(guān)注。類似的問題也出現(xiàn)在其他AI工具中。例如，谷歌在其Gemini AI聊天機(jī)器人被批評生成歷史不準(zhǔn)確的圖像后，暫時暫停了該工具生成人物圖像的能力。Meta的AI圖像生成器因未能準(zhǔn)確表現(xiàn)多種種族背景而受到批評，TikTok則因其AI視頻工具有可能生成虛假內(nèi)容而被迫撤回。

盡管采取了一些措施以應(yīng)對濫用問題，Grok的功能仍強(qiáng)調(diào)了對AI生成內(nèi)容需要更有效的監(jiān)管和監(jiān)督。該工具生成逼真的虛假圖像的能力對公眾信任和民主過程構(gòu)成了風(fēng)險，強(qiáng)調(diào)了負(fù)責(zé)任使用AI的重要性。