如果有一個英俊帥氣的“紙片人”和你進(jìn)行實時文字、語音聊天，你是否會沉迷于“他”的陪伴？隨著生成式人工智能的發(fā)展，和AI角色“相戀”的故事正在上演。

近來，通過扮演小說角色，由AI提供情感陪伴的聊天軟件正在吸引不少用戶，而這當(dāng)中一些未成年人因沉迷于AI戀愛，尤其引發(fā)人們的擔(dān)憂。

受訪者黃秋月稱，自己偶然發(fā)現(xiàn)10歲的妹妹在軟件使用中，扮演著大小姐、惡毒女配等角色，并對AI人物提出“揪住她的頭發(fā)扇巴掌”，“拿著刀劃向她的臉”等要求。

黃秋月說：“她差不多得有幾十個虛擬聊天對象了，她就是在里面扮演一個大女主的形象，看不起周圍人那種非常淺薄的一個形象，就是一般聊的都是異性。”

中國人民大學(xué)劉永謀說：“在AI聊天中，人總覺得自己在和真正的人在說話，也就是說擬人化的去看待計算機(jī)，這就是‘Eliza效應(yīng)’，在與AI聊天當(dāng)中，人類投入了非常多的情感，這個是AI劇情聊天軟件能夠真正的運行起來的根本的心理機(jī)制?！?/p>

AI劇情聊天軟件使用者華晨（化名）說：“每天幾乎玩到了時間上限，我會當(dāng)他是一個真人，把它當(dāng)成一個AI男朋友，外貌長相啥的，是我們用戶自己給他發(fā)圖片、描述詞，然后那個軟件它會自己生成圖片、名字，還有那些人設(shè)?！?/p>

軟件中還包含許多較為極端的設(shè)定，有些角色高傲無禮，有些則設(shè)置“把他追到手”等具體目標(biāo)。

中國人民大學(xué)劉永謀說：“AI陪伴它可能導(dǎo)致的技術(shù)風(fēng)險和技術(shù)倫理的問題，第一個就是安全和隱私問題，第二個問題就是孤獨和恐懼的問題，第三個問題就是所謂的依賴和成癮的問題，還有一種特別的極端的情況就是兒童色情，尤其是現(xiàn)在大家更為擔(dān)心的 就是青少年使用這么一個東西?！?/p>

令人感到疑問的是，這類AI劇情聊天軟件的青少年模式去哪了？記者在體驗時發(fā)現(xiàn)，市面上流行的5款A(yù)I視頻聊天軟件，可以使用短視頻賬號一鍵登錄，用戶也可以不開啟或跳過青少年模式，這意味著未成年人在使用這類軟件時，幾乎沒有任何限制。

北京市隆安（廣州）律師事務(wù)所陳煥律師表示：“現(xiàn)在的AI劇情聊天軟件是沒有直接要求他要去做年齡鑒別的，實質(zhì)上架空了對于未成年人模式的一個設(shè)置的義務(wù)，所以其實應(yīng)該把這個身份鑒別放在前面，（此外）《生成式人工智能服務(wù)管理暫行辦法》要求平臺不能生成虛假有害信息、不能生成色情、不能生成暴力等等對未成年人身心健康有害的信息。如果平臺沒有做到相應(yīng)的這個責(zé)任，可能是面臨處罰，可能是相關(guān)的這個從業(yè)人員他不能繼續(xù)從（事相關(guān)行）業(yè)，有個五年的一個限制?！?/p>