火爆出圈的聊天機(jī)器人ChatGPT再遭“封殺”。

當(dāng)?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用ChatGPT，限制其開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。

意大利個人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。而該平臺沒有就收集處理用戶信息進(jìn)行告知，且缺乏大量收集和存儲個人信息的法律依據(jù)。該機(jī)構(gòu)要求OpenAI公司必須在20天內(nèi)通報采取了哪些措施來確保用戶數(shù)據(jù)隱私，否則將被處以最高2000萬歐元或公司全球年?duì)I業(yè)額4%的罰款。

意大利個人數(shù)據(jù)保護(hù)局稱，暫停ChatGPT主要出于用戶隱私數(shù)據(jù)保護(hù)和未成年人保護(hù)的考慮。該機(jī)構(gòu)同時稱，盡管根據(jù)OpenAI的條款聲稱該服務(wù)面對13歲以上的用戶，但并沒有使用任何過濾機(jī)制來驗(yàn)證用戶的年齡。

事實(shí)上，本周，不少科技大佬和機(jī)構(gòu)呼吁關(guān)注ChatGPT可能存在的風(fēng)險。先是包括特斯拉CEO馬斯克等在內(nèi)的1000多名學(xué)界、商界人士發(fā)表聯(lián)名公開信，要求暫停研發(fā)強(qiáng)于GPT-4的AI系統(tǒng)至少6個月，理由是這對社會和人性構(gòu)成潛在風(fēng)險。緊接著，美國人工智能和數(shù)字政策中心也向美國聯(lián)邦貿(mào)易委員會投訴稱，GPT-4“有偏見、欺騙性，對隱私和公共安全構(gòu)成風(fēng)險”，要求對其進(jìn)行調(diào)查，并呼吁為快速發(fā)展的人工智能行業(yè)制定新法規(guī)。此外，歐洲執(zhí)法機(jī)構(gòu)和消費(fèi)者保護(hù)組織也先后拉響對ChatGPT潛在危害的警報。

意大利是首個對ChatGPT采取限制措施的西方國家，此舉是否會影響ChatGPT的研發(fā)進(jìn)程？在上海人工智能研究院高級研究員李佳佳看來，像ChatGPT這類通用且應(yīng)用面極廣的產(chǎn)品，在迅速擴(kuò)張的過程中必然會帶來較大風(fēng)險，比如數(shù)據(jù)安全和用戶隱私等。因此，暫時性的放緩進(jìn)度并及時完善監(jiān)管體制，能夠有效保證產(chǎn)品的質(zhì)量且可以更好地服務(wù)大眾。

李佳佳表示，作為一個大型語言模型，ChatGPT自發(fā)布以來受到了大量用戶的關(guān)注，并且在方方面面都改變著人類對于事物的思考方式。GPT-4的出現(xiàn)，又進(jìn)一步加速了這個進(jìn)程。對于產(chǎn)品開發(fā)者而言，這類基于神經(jīng)網(wǎng)絡(luò)的大模型，需要不斷地加入新的數(shù)據(jù)來進(jìn)行調(diào)優(yōu)，在此過程中如何保證用戶數(shù)據(jù)的安全化和合理化是一個值得討論的問題。而對于用戶而言，AI僅把倫理規(guī)則當(dāng)成一種數(shù)據(jù)訓(xùn)練的趨向，同時并不能像人類一樣真正理解這些規(guī)則，就有可能產(chǎn)生違背基本事實(shí)和社會道理倫理的內(nèi)容，如果此類內(nèi)容大量充斥在人們的生活，學(xué)習(xí)和工作中，這將會導(dǎo)致巨大的社會風(fēng)險。

短短幾個月，“狂飆”的ChatGPT一時間又成為眾矢之的，是利益之爭，還是確實(shí)存在隱憂？多位業(yè)內(nèi)人士指出，擔(dān)憂者提出的隱患不容小覷。

首先是面臨虛假信息泛濫的問題。美國新聞可信度評估與研究機(jī)構(gòu)曾對ChatGPT進(jìn)行了測試，對ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問題，發(fā)現(xiàn)它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻無信源的內(nèi)容。

其次是信息泄露問題。3月2日，ChatGPT開放了應(yīng)用程序接口，一片叫好聲中就有業(yè)內(nèi)人士擔(dān)心，開放接口后若發(fā)生模型濫用、訓(xùn)練數(shù)據(jù)泄露就會給不法分子可乘之機(jī)。

還有ChatGPT帶來的知識產(chǎn)權(quán)合規(guī)問題?！拔谋緮?shù)據(jù)挖掘”是否需要相應(yīng)知識產(chǎn)權(quán)授權(quán)？如果AI生成答復(fù)具有獨(dú)創(chuàng)性，那著作權(quán)人可以是AI嗎？而ChatGPT在回復(fù)中拼接了第三方作品，其知識產(chǎn)權(quán)問題應(yīng)當(dāng)如何處理？這一系列問題都將給現(xiàn)有法律框架帶來挑戰(zhàn)。

人工智能的高速發(fā)展，早已引起各國政府關(guān)注。3月29日，英國政府發(fā)布了針對人工智能產(chǎn)業(yè)監(jiān)管的白皮書，歐盟制定的《人工智能法案》則將于明年正式生效。

那么，科技人士發(fā)出的警告是否是杞人憂天？人類又該如何為AI技術(shù)研發(fā)戴上“緊箍咒”？李佳佳表示，AI誕生之初至今日，便憑借著其超強(qiáng)的學(xué)習(xí)能力，對人類生產(chǎn)、生活、組織方式及經(jīng)濟(jì)社會發(fā)展的廣泛領(lǐng)域產(chǎn)生了極其深刻的影響，并成為了新一輪科技革命的核心驅(qū)動力，而這一趨勢還會延續(xù)下去。每項(xiàng)技術(shù)在應(yīng)用前都應(yīng)該進(jìn)行風(fēng)險評估，但該受監(jiān)管的是技術(shù)帶來的危害而不是技術(shù)本身。

李佳佳認(rèn)為，AI研發(fā)人員需要深思的是如何才能保證這類新興技術(shù)不觸及人類的道德禁區(qū)并避免失控的局面，這就需要研發(fā)人員加強(qiáng)對其核心原理的研究，并完善模型的可解釋性技術(shù)。

同時，政府、相關(guān)監(jiān)管部門和社會機(jī)構(gòu)應(yīng)集合法學(xué)、管理學(xué)和倫理等多學(xué)科，進(jìn)行人工智能社會風(fēng)險治理的研究，并不斷完善監(jiān)管制度，制定具體的指導(dǎo)原則，來引領(lǐng)新興技術(shù)的發(fā)展。    

（看看新聞Knews編輯：崔信淑 張?zhí)N昆 阮麗)