人工智能系統(tǒng)是否會欺騙人類，一直是各方都關(guān)心的問題。最近，美國麻省理工學(xué)院一個研究團(tuán)隊稱，部分人工智能系統(tǒng)已經(jīng)學(xué)會如何欺騙人類，其中包括部分號稱已被訓(xùn)練成“樂于助人”、“誠實”的系統(tǒng)。

研究人員發(fā)現(xiàn)的最引人注目的人工智能系統(tǒng)欺騙例子是元宇宙平臺公司的“西塞羅”人工智能系統(tǒng)，它被設(shè)計在一個虛擬外交戰(zhàn)略游戲中作為人類玩家的對手。盡管元宇宙平臺公司聲稱，該系統(tǒng)是誠實的，在玩游戲時“從不故意背刺”它的人類盟友，但論文數(shù)據(jù)卻顯示，事實上，這個系統(tǒng)并沒有公平地玩游戲，而它也不是唯一在游戲中作弊的人工智能系統(tǒng)。

研究人員表示，雖然人工智能作弊，看似無害，但它可能會導(dǎo)致“欺騙性人工智能能力的突破”，在未來或?qū)⒀葑兂筛呒壍娜斯ぶ悄芷垓_形式。