“研究人員陷入恐慌”、“機(jī)器人竟用秘密語言交談”、“Facebook被迫終止恐怖AI實(shí)驗(yàn)”——無論是打開BBC，還是福布斯、財富、紐約時報等主要媒體網(wǎng)站，你都會看到，F(xiàn)cebook成了最大焦點(diǎn)，以一種他們意料之外的方式。

就在前不久，F(xiàn)acebook的CEO扎克伯格還與特斯拉的創(chuàng)始人馬斯克就“人工智能對人類是福還是禍”展開了隔空論戰(zhàn)。那時，扎克伯格還是堅(jiān)定的樂觀派。在7月2３日的一場直播中，扎克伯格說：“我對人工智能持樂觀態(tài)度。對于那些認(rèn)為人工智能會導(dǎo)致世界末日的悲觀主義者，我并不能理解他們，他們太過于消極。從某種角度看，我認(rèn)為他們很不負(fù)責(zé)任。”

針對扎克伯格的此番言論，有網(wǎng)友25日在推特上詢問馬斯克的意見。他回復(fù)稱：“我已經(jīng)同扎克伯格就相關(guān)問題進(jìn)行了討論，他對于這一領(lǐng)域的理解有限”。

扎克伯格對人工智能的盲目樂觀被自己的研究團(tuán)隊(duì)打臉了嗎？如果你對于這條消息還沒有任何了解，那么，請先瀏覽一段對話內(nèi)容：

Bob: i can can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me to

Bob: i i can i i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: i

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: you i i i i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

如果你不懂英文，正在尋求翻譯，那么你可能會被谷歌翻譯器甩出這樣一個答案。

不要?dú)怵H。事實(shí)上，即便是母語是英文的人也沒法完全理解這段對話的含義。因?yàn)?，它并非來自人類，而是發(fā)生在兩個機(jī)器人Bob和Alice之間。

他們顯然在用一種非標(biāo)準(zhǔn)的英語進(jìn)行溝通，但他們究竟在聊些什么呢？我們不得而知。創(chuàng)造出這兩個AI機(jī)器人的Facebook人工智能研究團(tuán)（Facebook Artificial Intelligence Research，簡稱FAIR）也很快停止了相關(guān)研究。

不過，F(xiàn)acebook關(guān)閉這一實(shí)驗(yàn)項(xiàng)目的原因真的是出于對人工智能發(fā)展不可控的恐慌嗎？

事實(shí)上，早在6月16日Facebook人工智能研究團(tuán)隊(duì)的一個實(shí)驗(yàn)小組的成員就在開源博客中公布了該實(shí)驗(yàn)的相關(guān)內(nèi)容，這次實(shí)驗(yàn)的研究成果也同日發(fā)表。在一篇名為Deal or no deal? Training AI bots to negotiate（《成交還是不成交？訓(xùn)練AI機(jī)器人談判》）的博客中，F(xiàn)acebook人工智能研究小組介紹稱，該實(shí)驗(yàn)項(xiàng)目的主要任務(wù)是為了訓(xùn)練AI機(jī)器人進(jìn)行談判。

在博文一開始，F(xiàn)AIR小組就介紹了實(shí)驗(yàn)背景和目的——現(xiàn)在，隨著人工智能的不斷發(fā)展，“聊天機(jī)器人已經(jīng)很普遍，他們可以進(jìn)行簡短的對話，甚至可以執(zhí)行諸如預(yù)定餐廳這類簡單的任務(wù)”。但是，F(xiàn)AIR希望賦予人工智能機(jī)器人一個新的能力，那就是談判。

在這樣的預(yù)設(shè)背景之下，Bob和Alice作為兩個虛擬機(jī)器人接受了實(shí)驗(yàn)小組的訓(xùn)練。在實(shí)驗(yàn)場景中，書（book）、帽子（hat）和球（ball）被賦予了指定的價值和特定的數(shù)量。如此一來，這個實(shí)驗(yàn)之下的AI機(jī)器人相當(dāng)于被置于貨幣誕生前人類遠(yuǎn)古的物物交換時代，而他們的目的就是為了以最利于自己的方式實(shí)現(xiàn)交換。事實(shí)上，在這一實(shí)驗(yàn)預(yù)設(shè)之下，經(jīng)過不斷的訓(xùn)練，Bob和Alice的對話在多數(shù)情況下也體現(xiàn)出了大多數(shù)人可以理解的嚴(yán)格邏輯性。

研究小組對于整個實(shí)驗(yàn)結(jié)果相當(dāng)滿意，“FAIR訓(xùn)練出的最佳AI機(jī)器人的表現(xiàn)與人類相當(dāng)”，他們在博文中寫道：“他們不僅可以講英語，而且還能智能地思考說什么?！?/p>

不過，這個看上去還不錯的實(shí)驗(yàn)忽略了一個設(shè)定，那就是鼓勵機(jī)器人用人類可以理解的語言規(guī)范進(jìn)行交互。因此，當(dāng)研究人員讓兩個機(jī)器人交互學(xué)習(xí)時，他們發(fā)明出了一種更高效的機(jī)器語言，這樣就出現(xiàn)了上文所述看似亂碼的“神秘語言”。這聽起來似乎有些毛骨悚然，但事實(shí)上，這項(xiàng)AI技能早就不是新鮮事。

“機(jī)器人會脫離人類可以理解的語言而為自己發(fā)明代碼語言”，F(xiàn)AIR實(shí)驗(yàn)小組的研究員Dhruv Batra解釋稱：“這就好像我重復(fù)五遍某個項(xiàng)目，你就會認(rèn)為我是要這個項(xiàng)目的五個副本一樣。（注：比如，“蘋果 蘋果 蘋果 蘋果 蘋果”相當(dāng)于“5個蘋果”）機(jī)器人的這種做法與人類沒有太大區(qū)別?！?/p>

所以，F(xiàn)acebook確實(shí)叫停了機(jī)器人之間的對話，“但這并不是出于對于人工智能發(fā)展的恐慌”，參與實(shí)驗(yàn)的FAIR另一位研究員Mike Lewis告訴FastCo，叫停對話的主要原因是因?yàn)閷?shí)驗(yàn)?zāi)康氖菫榱藢?shí)現(xiàn)機(jī)器人與人類之間的談判對話，而不是為了激發(fā)機(jī)器人之間的有效溝通。

雖然這一次的“Facebook機(jī)器人秘密交談”只是虛驚一場，但人工智能的高速發(fā)展所帶來的倫理思考，以及由此產(chǎn)生的人類恐慌一直存在。在馬斯克之外，著名的理論物理學(xué)家霍金也一直對人工智能的發(fā)展保持高度謹(jǐn)慎，擔(dān)心不遵循人類意愿行事的超級智能的崛起會威脅到人類。

即便如此，站隊(duì)樂觀的各行大佬同樣數(shù)量可觀。稍早前，有“谷歌大腦”之稱的該公司人工智能帶頭人Jeff Dean以及剛剛發(fā)現(xiàn)“天使粒子”的斯坦福大學(xué)理論物理學(xué)家張首晟在美國中文網(wǎng)采訪都談及過他們對于人機(jī)互動關(guān)系的終極想象。雖然立足依據(jù)不同，但他們均認(rèn)為，人工智能終將在可控的范圍之內(nèi)惠及全人類。

細(xì)思起來，人類邁進(jìn)現(xiàn)代化過程中的很多重大發(fā)現(xiàn)與研究成果都伴隨著巨大的爭議。比如，原子彈的使用在結(jié)束了一場世界大戰(zhàn)的同時，也帶來了兩座城市永久的傷痛。而我本人在幾個月前經(jīng)歷過的最大挫折，就來自于在手機(jī)APP的國際象棋游戲中對抗AI的無力感，它們的速度仿佛子彈，擊中我作為人類的脆弱尊嚴(yán)。這種感覺，被圍棋上對陣Alphago的柯潔形容為“遇見了上帝”。

不過，即便是在某些領(lǐng)域已經(jīng)猶如上帝，人工智能的整體發(fā)展依然還在初期階段。“我們現(xiàn)在拼了老命要讓AI聰明起來”，一位在Facebook從事人工智能研究的工作人員在談及此次事件時向我感嘆道：“AI還是太笨了?！?/p>

（編輯：董智杰）