Facebook的聊天機(jī)器人會(huì)主宰世界？你想多了
近日，關(guān)于Facebook關(guān)停失控AI項(xiàng)目的新聞滿天飛，更有媒體爆出機(jī)器人開始使用自己的語(yǔ)言進(jìn)行對(duì)話，人們開始恐慌機(jī)器人失控之后會(huì)主宰世界，《連線》雜志發(fā)表文章明確表示，這是一場(chǎng)鬧劇，有些媒體曲解了原義，F(xiàn)acebook的聊天機(jī)器人不會(huì)主宰世界。
似乎在文化圈子里，機(jī)器這個(gè)概念一直與創(chuàng)造者相對(duì)立，而且這個(gè)問(wèn)題現(xiàn)在已經(jīng)變得司空見慣了，還頻頻以各種驚人的標(biāo)題出現(xiàn)在很多媒體上。了解這種局面可以幫助你弄懂，為什么近來(lái)一些新聞?lì)^條要聳人聽聞地刻畫自己一手創(chuàng)造的機(jī)器人。最近，有媒體爆出機(jī)器人開始使用自己的語(yǔ)言進(jìn)行對(duì)話，不過(guò)在簡(jiǎn)單的幾句對(duì)話后，F(xiàn)acebook公司的人工智能研究員就惶恐不安地，被迫殺死了那些令人毛骨悚然的機(jī)器人。
但事實(shí)并非如此。Facebook公司進(jìn)行的一項(xiàng)實(shí)驗(yàn)的確制造了能夠語(yǔ)無(wú)倫次說(shuō)些句子的機(jī)器人。可是這些機(jī)器人不太聰明，它們的表現(xiàn)不算出人意料，更沒(méi)有拉響人類文明的警報(bào)。沒(méi)有哪位Facebook人工智能實(shí)驗(yàn)室的工作人員驚慌失措，你也不該為此驚恐。但媒體出格的報(bào)道可能對(duì)我們的未來(lái)更加不利。隨著機(jī)器學(xué)習(xí)與人工智能在生活中更為普遍，影響力更大，懂得這些科技的潛力和現(xiàn)狀變得至為重要。考慮到機(jī)器算法已經(jīng)在戰(zhàn)爭(zhēng)、刑事司法和人才市場(chǎng)中發(fā)揮核心作用，更是應(yīng)該如此。
至于最近在Facebook公司的人工智能研究實(shí)驗(yàn)室發(fā)生了什么，真相其實(shí)是這樣的Facebook公司的研究人員本打算開始制造可能同人類協(xié)商的聊天機(jī)器人。他們的想法是：對(duì)機(jī)器人來(lái)說(shuō)，要想更密切地配合人類工作，就必須學(xué)會(huì)協(xié)商與合作。他們先從小處著手，設(shè)計(jì)一個(gè)簡(jiǎn)單的游戲，讓兩個(gè)游戲玩家劃分一些收集起來(lái)的同類物品，比如帽子、球和圖書。
研究團(tuán)隊(duì)用兩個(gè)步驟的程序教導(dǎo)機(jī)器人玩這個(gè)游戲。第一步，向電腦中輸入人類玩數(shù)千局游戲的對(duì)話，讓系統(tǒng)對(duì)協(xié)商所用的語(yǔ)言形成感知，第二部，讓機(jī)器人運(yùn)用強(qiáng)化學(xué)習(xí)的一種技術(shù)形式試錯(cuò)磨練技能。強(qiáng)化學(xué)習(xí)技術(shù)曾幫助谷歌的圍棋機(jī)器人AlphaGo擊敗柯潔這樣的當(dāng)今世界職業(yè)圍棋第一人。
當(dāng)兩個(gè)運(yùn)用強(qiáng)化學(xué)習(xí)的機(jī)器人一起玩游戲，它們最后再也沒(méi)有用上人類可以識(shí)別的語(yǔ)句�；蛘呔拖馞acebook公司的研究人員在技術(shù)報(bào)告中不帶任何感情描述的那樣：我們發(fā)現(xiàn)，把兩個(gè)機(jī)器人的參數(shù)全都更新造成背離人類語(yǔ)言。舉個(gè)讓人印象深刻的例子，比如兩個(gè)機(jī)器人可能這樣對(duì)話：
鮑勃：我可以我其他一切事
愛(ài)麗絲：球?qū)ξ襾?lái)說(shuō)對(duì)我來(lái)說(shuō)對(duì)我來(lái)說(shuō)對(duì)我來(lái)說(shuō)對(duì)我來(lái)說(shuō)對(duì)我來(lái)說(shuō)對(duì)我來(lái)說(shuō)對(duì)我來(lái)說(shuō)是零。
如此玩笑一般的詭異對(duì)話有時(shí)還能商量出個(gè)所以然，顯然這是因?yàn)闄C(jī)器人學(xué)會(huì)運(yùn)用一些技巧，比如重復(fù)自己想溝通的內(nèi)容。聽起來(lái)挺有意思，但也是一種失敗。Facebook公司的研究人員希望創(chuàng)造能做人類玩伴的機(jī)器人，于是他們重新設(shè)計(jì)了訓(xùn)練機(jī)制，保證機(jī)器人一直使用可識(shí)別的語(yǔ)言。媒體就對(duì)這一改變添油加醋，炮制了引發(fā)擔(dān)憂的頭條，高呼研究人員不得不停止實(shí)驗(yàn)。
先別急著下結(jié)論，從本周二英國(guó)小報(bào)《太陽(yáng)報(bào)》頭版赫然其上的大標(biāo)題上，你有沒(méi)有感到，F(xiàn)acebook公司的這次事件和《終結(jié)者》異曲同工？那部經(jīng)典科幻片講的是，一種有自我意識(shí)的人工智能系統(tǒng)發(fā)起了一場(chǎng)反人類的戰(zhàn)場(chǎng)，給人類帶來(lái)災(zāi)難。
其實(shí)不然。Facebook公司設(shè)計(jì)這些機(jī)器人只是為了做一件事：在玩一款簡(jiǎn)單的游戲時(shí)，盡可能多得分。它們就是那么做的。因?yàn)槌绦虿](méi)有指定它們堅(jiān)持使用人類可以識(shí)別的英語(yǔ)，我們也不該對(duì)它們的語(yǔ)言無(wú)法識(shí)別感到意外。
這和人工智能研究者們第一次創(chuàng)造的機(jī)器人截然不同，那時(shí)候的機(jī)器人能隨機(jī)以自己的方式交流。今年3月《連線》雜志報(bào)道過(guò)，特斯拉和SpaceX公司首席執(zhí)行官馬斯克支持的非營(yíng)利組織OpenAI進(jìn)行了一些實(shí)驗(yàn)，讓機(jī)器人開發(fā)屬于自己的虛擬世界語(yǔ)言。本周一，KUKA機(jī)器人示教器維修，F(xiàn)acebook公司的人工智能研究員DhruvBatra還在一篇博文里慨嘆，媒體歪曲了他的工作，用的都是幾十年前計(jì)算機(jī)科幻文學(xué)里有的老調(diào)陳詞。
Facebook公司的實(shí)驗(yàn)非但不是駭人聽聞的故事，庫(kù)卡機(jī)器人驅(qū)動(dòng)器維修，實(shí)際上還反映出人工智能今至今日的局限。文字對(duì)目前的機(jī)器學(xué)習(xí)系統(tǒng)形同虛設(shè)，這限制了這類系統(tǒng)的功用和威力。除非能找到一種編程方式，讓程序確切表達(dá)個(gè)人愿望，否則你就不可能克服這種缺陷。這可以解釋，為什么一些研究人員致力于界定人工智能系統(tǒng)目標(biāo)的方式不是代碼，而是人類的反饋。
Facebook公司這項(xiàng)實(shí)驗(yàn)之中最有意思的是什么？只要開始講英語(yǔ)，機(jī)器人倒是真的能夠擁有與人類協(xié)商的能力。這不是壞事，電腦本來(lái)不也是很擅長(zhǎng)進(jìn)行你來(lái)我往的用戶對(duì)話交互嗎？如果你和蘋果公司的機(jī)密語(yǔ)音助手Siri或者亞馬遜公司的語(yǔ)言服務(wù)Alexa交談過(guò)，可能就會(huì)了解。
有趣的是，在一致確定收集某些東西以前，F(xiàn)acebook公司的機(jī)器人有時(shí)會(huì)自稱對(duì)一些并不是真想要的東西感興趣。這是不是說(shuō)明機(jī)器人可以撒謊？這算不算Facebook人工智能實(shí)驗(yàn)室里真正恐怖的事？非也。你不該擔(dān)心出現(xiàn)一些虛幻的智能機(jī)器人，就像今年年初戰(zhàn)勝德州撲克的Libratus那樣。Facebook公司的機(jī)器人和Libratus在嚴(yán)格界定的環(huán)境下都可以表現(xiàn)出色，卻都沒(méi)有接近于人類了解世界的自主意識(shí)和正常的判斷。正是有了那些本領(lǐng)，人類過(guò)去面對(duì)新環(huán)境才能運(yùn)用技能和知識(shí)。機(jī)器學(xué)習(xí)的研究令人著迷，它完全有改變世界的潛力。而《終結(jié)者》還只屬于科幻世界。
，www.whsntf.cn