當(dāng)我們所處的世界自動(dòng)化程度越來越高時(shí)，如何讓人工智能和機(jī)器人與我們和諧共處？加州大學(xué)伯克利分校的答案是：他們將于本周成立一家新的人工智能中心，探索如何讓機(jī)器人與人類和諧共處。據(jù)悉，該中心主任將由AI專家StuartRussell擔(dān)任，KUKA機(jī)器人維修，Russell是伯克利的電機(jī)工程和電腦科學(xué)教授，他擁有Smith-Zadeh工程學(xué)講座教授頭銜，也是《人工智能：一種現(xiàn)代的方法》的合作者。這本書是人工智能領(lǐng)域的標(biāo)桿，它提倡將人類的價(jià)值觀融入AI設(shè)計(jì)中去。
據(jù)了解，這一中心高手如云，科研實(shí)力雄厚，KUKA機(jī)器人示教器維修，其中包括來自伯克利分校的PieterAbbeel,AncaDragan和認(rèn)知科學(xué)家TomGriffiths，康奈爾大學(xué)的計(jì)算機(jī)科學(xué)家BartSelman和JosephHalpern，密歇根大學(xué)的AI專家MichaelWellman和SatinderSinghBaveja。Russell表示，未來希望有來自經(jīng)濟(jì)學(xué)、哲學(xué)和其他社會(huì)科學(xué)領(lǐng)域的專家加盟，而這個(gè)研究中心的主要目標(biāo)是確保AI系統(tǒng)對(duì)使人類社會(huì)受益。另外，中心獲得了來自O(shè)penPhilanthropyProject的550萬啟動(dòng)資金，同時(shí)還獲得了LeverhulmeTrust和FutureofLifeInstitute的研究贊助金。
Russel以專家的姿態(tài)，迅速瓦解了人們對(duì)科幻大片中有感知的、邪惡的機(jī)器人可能產(chǎn)生的威脅。他認(rèn)為，我們現(xiàn)在在AI、機(jī)器人、控制理論和運(yùn)籌研究領(lǐng)域研發(fā)的機(jī)器人，完全出自人類之手。如果你讓家用機(jī)器人清理浴缸，它或許會(huì)像穿《戴帽子的貓》中的貓那樣，不知道一件干凈的白裙子的價(jià)值比干凈的浴缸大，機(jī)器人維修，從而用媽媽的白裙子去擦拭浴缸。也就是說，目前，AI的設(shè)計(jì)沒有與人類的價(jià)值觀達(dá)成一致。而這個(gè)研究中心會(huì)用最先進(jìn)的AI系統(tǒng)，為數(shù)百億人提供必要的服務(wù)。他還表示，AI系統(tǒng)必須受人掌控，對(duì)行為要有明確的限制，盡管它們最終可能會(huì)擁有一些人類無法企及的能力。
目前，Russell和其他專家正在研發(fā)的是逆向增強(qiáng)學(xué)習(xí)，在這個(gè)過程中機(jī)器人會(huì)通過觀察人類的行為，學(xué)習(xí)人類的價(jià)值觀。比如，通過觀察人們?cè)缟掀鸫驳耐纯嘁约捌鸫埠筚M(fèi)勁千辛萬苦做一杯拿鐵，機(jī)器人會(huì)認(rèn)識(shí)到對(duì)人而言，清晨的一杯咖啡存在的意義。
在算法中直接植入某些價(jià)值觀是萬萬不可取的，Russell說，機(jī)器人要通過觀察學(xué)習(xí)人類的價(jià)值觀。除了觀察外，閱讀也是個(gè)重要的途徑。提供給機(jī)器人的所有文字都是關(guān)于人類如何做事以及其他人的看法。
然而，Russel和他的同事們都知道，在AI領(lǐng)域，他們依然任重道遠(yuǎn)。人們有種各種不同的價(jià)值觀，因此如果要將所有價(jià)值觀都實(shí)現(xiàn)，是無法做到的，他承認(rèn)。不同的價(jià)值觀促使機(jī)器人嘗試?yán)斫馕覀兿Ｍ鼈冏龅氖�，并學(xué)會(huì)在個(gè)體之間斡旋。
另外，Russel最近寫了篇文章，叫《它們會(huì)讓我們成為更好的自己嗎》。他于文中得出的結(jié)論是：AI將與人類價(jià)值觀達(dá)成一致，而這個(gè)過程會(huì)讓我們對(duì)自己的所作所為產(chǎn)生更好認(rèn)知。另外，我們或許應(yīng)該認(rèn)識(shí)到我們與來自其他文化背景的人們存在更多的相似之處。