如今，即使是像自動(dòng)駕駛汽車那樣用有功能算力的智能系統(tǒng)，也可能被蒙騙，以至于把胡亂的涂鴉誤以為是火車、柵欄或校車。
人們普遍認(rèn)為，人們無法理解計(jì)算機(jī)怎么會(huì)被那些圖像騙過的，但在一項(xiàng)新的研究中，約翰霍普金斯大學(xué)的研究人員發(fā)現(xiàn)，實(shí)際上同樣的圖像很多人看到的跟計(jì)算機(jī)并無二致。
這些發(fā)現(xiàn)表明，現(xiàn)代計(jì)算機(jī)可能并沒有我們想象的那么不同于人類，同時(shí)也說明人工智能的進(jìn)步正在不斷縮小人類與機(jī)器在視覺能力上的差距。這項(xiàng)研究最近發(fā)表在《自然通訊》科學(xué)雜志上。
“大多數(shù)時(shí)候，我們這個(gè)領(lǐng)域的研究都是關(guān)于使得計(jì)算機(jī)像人一樣思考，www.whsntf.cn，”資深作者、約翰霍普金斯大學(xué)心理和腦科學(xué)系助理教授查茲·費(fèi)爾斯通（Chaz Firestone）說道，“我們的項(xiàng)目則恰恰相反——我們在問人們是否能像計(jì)算機(jī)一樣思考。”
四張抽象的圖片。你知道人工智能從中看出些什么嗎？從左到右，計(jì)算機(jī)將上面的四張圖分別誤以為是數(shù)字時(shí)鐘、縱橫拼字謎、國王企鵝和突擊步槍。
對(duì)人類來說輕而易舉的事情，對(duì)計(jì)算機(jī)來說往往是棘手的。長期以來，人工智能系統(tǒng)在做數(shù)學(xué)計(jì)算或記憶大量信息方面一直比人類出色，但幾十年來，人類在識(shí)別狗、貓、桌子或椅子等日常物體方面則一直占據(jù)優(yōu)勢。然而，最近，模仿大腦的“神經(jīng)網(wǎng)絡(luò)”已經(jīng)接近人類識(shí)別物體的能力，從而帶來了技術(shù)進(jìn)步，推動(dòng)自動(dòng)駕駛汽車、人臉識(shí)別程序以及幫助醫(yī)生發(fā)現(xiàn)放射掃描圖像中的異常狀況的人工智能系統(tǒng)的發(fā)展。
但即使有了這些技術(shù)進(jìn)步，也存在一個(gè)關(guān)鍵的盲點(diǎn)：圖像有可能被故意做手腳，使得神經(jīng)網(wǎng)絡(luò)無法正確識(shí)別。這些圖片，被稱為對(duì)抗性的或愚弄性的圖片，是一個(gè)大問題。它們不僅可能為黑客所利用，從而造成安全風(fēng)險(xiǎn)，它們的存在也表明，同樣的圖像人類和機(jī)器實(shí)際上看到的東西卻全然不同。
在某些情況下，只需要重新配置一兩個(gè)像素，計(jì)算機(jī)就能把蘋果看成車輛。在其他的情況下，對(duì)于毫無意義的電視畫面，機(jī)器看到的卻是犰狳或百吉餅。
“這些機(jī)器如此錯(cuò)誤識(shí)別物體，人類則似乎絕不會(huì)那么離譜。”費(fèi)爾斯通指出，“但令人驚訝的是，沒有人真正檢驗(yàn)過這一點(diǎn)。我們怎么知道人們看不出計(jì)算機(jī)看出的東西呢？”
四個(gè)抽象圖像。計(jì)算機(jī)以為上面的圖像(從左至右)分別是電吉他、非洲灰鸚鵡、草莓和孔雀。
為了檢驗(yàn)這一點(diǎn)，費(fèi)爾斯通和約翰霍普金斯大學(xué)認(rèn)知科學(xué)專業(yè)大四學(xué)生周正龍(Zhenglong Zhou音譯)讓人們“像機(jī)器一樣思考”。機(jī)器只有相對(duì)較小的詞匯量來描述圖像中的東西。因此，費(fèi)爾斯通和周正龍向人們展示了幾十張已經(jīng)騙過計(jì)算機(jī)的圖片，并給人們提供了與計(jì)算機(jī)一樣的標(biāo)簽選項(xiàng)。他們問人們，在兩種物體識(shí)別結(jié)果中計(jì)算機(jī)選定了哪一種——一種是計(jì)算機(jī)的真實(shí)結(jié)論，另一種是胡亂捏造的答案。圖片中那團(tuán)難以名狀的東西是面包圈還是風(fēng)車？事實(shí)證明，人們很大程度上都猜對(duì)了計(jì)算機(jī)做出的識(shí)別結(jié)果。
在75%的情況下，人們選擇的答案與計(jì)算機(jī)的識(shí)別結(jié)果一致。或許更值得注意的是，98%的人傾向于像計(jì)算機(jī)那樣回答問題。
接下來，研究人員更進(jìn)一步，讓人們在計(jì)算機(jī)最喜歡的答案和它的次優(yōu)猜測之間做出選擇；例如，圖片中那團(tuán)難以名狀的東西是百吉餅還是脆餅干？人們再次驗(yàn)證了計(jì)算機(jī)的選擇，91%的受試者選到了計(jì)算機(jī)的第一選擇。
即便是研究人員讓人們在48個(gè)選項(xiàng)中猜測圖片中的物體是什么，而且這些圖片看起來像靜態(tài)的電視畫面，絕大多數(shù)的受試者也選擇了機(jī)器所選的選項(xiàng)。在不同的實(shí)驗(yàn)中，共有1800名受試者接受了測試。
“我們使用的神經(jīng)網(wǎng)絡(luò)模型可以很大程度上模仿人類的行為，但我們正在研究的現(xiàn)象被認(rèn)為是該模型的一個(gè)關(guān)鍵缺陷。”認(rèn)知科學(xué)與數(shù)學(xué)專業(yè)學(xué)生周正龍表示，“我們的研究能夠提供證據(jù)，證明這一缺陷可能并不像人們想象的那么糟糕。它提供了一個(gè)新的視角，以及一個(gè)可以探索的新的實(shí)驗(yàn)范式。”
周正龍打算在認(rèn)知神經(jīng)科學(xué)領(lǐng)域追求自己的事業(yè)，他從去年年初開始與費(fèi)爾斯通一起展開這項(xiàng)研究。他們共同設(shè)計(jì)了研究，改進(jìn)了方法，并為論文做了結(jié)果分析。
“約翰霍普金斯大學(xué)為本科生提供了大量的研究機(jī)會(huì)，機(jī)器人維修，但不同實(shí)驗(yàn)室的研究經(jīng)歷可能有所不同，這要看導(dǎo)師。”他說，“我的研究經(jīng)歷非常寶貴。通過單獨(dú)與費(fèi)爾斯通博士共事，我學(xué)到了很多東西——不僅僅是關(guān)于實(shí)驗(yàn)設(shè)計(jì)，還有論文發(fā)表過程，www.whsntf.cn，以及在學(xué)術(shù)環(huán)境中進(jìn)行完完整整的研究需要做些什么。”