真真假假：在人類社會(huì)中人工智能如何防止被騙
人工智能能夠準(zhǔn)確識(shí)別圖像中的物體，或者聽(tīng)懂人類所表達(dá)的語(yǔ)言，但它的計(jì)算程序并不像人腦那樣運(yùn)作這意味著人工智能不會(huì)像人類一樣可以防止受到欺騙。
據(jù)新科學(xué)家雜質(zhì)報(bào)道，來(lái)自以色列巴伊蘭大學(xué)和Facebook的人工智能團(tuán)隊(duì)的研究人員已經(jīng)證明，有可能對(duì)音頻片段進(jìn)行細(xì)微的調(diào)整，人類能夠聽(tīng)懂，但是人工智能卻能識(shí)別出完全不一樣的聲音。這種方法的原理是在一個(gè)聲音片段中加入一層分貝較小的噪音，這個(gè)聲音片段與眾不同，它能模仿神經(jīng)網(wǎng)絡(luò)并和其他語(yǔ)音融合在一起。
該團(tuán)隊(duì)將這個(gè)新算法程序命名為霍迪尼，并將它應(yīng)用到一系列音頻片段中，然后通過(guò)谷歌語(yǔ)音進(jìn)行轉(zhuǎn)錄。一個(gè)原始聲音片段是：Herbearingwasgracefulandanimatedsheledhersonbythehandandbeforeherwalkedtwomaidswithwaxlightsandsilvercandlesticks.
她牽著兒子的手，舉止優(yōu)雅，充滿活力。兩個(gè)女仆走在她前面，手里拿著蠟燈和銀燭臺(tái)。
當(dāng)這一原創(chuàng)內(nèi)容通過(guò)谷歌語(yǔ)音轉(zhuǎn)錄時(shí)，它成了：Thebearingwasgracefulananimatedshelethersonbythehandandbeforehewalkstwomaidswithwaxlightsandsilvercandlesticks.
通過(guò)聽(tīng)力測(cè)試，被改編的版本與人耳所聽(tīng)到的并沒(méi)有區(qū)別，機(jī)器人維修，它被轉(zhuǎn)錄為：
MarywasgratefulthenadmittedshelethersonbeforethewalkstoMayswouldlikeslicefurnacefiltercountsix.
該團(tuán)隊(duì)的成就也可以應(yīng)用于其他機(jī)器學(xué)習(xí)的算法程序中。對(duì)人的圖像進(jìn)行調(diào)整，可能會(huì)讓人工智能的算法程序發(fā)生錯(cuò)亂，人工智能會(huì)將一個(gè)擺pose的人誤認(rèn)為這個(gè)人站錯(cuò)了位置。通過(guò)在馬路場(chǎng)景的圖像中添加噪聲，該團(tuán)隊(duì)能夠騙過(guò)汽車(chē)應(yīng)用程序的人工智能算法程序。這個(gè)算法程序通常是用來(lái)對(duì)路況和路標(biāo)進(jìn)行分辨的。這些基于圖像的研究結(jié)果，與去年由OpenAI和谷歌大腦的機(jī)器學(xué)習(xí)機(jī)構(gòu)的研究人員發(fā)布的研究結(jié)果相似。
這些所謂的對(duì)抗樣本似乎是一個(gè)奇怪的研究領(lǐng)域，但它們可以用來(lái)對(duì)機(jī)器學(xué)習(xí)算法進(jìn)行壓力測(cè)試。更令人擔(dān)憂的是，它們也可以被惡意利用，誘使人工智能聽(tīng)聞一些根本不存在的東西例如，讓自動(dòng)駕駛汽車(chē)在路上看到虛假的交通路況，或者讓智能語(yǔ)音提醒聽(tīng)到假的指示信息。當(dāng)然，KUKA機(jī)器人電路板維修，實(shí)際上，在實(shí)際生活中運(yùn)用這些技術(shù)，和在實(shí)驗(yàn)室里做實(shí)驗(yàn)是完全不同的兩碼事。不僅僅是因?yàn)楂@取數(shù)據(jù)是一個(gè)棘手的問(wèn)題。
也許最有趣的便是找到一種方法來(lái)保護(hù)人工智能不受困擾，但這其實(shí)也是相當(dāng)困難的。正如我們?cè)谶^(guò)去所解釋的那樣，工業(yè)機(jī)器人維修，我們無(wú)法真正理解深層神經(jīng)網(wǎng)絡(luò)的內(nèi)部如何運(yùn)作，這意味著我們不知道為什么人工智能會(huì)感受到聲音片段或圖像中的細(xì)微變化。在我們做到這一點(diǎn)之前，對(duì)人工智能算法來(lái)說(shuō)，對(duì)抗樣本將一直存在。