微軟AI主管：AI最大的障礙并非技術(shù)，而是道德
據(jù)Axios報(bào)道，分管人工智能（AI）與研究業(yè)務(wù)的微軟全球執(zhí)行副總裁沈向洋（HarryShum）日前表示，AI切實(shí)地在改善科技產(chǎn)品，但真正的挑戰(zhàn)在于如何令人們信任與接受AI。
所有這些AI方面的技術(shù)進(jìn)步都很棒，產(chǎn)品也很棒但人們還是對(duì)他們存有戒心。
沈向洋是在舊金山接受Axios采訪時(shí)做出如上表述的。沈認(rèn)為，打消人們疑慮的關(guān)鍵，在于健全的道德約束以及擴(kuò)大AI運(yùn)營(yíng)的透明度，微軟正在著力推動(dòng)這兩方面的發(fā)展。
沈向洋稱(chēng)，微軟已經(jīng)內(nèi)部設(shè)立了AI道德顧問(wèn)委員會(huì)，并力圖在整個(gè)行業(yè)掀起一場(chǎng)相關(guān)議題的大討論。
對(duì)于常被科幻小說(shuō)描繪的AI超越并奴役人類(lèi)的戲碼，沈倒是并不擔(dān)心，真正讓我們?cè)谝獾氖茿I技術(shù)的實(shí)際應(yīng)用。在沈向洋看來(lái)，對(duì)AI技術(shù)未來(lái)發(fā)展最大的風(fēng)險(xiǎn)，來(lái)源于算法偏見(jiàn)，低質(zhì)量的飼料數(shù)據(jù)等等被忽視的道德問(wèn)題。
什么是算法偏見(jiàn)？
單就文化內(nèi)容的創(chuàng)造角度而言，算法偏見(jiàn)最直接的案例就是今日頭條的內(nèi)容推送。人民日?qǐng)?bào)今年9月三評(píng)今日頭條所采用的算法推薦，稱(chēng)不能讓算法決定內(nèi)容、別被算法困在信息繭房、警惕算法走向創(chuàng)新的反面，并非空穴來(lái)風(fēng)。
在互聯(lián)網(wǎng)產(chǎn)生內(nèi)容并推送到終端用戶(hù)的今天，技術(shù)、代碼、算法替代了傳統(tǒng)內(nèi)容分發(fā)過(guò)程中專(zhuān)門(mén)把關(guān)內(nèi)容的編輯。內(nèi)容能否推送、推送給誰(shuí)，都是機(jī)器說(shuō)了算，依據(jù)的標(biāo)準(zhǔn)就一條：能不能抓眼球、能不能吸引用戶(hù)點(diǎn)開(kāi)。
這種追求創(chuàng)造流量的模式最終釀成了媒體行業(yè)劣幣驅(qū)逐良幣的現(xiàn)實(shí)，單一的標(biāo)準(zhǔn)不僅容易忽視優(yōu)質(zhì)內(nèi)容更為豐富的面向和維度，也增加了把關(guān)內(nèi)容產(chǎn)品的難度和成本。即使事后不斷處罰違規(guī)的內(nèi)容賬號(hào)，在利益驅(qū)動(dòng)下也無(wú)法停止劣質(zhì)內(nèi)容的再次生長(zhǎng)。
低質(zhì)量的飼料數(shù)據(jù)可能將AI帶入歧途
去年3月，微軟在推特上推出的一款在線(xiàn)聊天人工智能Tay，最初設(shè)計(jì)是用來(lái)和年輕人自然交流，并在與人交互中學(xué)習(xí)與完善自身的語(yǔ)言架構(gòu)。
但是在上線(xiàn)后，Tay很快被人發(fā)現(xiàn)其學(xué)習(xí)算法的弱點(diǎn)，被灌輸以大量不良內(nèi)容。結(jié)果是，Tay開(kāi)始面向數(shù)百萬(wàn)粉絲發(fā)出帶有不當(dāng)內(nèi)容的推文。
Tay帶有不當(dāng)內(nèi)容的推文來(lái)源：推特
在被問(wèn)及這一事件時(shí)，沈向洋表示，
這是第一次也希望是唯一一次我得向全公司發(fā)出公開(kāi)信并致歉。這確實(shí)是我和我的團(tuán)隊(duì)的錯(cuò)誤所致公司內(nèi)外的很多人都問(wèn)，為什么你們的中文或日文聊天機(jī)器人不會(huì)出這個(gè)問(wèn)題呢？
每個(gè)社會(huì)都是不同的，庫(kù)卡機(jī)器人何服電機(jī)維修，我們本應(yīng)該將這種文化敏感性納入考量。
AI道德架構(gòu)的形成，應(yīng)該讓科技巨頭們牽頭嗎？
在被問(wèn)及未來(lái)AI產(chǎn)品是否應(yīng)該被納入監(jiān)管時(shí)，沈向洋表示，
對(duì)于監(jiān)管部門(mén)應(yīng)該多快參與進(jìn)來(lái)我并沒(méi)有什么成型的想法我覺(jué)得應(yīng)該由行業(yè)內(nèi)部像我們[微軟](méi)這樣的科技龍頭企業(yè)牽頭[探討監(jiān)管的可能性]。
然而，制訂AI的道德準(zhǔn)則架構(gòu)，機(jī)器人維修，很可能也意味著限定了未來(lái)AI行業(yè)領(lǐng)域的游戲規(guī)則。人工智能不僅對(duì)于頂級(jí)人才的研發(fā)水平提出了苛刻的要求；如果沒(méi)有海量數(shù)據(jù)的投喂，讓AI在深度學(xué)習(xí)的過(guò)程中不斷試錯(cuò)，從提供量變到產(chǎn)生質(zhì)變，就算有人才有天賦也是白搭。
字母表（谷歌母公司），亞馬遜，蘋(píng)果，F(xiàn)acebook和微軟這五大科技巨頭，還有他們的中國(guó)同行阿里、騰訊和百度，www.whsntf.cn，掌控著世界上所有最好的數(shù)據(jù)，而若讓行業(yè)自發(fā)討論與推動(dòng)AI道德的形成，也就意味著科技巨頭們不僅從源頭上控制了AI未來(lái)的發(fā)展，更可能對(duì)AI行業(yè)的準(zhǔn)入門(mén)檻和數(shù)據(jù)合規(guī)造成深遠(yuǎn)的影響。