網(wǎng)絡(luò)犯罪分子也喜歡用人工智能，部門機(jī)構(gòu)挑戰(zhàn)升級
一直以來，金融機(jī)構(gòu)都和網(wǎng)絡(luò)犯罪處于長期拉鋸中，而人工智能技術(shù)可能讓戰(zhàn)事升級。
人工智能技術(shù)正在幫助銀行的網(wǎng)絡(luò)安全團(tuán)隊洞察并處理違規(guī)行為。不過，人工智能也會創(chuàng)造出新的系統(tǒng)漏洞，這是由于機(jī)器被賦予控制權(quán)的同時也為發(fā)生錯誤和偽造行為提供了機(jī)會。從另一個角度來看，庫卡機(jī)器人何服電機(jī)維修，人工智能還可以提升攻擊者的工作效率。例如，在去年發(fā)生的那起黑客攻擊事件中，Petya惡意軟件就利用人工智能來識別漏洞，可以每秒掃描數(shù)百萬個端口來發(fā)現(xiàn)攻擊的突破口。
「人工智能是一把錘子，可以用來行善，也可用來作惡，」普華永道合伙人、負(fù)責(zé)人兼網(wǎng)絡(luò)安全和隱私部門負(fù)責(zé)人JimFox說道，「如果你的對手有一把錘子，你最好也有一把�！�
人工智能軟件能夠監(jiān)視所有的網(wǎng)絡(luò)活動，并快速辨別出可能出現(xiàn)違規(guī)的行為模式。隨著時間的推移，人工智能系統(tǒng)可以辨別出常規(guī)模式中真正的可疑行為，哪怕這種模式在之前從未被標(biāo)記過。
去年的Petya惡意軟件攻擊是「以機(jī)器的速度」在做決策，一位網(wǎng)絡(luò)安全專家說道，庫卡機(jī)器人，「沒有人指導(dǎo)這個惡意軟件。他們編寫了一個智能程序來完成所有的工作�！�
紐約投資銀行Greenhill&Co.的首席信息官JohnShaffer找到了一個更好的方式來應(yīng)對零日漏洞攻擊（zero-dayattack）。
「我們現(xiàn)在處理的大多數(shù)攻擊事件都不是通過傳統(tǒng)工具解決的，比如基于簽名的防病毒軟件，或者其它與簽名有關(guān)的東西。」Shaffer說道，「真正的攻擊程序知道如何對付這些工具。真正有趣的是嘗試找出那些聰明的程序在做什么。這就是機(jī)器學(xué)習(xí)和人工智能發(fā)揮作用的地方�！�
Shaffer安裝了Vectra公司基于人工智能的系統(tǒng)，該系統(tǒng)可以監(jiān)管Greenhill公司所有的網(wǎng)絡(luò)流量。它能夠發(fā)現(xiàn)那些標(biāo)準(zhǔn)入侵檢測軟件看不到的異常，他解釋說。基于人工智能或增強(qiáng)型網(wǎng)絡(luò)安全產(chǎn)品的供應(yīng)商還包括IBM、Darktrace、FireEye和McAfee。
在Shaffer部署這個軟件時，系統(tǒng)立即發(fā)現(xiàn)了銀行網(wǎng)絡(luò)中一些奇怪的流量模式，而在這之前，這些工作是由公司自己的漏洞掃描器負(fù)責(zé)。
「對很多系統(tǒng)來說，這就像是有人在掃描你的網(wǎng)絡(luò)，」Shaffer說道。
Vectra的軟件并不像絕大多數(shù)的安全系統(tǒng)那樣會發(fā)出大量警告，一天的發(fā)送量在10條左右。同時無需人工編寫規(guī)則，而是系統(tǒng)自己去學(xué)習(xí)正常行為和違規(guī)行為之間的差異，這為網(wǎng)絡(luò)安全人員節(jié)省了大量的時間和精力。
人工智能的黑暗面
美國情報界對人工智能的使用憂心忡忡：人工智能不僅會增加網(wǎng)絡(luò)攻擊漏洞、增加事故發(fā)生的風(fēng)險，還能催生外國組織利用技術(shù)升級武器和情報系統(tǒng)，同時加重了私營部門和金融機(jī)構(gòu)擔(dān)負(fù)的責(zé)任。
「美國政府已經(jīng)表示，如果一切都由機(jī)器運作而不再有人為干預(yù)，那么人工智能就是我們的全部執(zhí)法力量、一切人類事務(wù)的總把關(guān)人，」多倫多公司DuhaimeLaw一位律師Christine說道，「所以，我們的互聯(lián)性越強(qiáng)，使用系統(tǒng)判定安全性、良性或惡性的比例就越高，系統(tǒng)就會越容易受到攻擊，因為我們竟然指望系統(tǒng)能夠比想要傷害我們的外國黑客更聰明且更優(yōu)秀�！�
她還指出，政府擔(dān)心人工智能可能會增加事故發(fā)生的風(fēng)險，并大幅增加私營部門和金融機(jī)構(gòu)肩負(fù)的責(zé)任。換句話說，系統(tǒng)的自行決策程度越高，就越有可能犯下一個難以挽回的大錯誤。
「例如，系統(tǒng)搞錯了付款對象，而那個人已經(jīng)走了，或者是顛倒了一群交易對象，或是將100萬美元付給了1000個人，」Duhaime說道，「如果系統(tǒng)遭到大規(guī)模曝光，那么很多人的個人信息將被不法分子利用，可能面臨被勒索的威脅。具有超強(qiáng)計算能力的流氓軟件會解碼我們的系統(tǒng)，而且能夠?qū)ξ覀兊年P(guān)鍵金融基礎(chǔ)設(shè)施實施各種破壞性行為。從歷史的角度看，私營部門從未在網(wǎng)絡(luò)安全方面投入足夠多的資金�？墒侵挥羞@么做，才能發(fā)現(xiàn)漏洞�！�
鑒于網(wǎng)絡(luò)犯罪分子使用人工智能的現(xiàn)實，私營部門更有理由以其之道防患于未然，普華永道的Fox在援引Petya的例子時說到�！高@些決策是以機(jī)器的水準(zhǔn)和速度制定的，」他說，「沒有人指導(dǎo)這個惡意軟件。他們編寫了一個智能程序來完成所有的工作�！�
有一家銀行配備了強(qiáng)大的網(wǎng)絡(luò)安全系統(tǒng)和人工智能工具，卻在兩分鐘內(nèi)被Petya感染了14000臺機(jī)器。Fox說：「人工智能系統(tǒng)在五分鐘內(nèi)便通知到網(wǎng)絡(luò)安全團(tuán)隊，庫卡機(jī)器人何服電機(jī)維修，報告了一些可能帶有惡意的異常事件，并做了鎖定和關(guān)閉所有機(jī)器的決策�！�
罪犯如何使用人工智能
McAfee公司首席技術(shù)官SteveGrobman也指出，新技術(shù)的出現(xiàn)會引來守法者，也會招致網(wǎng)絡(luò)罪犯。
「金融領(lǐng)域有如此多網(wǎng)絡(luò)犯罪的原因在于，這是一個非常有效且低風(fēng)險的偷錢方法，罪犯只會遭到逮捕和起訴。」Grobman說，McAfee正在學(xué)習(xí)「對抗性機(jī)器學(xué)習(xí)技術(shù)」。
「我們正在研究惡意軟件究竟是如何對模型產(chǎn)生不良影響�！顾忉尩�，騙子們可能會把經(jīng)過專門制作的數(shù)據(jù)引入到數(shù)據(jù)集中，這樣模型在未來查看數(shù)據(jù)時就更難發(fā)現(xiàn)它的問題。
或者，他們可能會向輸入數(shù)據(jù)集中添加噪聲或虛假信號，從而使提取真實信號的過程變得更加困難。
「如果你成功令防衛(wèi)系統(tǒng)頻繁誤報，網(wǎng)絡(luò)安全人員將不得不重新調(diào)整其模型，」Grobman說。他做了一個比喻：如果一個小偷想闖入一個有警報系統(tǒng)的房子，他可能會在每晚11點鐘騎車經(jīng)過房子，故意激活警報。幾周后，房主會對這個警報系統(tǒng)厭倦，不是校準(zhǔn)警報系統(tǒng)的敏感度，就是把這個系統(tǒng)系統(tǒng)關(guān)掉。這時，小偷就有了可乘之機(jī)。
惡意軟件也開始使用人工智能來自動化先前人類的工作，Grobman說。例如，利用電郵或社交媒體搜索的歷史記錄，人工智能可以生成千人千面的魚叉式網(wǎng)絡(luò)釣魚郵件，即黑客會偽裝成接收者認(rèn)識的人并向其發(fā)送電子郵件來套取密碼等信息。
他補(bǔ)充道：「人類無需為每個人量身定制內(nèi)容，軟件可以自動創(chuàng)造出適合每一個人的內(nèi)容，從而可以提高受害者的轉(zhuǎn)化率�！�
Grobman對政府面向人工智能的警告感慨萬千。