Uber軟件工程師：個人推動歷史，AI奇點必定到來
谷歌AI研究員、Keras創(chuàng)建者FrancoisChollet的一篇有關(guān)人工智能發(fā)展的文章引起了熱議。簡單來說，他認為可能導(dǎo)致奇點產(chǎn)生的智能爆炸是不可能不發(fā)生的。因為智能的發(fā)展要受到很多環(huán)境因素的制約，使得其發(fā)展趨勢只能接近于線性的速度，并且用跟智能最接近的科學(xué)的發(fā)展軌跡作為佐證。這篇文章以文明作為智能載體等立論觀點十分新穎，給人留下了深刻印象。但是也有人提出了不同的意見，比方說Uber軟件工程師FlorentCrivello就是其中的一位。他反對的理由主要是1）我們的發(fā)展已經(jīng)呈指數(shù)性；2）推動歷史向前的是個人；3）大腦是智能發(fā)展的瓶頸；4）AI的擴張方式是人沒法做到的。按照這樣推斷，AI的爆炸是有可能發(fā)生的。你以為如何呢？
Fran?oisChollet寫了一篇《智能不會爆炸》。以下是那篇文章的摘要，不過我鼓勵你真的應(yīng)該全文通讀一遍：
智能是情景化的并不存在一般智能這樣的東西。你的大腦是一個更大的系統(tǒng)的一部分，這個系統(tǒng)包括了你的軀體、環(huán)境、其他人以及整個文化。
沒有系統(tǒng)可以存在于真空之中；任何個體智能總要被其存在的上下文、被環(huán)境所定義和約束。目前制約我們智能的瓶頸是我們的環(huán)境而不是大腦。
人類智能基本上是外化的，主要不是包含在我們的大腦而是在我們的文明當(dāng)中。我們是我們的工具我們的大腦是比我們本身大得多的認知系統(tǒng)的模塊。這個系統(tǒng)已經(jīng)在自我改進，而且已經(jīng)進行了很長的時間。
遞歸自我改進系統(tǒng)，因為所存在的更大范疇的上下文可能會出現(xiàn)瓶頸、收益遞減、以及逆反作用，實際上無法取得指數(shù)性的發(fā)展。從經(jīng)驗來看，這種發(fā)展往往呈線性或者S曲線式的改進�？茖W(xué)進步尤其是這樣而科學(xué)也許是跟我們觀察的遞歸自我改進系統(tǒng)最接近的一個了。
遞歸智能拓展已經(jīng)在發(fā)生不過是在我們的文明這個層面上進行的。這個進程會在AI時代繼續(xù)，而且是以大致線性的節(jié)奏進行的。
我認為那篇文章有好幾個觀點都非常出色我很喜歡文明作為外部腦皮層的想法但是其中的一些觀點我有不同看法，或者認為那些情況仍然允許未來智能爆炸的可能性存在。以下是我的看法。
1、我們的發(fā)展已經(jīng)呈指數(shù)式
FranoisChollet寫道：
這種情況下你也許會問，難道文明本身不是自我改進大腦的逃逸手段嗎？我們的文明難道沒有出現(xiàn)智能爆發(fā)嗎？沒有，關(guān)鍵是文明級的智能改進循環(huán)僅僅導(dǎo)致了我們的問題解決能力的，可測量的、線性的進展。并沒有出現(xiàn)爆發(fā)的現(xiàn)象。
這個我不同意，我認為我們的發(fā)展已經(jīng)呈現(xiàn)出指數(shù)性了，在很多指標(biāo)上都是。
下面這張圖反映的是全球的歷史人口發(fā)展情況（盡管有人會說這個很快就會變成S曲線，因為全球的嬰兒潮高峰期已過）：
下面這張是全球人均GDP的歷史沿革，按1990年代美元匯率換算：
記住，這可是人均值，所以這條曲線代表的是生產(chǎn)力本身的增長情況而不是人口的發(fā)展情況。而且這個時間跨度是很小的！相對于超過1萬年的人類文明史，500年的時間并不算長。
而這僅僅局限在人類身上，而人類在宇宙的宏偉計劃中還是一個非常新的現(xiàn)象。你可能已經(jīng)聽說過CarlSagan的宇宙歷，它把宇宙的年表從138億年壓縮到了一年。在這條時間線上，生命直到9月21號才出現(xiàn)，而12月5號才出現(xiàn)多細胞生物，到了12月31日晚上11:52之前才有了解剖學(xué)意義上的現(xiàn)代人。被許多歷史學(xué)家認為是人類文明開始的農(nóng)業(yè)，直到晚上11點59分32秒才開始。
在《量化宏觀史（quantitativemacrohistory）》中，LukeMuehlhauser寫道：
我對有記錄的人類史的一句話概括就是：很長一段時間內(nèi)的一切都非常糟糕，然后就發(fā)生了工業(yè)革命。
在宇宙歷中，工業(yè)革命直到午夜降臨的570毫秒之后才開始。
所以，當(dāng)然了，如果你是從個人的時間尺度上來看待這一切的話，事情的發(fā)展速度似乎非常緩慢。但是，請記住：我們看到有任何的發(fā)展都是奇跡！如果一個人可以穿越并且能夠表現(xiàn)正常的話，你會看到在人類的大部分歷史當(dāng)中上下100年間幾乎都沒有什么差別（除了那些朋克系頭發(fā)用的是2根而不是3根骨頭）。
總結(jié)一下：在宇宙這個宏大的時間尺度上，在很長一段時間內(nèi)都沒有發(fā)生任何事情，然后突然之間，生命形成了。從這一點開始按照宇宙的尺度就已經(jīng)很難區(qū)分事件了，所以我們需要把這細小的時間條放大。放大后我們可以再次可以看到并沒有太多的事情發(fā)生，然后突然之間，包括猿猴在內(nèi)的哺乳動物出現(xiàn)了。進一步放大，還是沒有太多的事情發(fā)生，然后人類文明出現(xiàn)了！再放大，事情也還不多，然后就冒出了工業(yè)革命！
知道我想說什么了吧：我不僅認為會出現(xiàn)奇點，而且認為我們已經(jīng)生活在奇點里面了。
如果有那么一個計算的奇點的話，那么對我們而言的幾千年時間對于那些機器而言就好像是幾個納秒而已，那么它們不僅會把我們的人類史，甚至我們的現(xiàn)代史都總結(jié)為沒什么事情發(fā)生，然后種子AI出現(xiàn)了。我們的你能想象地球在形成任何生命前居然活了六億年嗎？將會是他們的你能想象他們曾經(jīng)每天睡8個小時嗎？，8小時對他們來說就已經(jīng)是漫長得不可估量的，就好像有6億年對我們而言是地老天荒一樣。
（我意識到自己已經(jīng)把我們完全陌生的實體過于人格化了，但這是有趣的做法，你明白我的意思就行了。）
2、推動歷史向前的是個人
Chollet寫道（粗體是我的強調(diào)）：
個人本身并沒有太多的用處再強調(diào)一次，人不過是用雙腳走路的猿罷了。是幾千年以來不斷積累的知識和外部系統(tǒng)，也就是所謂的文明，讓我們超越了動物性。當(dāng)科學(xué)家取得突破時，其大腦進行的思考過程只不過是方程式的一小部分罷了研究人員把大量的問題解決過程都交給了計算機、其他研究人員、論文筆記、以及數(shù)學(xué)符號等。他們之所以能夠取得成功，是因為他們站在了巨人的肩膀上。他們自己的工作不過是成千上萬人在幾十年的時間跨度內(nèi)進行的問題解決過程的最后一個子程序罷了。他們自己的認知工作的重要性可能并不比芯片上的一個晶體管的工作大多少。
我對站在巨人的肩膀上的觀點不是很認同，尤其是在被用來淡化個人的重要性的時候。從某種程度上來說這是對的：我們利用了之前文明所取得的進展，從而可以繼續(xù)推動文明的進步。
但是，我們大家都是站在巨人的肩膀上，為什么我們當(dāng)中卻沒有幾個人取得了任何值得注意的成就呢？難道這只是跟運氣和環(huán)境有關(guān)，或者正好在合適的時間處在了合適的地點嗎？
我認為環(huán)境固然重要，但卻不是主要因素。再次地，當(dāng)科學(xué)家取得其中一些最偉大的發(fā)現(xiàn)時，很多人無疑也是處在合適的環(huán)境下的，機器人維修，而且往往比最終取得突破的研究人員所處的環(huán)境還要好得多。愛因斯坦就是典型例子：呆在瑞士專利局的一個小職員怎么會是那個發(fā)現(xiàn)狹義相對論的人呢？要知道當(dāng)時拿到終身任期、有更多的時間來思考這個問題，能獲得更多的內(nèi)容、可以接觸更多的智囊進行交流，有時候還可以支配整個團隊和實驗室的人多了開去了，為什么是他發(fā)現(xiàn)了相對論呢？
牛頓也有著著名的奇跡之年，當(dāng)他發(fā)現(xiàn)引力定理并且發(fā)明了微積分時，為了避免鼠疫肆虐，他還被困在父母所在的鄉(xiāng)下呢。