我們周圍充斥著對于人工智能和機(jī)器人未來的歇斯底里——關(guān)于人工智能和機(jī)器人將會何等有力、何等迅速以及他們將對工作崗位造成何種沖擊。
  
  我最近在 MarketWatch 讀到一篇文章。文章講的是，在未來 10 到 20 年內(nèi)，機(jī)器人將取代一半的現(xiàn)有工作崗位。文中甚至給出了柱狀圖來證明這些數(shù)字的有效性。
  
  文章的結(jié)論太荒唐了。（我盡量使用學(xué)術(shù)語言，但有時(shí)候面對這種情況確實(shí)詞窮。）比如文章說，在未來 10 到 20 年內(nèi)，地面維修工人數(shù)量將由 100 萬名縮減到 5 萬名，因?yàn)闄C(jī)器人將會取代這些工作崗位。那現(xiàn)在這些崗位上有多少機(jī)器人在運(yùn)行？一個(gè)都沒有。這一領(lǐng)域有多少具備實(shí)用價(jià)值的演示模型機(jī)器人工作著呢？一個(gè)都沒有。還有很多類似的文章認(rèn)為，對于那些目前需要在特定場合進(jìn)行體力勞動(dòng)的崗位，超過 90% 都將會被終結(jié)。這些適用于其他所有領(lǐng)域的文章也存在同樣的問題。
  
  錯(cuò)誤的預(yù)測將導(dǎo)致我們害怕那些不會發(fā)生的事情，不論是對工作崗位的大范圍取代，奇點(diǎn)，還是與人類價(jià)值觀不同的甚至試圖毀滅人類的 AI 。對于這些錯(cuò)誤，我們需要反擊。但是，為什么人們會產(chǎn)生這些錯(cuò)誤呢？我找到了七個(gè)常見的原因。
  
  1. 高估和低估
  
  Roy Amara 是未來研究所（the Institute for the Future）的聯(lián)合創(chuàng)始人。該研究所位于 Palo Alto，也就是硅谷的智慧中心。他以現(xiàn)在被稱為 Amara 定律的格言而聞名：
  
  技術(shù)的作用總是在短期內(nèi)被高估，而在長期內(nèi)被低估。
  
  這短短的句子凝結(jié)了太多東西。樂觀主義者會有一種解讀，而悲觀主義者會有另一種解讀。
  
  有關(guān) Amara 定律兩面性的一個(gè)絕佳例子就是美國的全球定位系統(tǒng) GPS。1978 年開始的時(shí)候，GPS 的衛(wèi)星軌道上包含由 24 顆衛(wèi)星（現(xiàn)在是 31 顆衛(wèi)星，含冗余）組成的星系。GPS 的目標(biāo)是為美國軍隊(duì)的彈藥投放提供精準(zhǔn)的位置支持。但是這一項(xiàng)目在 20 世紀(jì) 80 年代幾乎被一次次取消。符合 GPS 設(shè)計(jì)目的的第一次實(shí)戰(zhàn)使用是 1991 年的沙漠風(fēng)暴行動(dòng)，GPS 額外取得了數(shù)次成功，才使得軍方接受它。
  
  錯(cuò)誤的預(yù)測將導(dǎo)致我們害怕那些不會發(fā)生的事情。
  
  現(xiàn)在，GPS 已經(jīng)到了 Amara 所說的“長期”，而它現(xiàn)在的應(yīng)用方式是起初無法想象的。我外出跑步時(shí)，我的蘋果手表 2 代就會使用 GPS 功能足夠精確的記錄我的位置，精確到能夠確定我跑步時(shí)是在馬路的哪一側(cè)。蘋果手表中 GPS 接收器的微小尺寸和低廉價(jià)格是初期的 GPS 工程師們無法想象的。GPS 技術(shù)在全球范圍內(nèi)同步進(jìn)行物理實(shí)驗(yàn)的時(shí)間，并在同步美國電網(wǎng)的時(shí)間和保持電網(wǎng)運(yùn)轉(zhuǎn)方面發(fā)揮重要作用。它甚至允許那些真正操縱著股市的高頻交易員避免毀滅性的定時(shí)錯(cuò)誤。所有的飛機(jī)，無論大小，都使用 GPS 導(dǎo)航，GPS 還用來跟蹤假釋出獄的人。GPS 決定了世界各地的哪些地區(qū)種植哪種種子。GPS 技術(shù)可以跟蹤卡車車隊(duì)并匯報(bào)司機(jī)的駕駛行為。
  
  GPS 最開始時(shí)只有一個(gè)軍事目標(biāo)，然而，要讓它像最初預(yù)期的那樣工作，絕沒那么簡單?，F(xiàn)在 GPS 已經(jīng)滲透到我們生活的方方面面。如果沒有 GPS ，我們不僅會迷路 ，而且會受凍、挨餓，甚至很可能會死掉。
  
  在過去 30 年中，其他技術(shù)有著相似的模式。起初人們抱有巨大的期待，然后是巨大的失望，之后慢慢地對超出最初預(yù)期的結(jié)果產(chǎn)生了信心。這一模式在大規(guī)模計(jì)算、基因組測序、太陽能、風(fēng)能，甚至是購物送貨上門等方面都是如此。
  
  在 20 世紀(jì) 60 年代，在 20 世紀(jì) 80 年代，AI 一次又一次地被高估。我相信，現(xiàn)在它又被高估了。但它的長期前景也可能被低估了。問題在于，長期是多長？后面的 6 個(gè)錯(cuò)誤能幫我們解釋，為什么對于 AI 的未來而言，時(shí)間尺度被嚴(yán)重低估了。
  
  2. 想象中的魔法
  
  在我十幾歲的時(shí)候，亞瑟·克拉克是科幻小說作家“三巨頭”之一，其余兩位是羅伯特·海因萊因和艾薩克·阿西莫夫。但是克拉克還是一位發(fā)明家、科學(xué)作家和未來主義者。在 1962 年到 1973 年之間，他發(fā)明了后來被稱為克拉克三定律的三條格言：
  
  如果一位年高德劭的科學(xué)家認(rèn)為某事是可能的，那他幾乎肯定是正確的；如果他認(rèn)為某事是不可能的，那他很可能是錯(cuò)誤的。
  
  發(fā)現(xiàn)可能性的邊界的唯一途徑，就是跨越這一邊界，進(jìn)入到不可能的領(lǐng)域。
  
  任何非常先進(jìn)的技術(shù)，初看都與魔法無異。
  
  從個(gè)人角度而言，我對克拉克三定律的第一定律的后半句持保留意見，因?yàn)槲以谟嘘P(guān) AI 將在多久時(shí)間內(nèi)占據(jù)優(yōu)勢地位一事上比其他人更為保守。但是現(xiàn)在我要在克拉克第三定律上展開論述。
  
  想象一下，我們有一臺時(shí)光機(jī)可以把艾薩克·牛頓從 18 世紀(jì)晚期穿越到現(xiàn)在，并把他安頓在他熟悉的環(huán)境中：劍橋大學(xué)三一學(xué)院教堂。
  
  現(xiàn)在給牛頓看一臺蘋果公司的產(chǎn)品。從你口袋中取出 iPhone，開機(jī)讓屏幕亮起來并布滿圖標(biāo)，把 iPhone 給牛頓。牛頓曾經(jīng)利用菱鏡將太陽光分解，揭示了白光是由不同顏色的光組成的，并將不同顏色的光又混合成了白光，但他毫無疑問地將對在黑暗教堂中能發(fā)出如此耀眼色彩的裝置感到詫異?，F(xiàn)在播放一部英國鄉(xiāng)村場景的電影和一些他應(yīng)該聽過的教堂音樂。然后向他展示這個(gè)網(wǎng)頁，網(wǎng)頁中有他個(gè)人批注的 500 多頁的皇皇巨著《自然哲學(xué)的數(shù)學(xué)原理》。教給他如何通過縮放手勢來放大網(wǎng)頁細(xì)節(jié)。
  
  要留意那些有關(guān)未來技術(shù)是不是魔法的爭論。
  
  牛頓有可能解釋這個(gè)小裝置是如何實(shí)現(xiàn)這一切的嗎？盡管他發(fā)明了微積分，還解釋了光學(xué)和重力的原理，但是他卻從未能正確區(qū)分煉金術(shù)和化學(xué)。所以我認(rèn)為他會非常困惑，并且根本想不出這個(gè)設(shè)備的最基本的輪廓。對他而言，這和超自然的化身沒什么不同。這個(gè)跟魔法是沒辦法區(qū)別的。同時(shí)要記住，牛頓可是那個(gè)年代相當(dāng)聰明的人物。
  
  如果某個(gè)事物是魔法，我們就很難知道它的邊界。假設(shè)我們更進(jìn)一步地給牛頓展示了這個(gè)裝置如何照亮黑暗，如何照相、錄像、錄音，如何用作放大鏡和鏡子。然后我們向他展示，它可以用來以極高的速度和極高的精度進(jìn)行算術(shù)計(jì)算。我們展示一下，牛頓拿著 iPhone 的時(shí)候，iPhone 記錄了他的步數(shù)，繼續(xù)向牛頓展示他可以用 iPhone 與世界任何地方的人們即時(shí)通話，就在教堂中即可。
  
  牛頓可能會推測這個(gè)設(shè)備能做的其他事情是什么？用來分散太陽光的菱鏡是永遠(yuǎn)有效的。他會不會推斷 iPhone 可以一直用下去，忽略了自己沒有理解它還需要充電？回想一下，我們把牛頓從邁克爾·法拉利出生前 100 年的時(shí)代抓回來了，所以他根本沒有對于電力概念的科學(xué)理解。如果 iPhone 能在沒有火的情況下產(chǎn)生光，那它也有可能會將鉛變?yōu)榻鹱影桑?br />   
  這就是我們在猜想未來科技時(shí)遇到的問題。如果未來科技距離我們現(xiàn)有的目前能理解的科技足夠遙遠(yuǎn)，那么我們就不知道未來科技的邊界。如果未來科技與魔術(shù)無法區(qū)分，那人們說的有關(guān)未來科技的任何事情都將無法證偽。
  
  這就是我與人們爭論是否應(yīng)當(dāng)害怕廣義人工智能（artificial general intelligence，縮寫為 AGI ） 時(shí)常常遇到的問題。廣義人工智能（AGI）指的是我們將建造出與人類一樣運(yùn)作的自主機(jī)器人。我被告知自己還沒明白廣義人工智能會有多么強(qiáng)大。這不是爭論所在。我們對于廣義人工智能是否存在都沒有概念。我希望它是存在的——這一直都是我自己在機(jī)器人和 AI 領(lǐng)域工作的動(dòng)力所在。但是現(xiàn)代廣義人工智能（AGI）研究的進(jìn)展十分不好，不論是在廣義上還是在支持持續(xù)存在的獨(dú)立個(gè)體上。廣義人工智能（AGI）貌似主要受困于人工智能至少 50 年來一直存在的問題上，即推理和常識。我看到的所有證據(jù)都證明我們目前在如何建造廣義人工智能方面毫無頭緒。它的特性完全未知，所以在修辭上他就很快變成了魔法，強(qiáng)大而沒有任何邊界限制。
  
  宇宙萬物無不有邊界。
  
  小心有關(guān)未來科技是魔法的爭論。這樣的爭論永遠(yuǎn)無法駁斥，因?yàn)樗切叛鲋疇?，而不是科學(xué)之爭。
  
  3. 性能與能力
  
  我們一直都在利用人們完成某一特定任務(wù)的表現(xiàn)作為線索，來推斷他們完成其他任務(wù)的能力。我們在國外城市向一位陌生人問路，她自信地給出回復(fù)并指給我們看起來說得通的方向，所以我們會覺得，想要乘坐公交的時(shí)候，還可以問她如何支付公交車費(fèi)。
  
  現(xiàn)在，假設(shè)有人告訴我們，一張?zhí)囟ǖ恼掌故镜氖侨藗冊诠珗@里玩飛盤。我們自然會認(rèn)定此人能夠回答以下問題：飛盤是什么形狀的？一個(gè)人大概能把飛盤扔多遠(yuǎn)？人能吃飛盤嗎？大概一次可以有多少人同時(shí)扔飛盤？三個(gè)月大的小孩兒可以扔飛盤嗎？今天的天氣適合扔飛盤嗎？
  

  計(jì)算機(jī)能夠給圖片打上“人們在公園里扔飛盤”的標(biāo)簽，卻不可能回答那些問題。除去他們僅僅會給更多的圖片打標(biāo)簽卻根本不能回答前述問題的事實(shí)之外，他們對于以下內(nèi)容根本沒有概念：人是什么、公園通常在室外、人是有年齡的、天氣除了讓照片顯示

1 2 3 下頁