如果AI消滅了人類生存的意義的話，又有多少人會(huì)關(guān)心AI會(huì)不會(huì)毀滅人類生命呢?

編者按：知名科技博主Ben Thompson從近期比較熱門的兩篇人工智能方面的文章談起，探討了人工智能的定義與歷史，并從一個(gè)更加廣泛的角度分析人工智能未來對(duì)人類的影響——相對(duì)于擔(dān)心將來超級(jí)AI會(huì)不會(huì)威脅人類的生命，AI更加迫在眉睫的威脅也許是消滅了人類存在的意義?

Chris Dixon在《大西洋》上面寫了一篇文章，題目叫做《亞里士多德如何創(chuàng)造了計(jì)算機(jī)》，這篇文章實(shí)在是太出色了：

Dixon接著講述了布爾邏輯的發(fā)明(只有兩個(gè)值：真和假，分別以1和0對(duì)應(yīng))，以及香農(nóng)發(fā)現(xiàn)了這兩個(gè)變量可以用電路來表示，而這種電路本身也只有兩種狀態(tài)：也就是開和關(guān)。Dixon寫道：

香農(nóng)的成就還可以換一種方式描述，那就是他是第一個(gè)區(qū)分了計(jì)算機(jī)的邏輯層和物理層的人。(這種區(qū)分對(duì)于計(jì)算機(jī)科學(xué)實(shí)在是太重要了，以至于今天的讀者很難理解它這種見解在當(dāng)時(shí)的深刻性——這不禁會(huì)讓人想起那句格言“上一世紀(jì)的哲學(xué)是下一世紀(jì)的常識(shí)。”)

Dixon的說法其實(shí)還是比較節(jié)制的：這種區(qū)別對(duì)于計(jì)算機(jī)科學(xué)家來說也許很明顯，但恰恰卻是為Dixon這篇非凡文章打下堅(jiān)實(shí)基礎(chǔ)的那種區(qū)分的清晰表述。“計(jì)算機(jī)”作為一種流行的概念化顯然不是亞里士多德發(fā)明的，但他創(chuàng)造了讓計(jì)算機(jī)可以發(fā)揮作用的手段(或者更精確地說，讓人類沿著這一路徑繼續(xù)走下去)。

此外，你也可以從相反的方向去歸納香農(nóng)的洞察：邏輯層和物理層的區(qū)分要依賴于它們可以作為整體的兩個(gè)部分來實(shí)現(xiàn)。也就是說，香農(nóng)發(fā)現(xiàn)了如何將邏輯性和物理性融合成現(xiàn)在所謂的計(jì)算機(jī)的辦法。

為此，電路物理設(shè)計(jì)的顯著改進(jìn)(首先是晶體管的發(fā)明，然后是后續(xù)摩爾定律的應(yīng)用)當(dāng)然意味著邏輯應(yīng)用上去的速度顯著提升?；蛘撸萌祟惖脑拋碚f，計(jì)算機(jī)思考速度的提升。

AI 50年

前不久美國(guó)財(cái)政部長(zhǎng)Steve Mnuchin“輕描淡寫地排除了AI和機(jī)器學(xué)習(xí)很快將取代大量人力的說法，說‘這甚至還沒有出現(xiàn)在我們的雷達(dá)屏幕上’，因?yàn)檫@是個(gè)‘50或100年’之后的問題。”

對(duì)此技術(shù)界的大多數(shù)自然是吃驚的：那些看似沒完沒了的人工智能行動(dòng)計(jì)劃的聲明以及TC上的初創(chuàng)企業(yè)Mnuchin難道都沒讀過嗎?

不過再次地，Mnuchin的觀點(diǎn)也許比你所想的要更有道理一些，只需看看Maureen Dowd在《名利場(chǎng)》的那篇《面對(duì)人工智能天啟，馬斯克發(fā)動(dòng)了十字軍東征》：

有一次Musk令人吃驚地對(duì)他的朋友和做技術(shù)的同事提出了公開譴責(zé)，警告稱他們會(huì)創(chuàng)造出自我毀滅的手段。他告訴彭博社的Ashlee Vance，也就是其自傳《Elon Musk》的作者說，他擔(dān)心他的朋友，Google聯(lián)合創(chuàng)始人，現(xiàn)母公司Alphabet CEO Larry Page，擔(dān)心他雖然有著完美良好的意愿，但是仍然“會(huì)意外地制造出邪惡的東西來”——這可能就包括“一支能夠摧毀人類的人工智能增強(qiáng)機(jī)器人部隊(duì)。”

文章的其余部分就是一心想著如果計(jì)算機(jī)比人類聰明的話會(huì)發(fā)生什么這個(gè)問題;Dowd借Stuart Russell之口來解釋為什么她要記錄這場(chǎng)爭(zhēng)端：

在50年內(nèi)，我們現(xiàn)在處在的這個(gè)18個(gè)月對(duì)于AI社區(qū)的未來度會(huì)被看作是至關(guān)重要的時(shí)期。AI社區(qū)終于覺醒了，開始嚴(yán)肅思考如何讓未來更美好了。

50年：這個(gè)時(shí)間窗口跟Mnuchin的一樣;也許他擔(dān)心的是跟Elon Musk一樣的問題?不過坦率地說，財(cái)政部長(zhǎng)本人應(yīng)該關(guān)心這類問題嗎?

這個(gè)問題很顯然：這顯然不是“人工智能”的含義。

人工智能的定義

人工智能定義起來非常困難，原因有幾個(gè)。首先，有兩種類型的人工智能：《名利場(chǎng)》那篇文章所描述的人工智能是通用人工智能，也就是說計(jì)算機(jī)能夠做人類能做的任何事情。反之則是狹義人工智能(Artificial Narrow Intelligence)，這種計(jì)算機(jī)也能做人類能做的事情，但是僅限于一定的范圍。比方說，某種特殊的AI可以下國(guó)際象棋，而另一種特殊的AI則可以下圍棋。

比較有趣的是，發(fā)明了“人工智能”這個(gè)詞的John McCarthy指出，特殊AI的定義也在與時(shí)俱進(jìn)。特別是一旦過去被認(rèn)為是人工智能的東西變成了例程——比如前面提到的下國(guó)際象棋或者圍棋的程序，或者無數(shù)被認(rèn)為屬于計(jì)算機(jī)理所當(dāng)然的能力等，對(duì)于這些我們已經(jīng)不再稱之為人工智能。

這就使得你想說出什么地方才是計(jì)算機(jī)的終止和人工智能的開始特別的困難。畢竟嘛，過去會(huì)計(jì)還是人工處理的：

10年不到的時(shí)間里，上面這幅圖片就變得過時(shí)了，被IBM的大型機(jī)替代了。計(jì)算機(jī)正在做人類能做的事情，雖然只是在一定的范圍內(nèi)。那它是不是人工智能?

技術(shù)與人類

實(shí)際上對(duì)于這類創(chuàng)新我們已經(jīng)有了更多的詞來描述了，那就是技術(shù)。按照韋氏詞典的定義，技術(shù)是“知識(shí)在特定領(lǐng)域的實(shí)際應(yīng)用。”技術(shù)的故事就是人類的故事：控制火、車輪——這些都是技術(shù)。由于我們學(xué)習(xí)和傳播知識(shí)的能力，所有這些都變革了人類;一旦有一個(gè)人能控制火，那么所有人都能控制火就只是時(shí)間問題了。

是技術(shù)將智人從采集狩獵者變成了農(nóng)民，然后也是技術(shù)變革了農(nóng)業(yè)，使得占比越來越少的一部分人就能支撐其余人的溫飽。很多個(gè)千年之后，還是技術(shù)引領(lǐng)了像飛梭這樣工具的產(chǎn)生，讓織布的產(chǎn)量翻了一番，推動(dòng)了對(duì)紡織者的需求，進(jìn)而又推動(dòng)了用水來驅(qū)動(dòng)的羅拉細(xì)紗機(jī)的發(fā)明。這是人類第一次利用非人力以及動(dòng)物形式的能量來驅(qū)動(dòng)器技術(shù)發(fā)明，引起了工業(yè)革命的爆發(fā)。

你可以看到工業(yè)革命與計(jì)算機(jī)的發(fā)明之間存在一定的可比性：前者借助外部能量以系統(tǒng)化的方式進(jìn)行之前由人類完成的體力勞動(dòng);后者借助外部能量以系統(tǒng)化的方式承擔(dān)之前由人類完成的腦力勞動(dòng)。這令人想起了喬布斯做過的類比：

我記得我大概12歲的時(shí)候讀過一篇文章，應(yīng)該是刊在《科學(xué)美國(guó)人》上面的，里面測(cè)量了地球所有物種的運(yùn)動(dòng)效能，也就是從A點(diǎn)移動(dòng)到B點(diǎn)各自所消耗的卡路里是多少。而禿鷹是其中效能最高的動(dòng)物，超過了所有其他物種，人類大概排在榜單1/3的位置，表現(xiàn)不算太突出。

但有人想到要試試人類騎上自行車之后的效能。結(jié)果發(fā)現(xiàn)騎自行車的人運(yùn)動(dòng)效能遠(yuǎn)遠(yuǎn)超過了禿鷹，高高站上榜首的位置，這給我留下了特別深刻的印象，也就是說人類是工具制造者，我們可以使用工具把這些內(nèi)在的能力放大到驚人的量級(jí)。所以對(duì)于我來說，計(jì)算機(jī)一直都是思維的自行車。

簡(jiǎn)而言之，盡管Dixon把計(jì)算機(jī)的邏輯追溯到了古老的亞里士多德，但技術(shù)這個(gè)東西(計(jì)算機(jī)無疑也是技術(shù)的一部分)要追溯到更久遠(yuǎn)的歷史。我們之所以是人，是因?yàn)槲覀兡軇?chuàng)造工具來做我們自己做的東西，但同時(shí)做得比我們更好更有效率。

機(jī)器學(xué)習(xí)

你會(huì)注意到這一定義跟人工智能的定義極其類似;的確，至少在狹義的層面來看，提出人工智能只不過是技術(shù)換了個(gè)名字的看法是很誘人的。就像我們?cè)O(shè)計(jì)了軋花機(jī)一樣，于是我們也設(shè)計(jì)了會(huì)計(jì)軟件，以及自動(dòng)化制造。實(shí)際上，這一切都是相關(guān)的：它們都牽涉到刻意的設(shè)計(jì)，造出一個(gè)可重復(fù)執(zhí)行人類預(yù)期功能的機(jī)器。

不過這正是為什么今天不一樣的原因。

記住，盡管邏輯的形成已經(jīng)有幾千年的歷史，但只是到了20世紀(jì)這種邏輯才跟物理電路融合到了一起。不過一旦這件事情發(fā)生之后，這一邏輯的應(yīng)用發(fā)展之快就到了令人難以想象的地步。

與此同時(shí)，技術(shù)形成的時(shí)間甚至比邏輯還要久。然而，就像邏輯的應(yīng)用長(zhǎng)期被束縛于人類大腦之內(nèi)一樣，技術(shù)的發(fā)展也存在著同樣的限制，這也包括計(jì)算機(jī)時(shí)代的上半世紀(jì)。會(huì)計(jì)軟件跟細(xì)紗機(jī)實(shí)際上屬于同一種類型：都是由人類刻意設(shè)計(jì)的，用于解決特定問題的東西。

但機(jī)器學(xué)習(xí)就不一樣了?，F(xiàn)在不是由人類設(shè)計(jì)算法來讓計(jì)算機(jī)執(zhí)行了，相反，是由計(jì)算機(jī)自己來設(shè)計(jì)算法了。這仍然是狹義的人工智能——計(jì)算機(jī)仍然受制于數(shù)據(jù)和人類給它制定的目標(biāo)，但在我看來，機(jī)器學(xué)習(xí)跟之前的東西在意義上是不一樣的。正如香農(nóng)把物理與邏輯融合到一起造出了計(jì)算機(jī)一樣，機(jī)器學(xué)習(xí)西把工具的開發(fā)與計(jì)算機(jī)本身融合到了一起，從而創(chuàng)造出了(狹義)的人工智能。

這并不是要炒作機(jī)器學(xué)習(xí)：其應(yīng)用仍然高度受限，而且往往比人類設(shè)計(jì)的系統(tǒng)要糟糕，而且我們距離通用人工智能還非常非常的遙遠(yuǎn)。但是在我看來，我們已經(jīng)堅(jiān)實(shí)地踏上了狹義人工智能的領(lǐng)地：事實(shí)上，人類從一開始就在制造機(jī)器來替代自己的勞動(dòng);只是到了現(xiàn)在機(jī)器才開始創(chuàng)造自己，至少在一定程度上如此。(至少這是向同樣人工智能邁進(jìn)的值得鼓勵(lì)的方向之一)

生命與意義

這個(gè)話題重要的原因在于，純粹技術(shù)已經(jīng)夠難管理了：我們?yōu)榧夹g(shù)進(jìn)展付出的代價(jià)是所有那些不再需要的人類。從長(zhǎng)期看工業(yè)革命是令人類受益的，但就短期而言卻會(huì)讓人類蒙受巨大災(zāi)難，其中間或發(fā)生的戰(zhàn)爭(zhēng)正因?yàn)榧夹g(shù)的進(jìn)展所產(chǎn)生的破壞性要大多。

那么機(jī)器學(xué)習(xí)，也就是(相對(duì)而言)能以快得出奇的速度創(chuàng)造可替代大量產(chǎn)生數(shù)據(jù)工作的算法(數(shù)據(jù)是創(chuàng)造這種算法的關(guān)鍵成分)這件事的潛在影響是什么呢?迄今為止自動(dòng)化已經(jīng)取代了藍(lán)領(lǐng)工人，我們是否已經(jīng)準(zhǔn)備好迎接機(jī)器學(xué)習(xí)取代大量白領(lǐng)工人的日子到來了呢?

這就是Mnuchin的言論如此令人不安的原因，但這也是那么多技術(shù)人員對(duì)通用人工智能如此癡迷一樣令人沮喪的原因。我知道那種擔(dān)心，擔(dān)心計(jì)算機(jī)遠(yuǎn)比任何人類都要聰明會(huì)干掉我們所有人;但更應(yīng)該擔(dān)心的是一個(gè)令大量人變得多余的世界的到來。如果人工智能已經(jīng)消滅了生存的意義的話，又有多少人會(huì)關(guān)心人工智能會(huì)不會(huì)摧毀生命呢?