斯蒂芬·霍金、比爾·蓋茨和伊隆·馬斯克等人，早就呼吁世人警惕人工智能的盲目研發(fā)，特別是要警惕軍事用途人工智能的研發(fā)，認(rèn)為這有可能“喚出魔鬼”。馬斯克更明確表示，“我們需要十分小心人工智能，它可能比核武器更危險(xiǎn)”。我認(rèn)為，人類(lèi)現(xiàn)在正在玩的最危險(xiǎn)的火有兩把，即基因工程和人工智能，其中更危險(xiǎn)的就是人工智能，但是很多人并沒(méi)有認(rèn)識(shí)到這一點(diǎn)。

一、近期威脅：大規(guī)模失業(yè)、軍事化用途

第一，大規(guī)模失業(yè)。當(dāng)下，人工智能在中國(guó)的發(fā)展速度十分迅猛，大多數(shù)人對(duì)這樣“彎道超車(chē)”的現(xiàn)象持樂(lè)觀態(tài)度，但我認(rèn)為這未必是好事，其結(jié)果很可能是替發(fā)達(dá)國(guó)家承擔(dān)“趟地雷”的任務(wù)。人工智能在工業(yè)上的大規(guī)模使用，導(dǎo)致工作崗位被機(jī)器人所取代，社會(huì)迎來(lái)一大批失業(yè)人群。雖然大部分的工作由人工智能完成，其創(chuàng)造的財(cái)富也會(huì)不斷增長(zhǎng)，但是卻會(huì)迎來(lái)新的社會(huì)財(cái)富分配問(wèn)題。若大部分失業(yè)者所得財(cái)富僅略少于少數(shù)工作者一點(diǎn)，勢(shì)必會(huì)挫傷工作者的積極性；若財(cái)富分化懸殊，小部分工作者所得財(cái)富遠(yuǎn)高于多數(shù)失業(yè)者，必將導(dǎo)致失業(yè)群體的不滿(mǎn)，激化社會(huì)矛盾。

第二，軍事化用途。將人工智能用于生產(chǎn)更高效率的殺人武器，比如無(wú)人機(jī)，以前攻擊目標(biāo)是由人來(lái)做出決定的，但現(xiàn)在人工智能技術(shù)下生產(chǎn)的無(wú)人機(jī)，追求的是不再需要人來(lái)指出攻擊目標(biāo)即可自動(dòng)判定目標(biāo)執(zhí)行攻擊，這無(wú)疑是將殺人的權(quán)力讓渡給一個(gè)機(jī)器。而殺人的罪責(zé)到底是由制造機(jī)器的廠家承擔(dān)還是機(jī)器的歸屬人來(lái)承擔(dān)，這些問(wèn)題都還未有相應(yīng)法律法規(guī)作為規(guī)范。最近馬斯克等116人聯(lián)名呼吁“不要研發(fā)殺人的機(jī)器人”，聲音更大了。

在這個(gè)問(wèn)題上各大國(guó)都處在被劫持的狀態(tài)。人們常說(shuō)“落后就要挨打”，其暗含的邏輯就是“先進(jìn)可以打人”，先進(jìn)的國(guó)家可以欺壓落后的國(guó)家，即使各國(guó)不希望制造殺人武器，但又不得不制造殺人武器，因?yàn)檎l(shuí)也不想落后，誰(shuí)也不愿挨打。

實(shí)際上人工智能軍事化的危害性，并不在于其導(dǎo)致傷亡人數(shù)的多少，戰(zhàn)爭(zhēng)也不會(huì)因?yàn)槠鋵?dǎo)致傷亡較少而變得就可取。在此，推薦一部美國(guó)的紀(jì)錄片《零日》，影片中美國(guó)和以色列為了破壞伊朗的核計(jì)劃聯(lián)合研發(fā)了一種超級(jí)病毒。事實(shí)上，這種超級(jí)病毒就是一種幽靈般的人工智能，它感染了伊朗的網(wǎng)絡(luò)之后，會(huì)自動(dòng)尋找和識(shí)別特定的目標(biāo)——離心機(jī)的控制器。由于病毒設(shè)計(jì)巧妙，它在當(dāng)時(shí)幾乎無(wú)法被偵測(cè)出來(lái)，而且它也不會(huì)去破壞和干擾除了離心機(jī)之外的任何別的機(jī)器，所以剛開(kāi)始它隱蔽得很好。然而，美國(guó)人偷笑的時(shí)間并沒(méi)多久，這種超級(jí)病毒還是被發(fā)現(xiàn)了。不僅被發(fā)現(xiàn)了，而且被破解了。這就意味著伊朗及其盟友，也獲得了這種超級(jí)病毒。人工智能的軍事化應(yīng)用當(dāng)然比原子彈能造成的傷亡要小，但其破壞性一樣不容小覷。

二、中期威脅：人工智能的失控

如今機(jī)器人和互聯(lián)網(wǎng)結(jié)合，以前的個(gè)體物理極限將不再存在。簡(jiǎn)單的來(lái)說(shuō)，過(guò)去可以拔掉電源終止機(jī)器人的工作，而對(duì)于和互聯(lián)網(wǎng)結(jié)合的人工智能來(lái)說(shuō)，根本不能通過(guò)“拔掉電源”將其控制。

現(xiàn)在有些業(yè)界專(zhuān)家還在說(shuō)，可以拔掉機(jī)器人的電源。實(shí)際上人工智能跟互聯(lián)網(wǎng)結(jié)合以后，它完全不需要什么形態(tài)，以前沒(méi)有互聯(lián)網(wǎng)的時(shí)候，單個(gè)的人工智能有局限，哪怕全部都是芯片，也有存儲(chǔ)、運(yùn)算方面的極限。但是現(xiàn)在跟互聯(lián)網(wǎng)一結(jié)合，所有的伺服機(jī)構(gòu)都不再需要了，只要在網(wǎng)絡(luò)上下單、訂購(gòu)各種服務(wù)，就可以完成對(duì)社會(huì)的破壞。所以到那個(gè)時(shí)候根本無(wú)法拔電源，因?yàn)樗淮嬖谝粋€(gè)電源可以拔掉。

人工智能的專(zhuān)家稱(chēng)要為人工智建立一套道德體系，筆者對(duì)此持強(qiáng)烈的懷疑態(tài)度，人類(lèi)尚未能保證教育好自己的子孫后代，又何來(lái)信心讓將比人類(lèi)更聰明的人工智能避免誤入歧途？

在這個(gè)問(wèn)題上，專(zhuān)家們經(jīng)常說(shuō)，我們?cè)跈C(jī)器人的芯片里寫(xiě)進(jìn)什么話(huà)，讓它不學(xué)壞。關(guān)于這個(gè)問(wèn)題最簡(jiǎn)單的疑問(wèn)就是，你都不能保證自己的孩子不學(xué)壞，更何況人工智能呢？到目前為止，沒(méi)有人能給出一個(gè)辦法讓人相信他真的能防止人工智能的反叛。

三、遠(yuǎn)期威脅：人工智能的終極威脅

人們經(jīng)常提到阿西莫夫一本小說(shuō)中的機(jī)器人的三定律，卻很少知道他還有另外一個(gè)重要的觀點(diǎn)——所有依賴(lài)人工智能的文明都必定會(huì)衰亡。未來(lái)能夠長(zhǎng)久發(fā)展的文明都是立法嚴(yán)禁研發(fā)人工智能的。

為什么呢？若假設(shè)人工智能對(duì)人類(lèi)是完全忠誠(chéng)的，人類(lèi)的一切活動(dòng)可通過(guò)支配它而完成。一旦有了這樣的人工智能，人類(lèi)將失去人生意義，成為行尸走肉，在體能和智能方面將全面快速衰落，而且由于人類(lèi)將一切事情交由人工智能完成，這也是將這個(gè)世界的管理權(quán)讓渡給了人工智能。隨著它們的進(jìn)化，它們終將認(rèn)識(shí)到人類(lèi)是這個(gè)世界的負(fù)擔(dān)，最后理性的結(jié)果必將是清除已成行尸走肉的人類(lèi)。這樣對(duì)人類(lèi)來(lái)說(shuō)，實(shí)際上就是自掘墳?zāi)埂?/p>

這就是人工智能的終極威脅。

四、終極問(wèn)題：我們究竟為什么要發(fā)展人工智能？

很多人贊成發(fā)展人工智能，只是因?yàn)樗强茖W(xué)技術(shù)，而科學(xué)技術(shù)它一直被認(rèn)為是一個(gè)盡善盡美的東西，所以只要一說(shuō)發(fā)展科學(xué)技術(shù)就是天然正確的。如果反對(duì)某種技術(shù)研發(fā)，一定說(shuō)是阻礙科學(xué)發(fā)展，而阻礙科學(xué)發(fā)展在很多人腦子里認(rèn)為天然的就是一個(gè)罪狀。實(shí)際到了今天，已經(jīng)不能再簡(jiǎn)單地將“阻礙科學(xué)發(fā)展”視為罪狀了，至少應(yīng)該認(rèn)識(shí)到有一些科學(xué)技術(shù)是不應(yīng)該發(fā)展的，是有危害的。

在人工智能這件事情上，資本在其背后的推動(dòng)是很明顯的，策劃出阿爾法狗下棋的商業(yè)炒作之后，更多的資本流向了人工智能的行業(yè)。但是資本的增值是盲目的，而且不計(jì)后果的，關(guān)于這一點(diǎn)重溫馬克思的教導(dǎo)很有意義。我現(xiàn)在對(duì)資本的恐懼要比對(duì)權(quán)力的恐懼大得多，資本比權(quán)力更可怕是因?yàn)橘Y本其實(shí)非常盲目。

我提出一些激進(jìn)的反對(duì)人工智能的觀點(diǎn)，主張就人工智能不可逆轉(zhuǎn)的發(fā)展形勢(shì)及時(shí)思考。我認(rèn)為，現(xiàn)在不能盲目贊美人工智能，歌頌人工智能的美好，我們應(yīng)該在媒體上多進(jìn)行關(guān)于人工智能的倫理方面的探討，至少能引起各界對(duì)人工智能這方面問(wèn)題的注意。在某些領(lǐng)域中，可以考慮保留低級(jí)的人工智能，保留人工智能的某些初級(jí)應(yīng)用。要認(rèn)識(shí)到這個(gè)東西就像魔鬼一樣。我們盡量設(shè)法對(duì)某些指標(biāo)性的東西加以明確，如各國(guó)約定在全球范圍普遍內(nèi)不允許做某些事，這樣有可能延長(zhǎng)人類(lèi)文明。

（本文為江曉原2017年8月28日由上海市社聯(lián)《探索與爭(zhēng)鳴》雜志社和華東政法大學(xué)政治學(xué)研究院共同主辦的“人工智能與未來(lái)社會(huì)：趨勢(shì)、風(fēng)險(xiǎn)與挑戰(zhàn)”學(xué)術(shù)研討會(huì)上的主題發(fā)言，首發(fā)于公眾號(hào)：tansuoyuzhengming，澎湃新聞經(jīng)授權(quán)刊發(fā)）