埃隆·馬斯克：人工智能會(huì)威脅人類文明甚至引發(fā)戰(zhàn)爭(zhēng)
2017-07-26 11:28:32 來(lái)源：EET 熱度:
美國(guó)電動(dòng)車制造商特斯拉(Tesla)、太空運(yùn)輸公司SpaceX創(chuàng)辦人埃隆·馬斯克（Elon Musk）呼吁，政府應(yīng)該針對(duì)人工智能(artificial intelligence；AI)立法監(jiān)管，透過(guò)社會(huì)規(guī)范AI技術(shù)進(jìn)步正成為當(dāng)務(wù)之急。
人工智能不再是科幻小說(shuō)，而是擁有巨大潛力的現(xiàn)實(shí)。盡管大部份的消息都著重于AI的正面發(fā)展?jié)摿Γ鼇?lái)一些有識(shí)之士也開(kāi)始點(diǎn)出其潛在的危險(xiǎn)。這其中就包括了Elon Musk。 Elon Musk是SpaceX的創(chuàng)辦人、CEO與CTO，同時(shí)身兼特斯拉CEO，當(dāng)然不會(huì)是個(gè)反對(duì)科技進(jìn)步的“盧爾德份子”(Luddite)。當(dāng)他談到AI時(shí)，所討論的絕對(duì)是在其商業(yè)模式中不可或缺的技術(shù)。盡管如此，Musk在本月舉行的全美州長(zhǎng)協(xié)會(huì)(National Governors Association；NGA)夏季會(huì)議中強(qiáng)調(diào)，社會(huì)必須規(guī)范AI技術(shù)的進(jìn)展。
Musk在受訪時(shí)提到他目前所“接觸的就是最尖端的AI”，并警告說(shuō)：“我認(rèn)為人們應(yīng)該真的關(guān)切”這件事。他指出，其關(guān)鍵在于不要害怕AI的潛在后果或被動(dòng)地作出響應(yīng)，而是應(yīng)該主動(dòng)地為這項(xiàng)技術(shù)發(fā)展預(yù)先做好準(zhǔn)備。
在面對(duì)技術(shù)不可預(yù)期的后果時(shí)，必須要打破過(guò)去的行為模式。Musk指出，“這通常會(huì)發(fā)生一大堆麻煩的事。例如公開(kāi)的抗議，再經(jīng)過(guò)幾年后，才會(huì)有法規(guī)出現(xiàn)。但接著企業(yè)就會(huì)開(kāi)始反對(duì)。無(wú)論如何，這些事會(huì)一直不斷地發(fā)生。”
但是，Musk強(qiáng)調(diào)，社會(huì)可不能坐視AI所發(fā)生的一切，因?yàn)锳I可能“對(duì)于人類文明存在造成根本威脅。”
例如，早期技術(shù)破壞的后果包括“車禍、飛機(jī)墜毀、偽藥或有害食品等”，也就是說(shuō)，Musk認(rèn)為，結(jié)果“對(duì)于個(gè)人造成實(shí)時(shí)傷害，但對(duì)于整個(gè)社會(huì)而言則不盡然。”相形之下，AI則造成了“根本性的存在危機(jī)，而我認(rèn)為人們并不會(huì)馬上察覺(jué)到，”等到發(fā)現(xiàn)危險(xiǎn)卻為時(shí)已晚。
這就是為什么他正積極地推動(dòng)對(duì)于AI的立法監(jiān)管。
作為身處高度管制的汽車與航空產(chǎn)業(yè)環(huán)境中的企業(yè)家，Musk認(rèn)為“被監(jiān)管當(dāng)然很沒(méi)趣”，同時(shí)也表達(dá)他反對(duì)“過(guò)度監(jiān)管”的立場(chǎng)。然而，他說(shuō)：“我真的認(rèn)為政府必須對(duì)于AI立法監(jiān)管，而且還應(yīng)該盡快完成。”
他說(shuō)，政府必須盡快采取行動(dòng)，因?yàn)楫a(chǎn)業(yè)競(jìng)爭(zhēng)的本質(zhì)將迫使公司之間“競(jìng)相打造AI系統(tǒng)”。畢竟，如果你的競(jìng)爭(zhēng)對(duì)手正在打造AI系統(tǒng)，而你一旦落后，“很快地就會(huì)被‘打趴’…”。
這就是為什么“監(jiān)管機(jī)構(gòu)有必要站出來(lái)說(shuō)，你必須暫緩，先確保它足夠安全”。Musk說(shuō)，如果他們“在這場(chǎng)競(jìng)爭(zhēng)中不顧其他參與的廠商”，將會(huì)讓個(gè)別的公司感受到加速AI發(fā)展的壓力。他指出，AI目前已在迅速發(fā)展中。
針對(duì)美國(guó)科羅拉多州州長(zhǎng)John Hickenlooper的提問(wèn)，Musk以AI公司DeepMind如何使其AI圍棋程序‘AlphaGo’從贏得世界排名第一的圍棋選手，迅速地進(jìn)步到同時(shí)挑戰(zhàn)多位頂尖的人類棋手且贏過(guò)全部對(duì)手，說(shuō)明了“人工智能可能到的重大成就”。在AlphaGo贏過(guò)人類“棋王以前，大家都認(rèn)為AI至少要再等20年的時(shí)間才能達(dá)到打敗人類棋手的程度”。
他還引用了另一個(gè)DeepMind的計(jì)劃顯示，AI教導(dǎo)自己“從無(wú)到有的學(xué)習(xí)過(guò)程只需幾個(gè)小時(shí)，這比任何生物的學(xué)習(xí)都還要快得多了。”
為什么AI的進(jìn)展令人憂心？Musk解釋，對(duì)于初入門者，AI可能操縱信息甚至篡改系統(tǒng)而“引發(fā)戰(zhàn)爭(zhēng)”。他提出了一個(gè)“純粹假設(shè)性”的例子說(shuō)明這種情況如何發(fā)生以及可能引發(fā)的原因：“讓股票投資組合價(jià)值最大化的目標(biāo)”就在于“長(zhǎng)線效益”。這種最糟糕的情況聽(tīng)起來(lái)就像是電情情節(jié)，同時(shí)也解釋了為什么人們可能會(huì)被慫恿而未對(duì)其加以重視。
然而，還存在著一個(gè)更迫切的危機(jī)。例如，Musk說(shuō)：“它當(dāng)然還會(huì)造成許多工作中斷，因?yàn)闄C(jī)器人做每一件事都比我們每一個(gè)人更有效率。”他并坦承認(rèn)他自己也“不確定該怎么做。”
社會(huì)可能會(huì)因?yàn)檫@一類的事實(shí)而覺(jué)醒：自動(dòng)化不只是提高效率，同時(shí)也減少了工作機(jī)會(huì)。《華爾街日?qǐng)?bào)》(The Wall Street Journal)在上周刊登了一篇文章——“機(jī)器人開(kāi)始取代購(gòu)物商場(chǎng)員工”(Robots Are Replacing Workers Where You Shop)，文中詳述美國(guó)零售商店Wallmart已經(jīng)開(kāi)始用一些技術(shù)取代工作人員了，其中還引用了Citi Research的圖表，顯示在2030年以前因自動(dòng)化而可能受威脅的工作及機(jī)率。例如保險(xiǎn)業(yè)和金融業(yè)存在54%被取代的高風(fēng)險(xiǎn)率，最嚴(yán)重的則是餐飲和住宿服務(wù)業(yè)，被機(jī)器人取代的機(jī)率高達(dá)86%。
預(yù)計(jì)接下來(lái)將會(huì)有大量的人員被解雇，而這種急劇的變化不僅會(huì)傷害到被取代的人們，同時(shí)也會(huì)對(duì)整個(gè)社會(huì)和經(jīng)濟(jì)帶來(lái)沖擊.對(duì)于AI未來(lái)的擔(dān)憂似乎像是集中于電影中的那些邪惡的情節(jié)，但與自動(dòng)化有關(guān)的工作減少面臨更迫切危機(jī)，也更值得我們關(guān)注。
就像Musk一樣，我也沒(méi)有答案，但是我們必須從提出質(zhì)疑開(kāi)始，不要再存有“所有技術(shù)進(jìn)步帶來(lái)意料之外的后果都是好的”這種僥幸心態(tài)了。
下一篇：第三波人工智能發(fā)展浪潮中的頂層設(shè)計(jì)，評(píng)《新一代人工智能發(fā)展規(guī)劃》上一篇：專訪360智能總裁鄧邱偉：讓AI落地是關(guān)鍵 但不做“雜貨鋪”
責(zé)任編輯：王良地