無人駕駛真正絆腳石是黑客 自動(dòng)化造成失業(yè)恐惹眾怒
2017-08-25 10:11:11 來源：AI Lab 熱度:
據(jù)MIT Technology Review報(bào)道，在無人駕駛卡車和出租車上路之前，制造商們需要解決一個(gè)比防撞和導(dǎo)航復(fù)雜得多的問題。這些車輛將不得不預(yù)見并抵御惡意攻擊者的侵?jǐn)_，這些人同時(shí)使用傳統(tǒng)網(wǎng)絡(luò)攻擊手段和基于所謂“對(duì)抗性機(jī)器學(xué)習(xí)”的新式攻擊方法。隨著越來越多的人一致認(rèn)為，無人駕駛汽車只需要幾年時(shí)間就會(huì)出現(xiàn)在城市里（比如機(jī)器人出租車）和高速公路上，以緩解長(zhǎng)途卡車司機(jī)的無聊感。然而，這種攻擊風(fēng)險(xiǎn)在很大程度上卻在鋪天蓋地的覆蓋報(bào)道中被忽略。
這不禁讓我想起了上世紀(jì)90年代早期推廣電子郵件的大量文章，當(dāng)時(shí)這種新興電子通訊領(lǐng)域還未被垃圾郵件所充斥。那時(shí)，機(jī)器學(xué)習(xí)被看作是解決世界垃圾郵件問題的方案之一。事實(shí)上，今天的垃圾郵件問題在很大程度上已被解決，但我們花了幾十年的時(shí)間才實(shí)現(xiàn)這個(gè)目標(biāo)。
目前還沒有黑客針對(duì)無人駕駛汽車發(fā)動(dòng)襲擊的報(bào)道。但具有諷刺意味的是，這的確是一個(gè)問題。在20世紀(jì)90年代，互聯(lián)網(wǎng)初創(chuàng)公司開發(fā)了首批電子商務(wù)平臺(tái)時(shí)，也沒有惡意攻擊者。在第一輪電子商務(wù)黑客襲擊發(fā)生之后，比爾·蓋茨（Bill Gates）給微軟寫了一份備忘錄，要求公司認(rèn)真對(duì)待安全問題。結(jié)果，如今的Windows成為世界上最安全的操作系統(tǒng)之一，微軟每年在網(wǎng)絡(luò)安全上的花費(fèi)超過10億美元。盡管如此，黑客還是不斷發(fā)現(xiàn)Windows操作系統(tǒng)、網(wǎng)絡(luò)瀏覽器和應(yīng)用程序的漏洞。
汽車公司很可能也會(huì)經(jīng)歷類似的過程。20世紀(jì)80年代設(shè)計(jì)的“CAN總線”(CAN bus)未能考慮安全性問題，這個(gè)失敗讓人們普遍感到尷尬，因?yàn)楫?dāng)時(shí)還沒有驗(yàn)證的概念，現(xiàn)在他們似乎在關(guān)注此事。當(dāng)黑客們證明，道路上的車輛很容易受到幾個(gè)特定安全威脅的影響時(shí)，汽車制造商只能通過召回并升級(jí)數(shù)百萬輛汽車的固件應(yīng)對(duì)。去年7月份，通用汽車公司首席執(zhí)行官瑪麗?巴拉(Mary Barra)表示，保護(hù)汽車免受網(wǎng)絡(luò)襲擊的影響“事關(guān)公共安全”。
但迄今為止所做的努力可能正錯(cuò)過下一個(gè)安全趨勢(shì)。無人駕駛汽車的開發(fā)依賴于復(fù)雜的機(jī)器學(xué)習(xí)算法，但計(jì)算機(jī)視覺和防撞系統(tǒng)卻沒有被很好地理解。去年，美國(guó)卡內(nèi)基-梅隆大學(xué)的研究人員證明，使用一副透明的眼鏡，并在鏡框上印上時(shí)髦的圖案，就可以擊敗最先進(jìn)的人臉識(shí)別算法。
關(guān)于這個(gè)模式的某些東西以正確方式欺騙了算法，讓其以為自己看到了不存在的東西。首席研究員馬穆德·謝里夫（Mahmood Sharif）在電子郵件中稱：“我們已經(jīng)證明，通過模仿目標(biāo)人物或簡(jiǎn)單的識(shí)別錯(cuò)誤，攻擊者都可以逃避基于神經(jīng)網(wǎng)絡(luò)開發(fā)的最先進(jìn)人臉識(shí)別算法。”
2016年，美國(guó)南卡羅來納大學(xué)、中國(guó)浙江大學(xué)以及中國(guó)網(wǎng)絡(luò)安全公司奇虎360(Qihoo 360)的研究人員證明，他們可以在特斯拉S上干擾各種傳感器，使其導(dǎo)航系統(tǒng)看不到物體。
最近許多關(guān)于無人駕駛的文章，甚至忽略了可能會(huì)有積極的、有適應(yīng)能力的惡意競(jìng)爭(zhēng)對(duì)手存在，他們可能試圖讓無人駕駛車輛發(fā)生重大事故。在接受《麻省理工技術(shù)評(píng)論》采訪時(shí)，美國(guó)國(guó)家運(yùn)輸安全委員會(huì)(National Transportation Safety Board)主席克里斯托弗?哈特(Christopher Hart)表示，他“非常樂觀”地認(rèn)為，無人駕駛汽車將減少美國(guó)道路上的事故數(shù)量。而在討論安全問題時(shí)，哈特把重點(diǎn)放在了讓車輛進(jìn)行道德決策的必要性上。例如，當(dāng)重達(dá)36噸的卡車突然擋住汽車的路時(shí)，會(huì)發(fā)生什么？
為什么在明知會(huì)導(dǎo)致死亡的情況，依然有人想要攻擊無人駕駛汽車?其中一個(gè)原因是，無人駕駛汽車的廣泛部署將導(dǎo)致大量人員失業(yè)，其中有些人將會(huì)對(duì)此感到憤怒。2016年8月，福特公司首席執(zhí)行官馬克·菲爾茲(Mark Fields)表示，他計(jì)劃在2021年之前在城市中推出全自動(dòng)駕駛出租車。谷歌、日產(chǎn)和其他公司也計(jì)劃最早于2020年前推出類似的無人駕駛汽車。這些無人駕駛的出租車或運(yùn)載工具可能很容易被失業(yè)的卡車司機(jī)(或Uber司機(jī))用高功率激光指示器弄得暈頭轉(zhuǎn)向。
當(dāng)被問及如何應(yīng)對(duì)競(jìng)爭(zhēng)對(duì)手的機(jī)器學(xué)習(xí)威脅計(jì)劃時(shí)，Uber發(fā)言人莎拉?阿伯德(Sarah Abboud)回應(yīng)道:“我們的安全專家團(tuán)隊(duì)不斷探索無人駕駛車輛的未來防御技術(shù)，包括數(shù)據(jù)完整性和濫用檢測(cè)。然而，隨著無人駕駛技術(shù)的發(fā)展，威脅模型也在進(jìn)化，這意味著今天的一些安全問題可能與真正無人駕駛環(huán)境中所處理的問題有所不同。”
只需要幾次意外事故，就能阻止無人駕駛汽車的部署。這可能不會(huì)妨礙先進(jìn)的自動(dòng)駕駛系統(tǒng)部署，但它很可能會(huì)對(duì)完全無人駕駛車輛的開發(fā)產(chǎn)生相當(dāng)大的威懾作用。
責(zé)任編輯：黃焱林
首家京東X無人超市落地?zé)熍_(tái) 3-5個(gè)月實(shí)現(xiàn)盈利
無人駕駛、刷臉開車 國(guó)內(nèi)車企要在2018 CES展上亮絕活了！
無人駕駛汽車面臨五大挑戰(zhàn)
松下在美國(guó)建智慧城市，無人駕駛是標(biāo)配