當(dāng)大腦控制機(jī)器出了問題時(shí)，誰來負(fù)責(zé)？
2017-07-03 11:04:10 來源：AI Lab 熱度:
科學(xué)家們擔(dān)心未來會(huì)出現(xiàn)對(duì)大腦植入的惡意控制如果腦機(jī)接口出錯(cuò)，誰應(yīng)該負(fù)責(zé)？像埃隆馬斯克的神經(jīng)網(wǎng)絡(luò)一樣，隨著生物技術(shù)和腦機(jī)接口研究的進(jìn)步，可能會(huì)讓我們的大腦和電腦連接在一起。但我們?nèi)绾畏乐构粽咔秩脒@個(gè)設(shè)備，以免傷害他人或自己呢？那么另一個(gè)問題就是責(zé)任。
正如總部位于日內(nèi)瓦的懷斯生物與神經(jīng)工程中心的科學(xué)家們所言：“如果一個(gè)由大腦控制的機(jī)器人會(huì)產(chǎn)下一個(gè)嬰兒，誰該負(fù)責(zé)呢？雖然腦機(jī)接口研究（BMI）目前被用來幫助與癱瘓的人交流，但科學(xué)家們擔(dān)心身體健全的人會(huì)用BMI增強(qiáng)自己的能力。他們?cè)诳茖W(xué)雜志上發(fā)表了一篇論文，題為“幫助、希望和炒作：神經(jīng)假肢的倫理維度”，呼吁制定新的指導(dǎo)方針，以確保大腦和機(jī)器的相互作用是安全的。JohnDonoghue教授是該論文的作家，同時(shí)身為日內(nèi)瓦中心的主任，他表示：“我們不想夸大風(fēng)險(xiǎn)，也不想給那些可能從神經(jīng)技術(shù)中獲益的人制造虛假的希望。我們的目標(biāo)是確保適當(dāng)?shù)牧⒎ㄅc這個(gè)快速發(fā)展的領(lǐng)域保持同步。”
隨著自動(dòng)駕駛汽車和人工智能等技術(shù)的發(fā)展，他們圍繞著責(zé)任、隱私和安全因素對(duì)身體質(zhì)量指數(shù)（BMI）和半自動(dòng)機(jī)器人的未來提出了倫理道德問題。他們認(rèn)為，有必要對(duì)半自動(dòng)機(jī)器人設(shè)置控制身體質(zhì)量指數(shù)的關(guān)閉開關(guān)。他們認(rèn)為，如果一個(gè)半自動(dòng)機(jī)器人沒有可靠的控制或覆蓋機(jī)制，人們用它來接孩子，而不是進(jìn)行其他風(fēng)險(xiǎn)較低的活動(dòng)，他們可能就會(huì)產(chǎn)生意外。人們擔(dān)心大腦輸出數(shù)據(jù)的安全，這些數(shù)據(jù)應(yīng)該受到加密保護(hù)，他們也會(huì)擔(dān)心“惡意控制大腦植入”或?qū)Υ竽X植入物惡意操控的可能性。
對(duì)擁有權(quán)力或?qū)氋F知識(shí)產(chǎn)權(quán)的人來說，面臨讀腦的攻擊風(fēng)險(xiǎn)更大。牛津大學(xué)納菲爾德學(xué)院（Nuffield）的博士生勞里皮羅夫特（LauriePycroft）在最近發(fā)表的一篇論文中提出了對(duì)腦部植入物的擔(dān)憂。研究發(fā)現(xiàn)，攻擊者可能會(huì)將植入電池植入大腦，或者用它們來誘發(fā)疼痛，破壞情緒，造成組織損傷。懷斯中心研究員尼爾斯伯鮑默教授指出身體質(zhì)量指數(shù)（BMI）被用于癱瘓患者，其中包含敏感的神經(jīng)元數(shù)據(jù)，如對(duì)個(gè)人問題的反應(yīng)。“嚴(yán)格的數(shù)據(jù)保護(hù)必須適用于所有相關(guān)人員，這包括保護(hù)在問題中提出的個(gè)人信息以及神經(jīng)數(shù)據(jù)，以確保設(shè)備正常運(yùn)行。”
責(zé)任編輯：黃焱林
哈佛大學(xué)研究新人工智能系統(tǒng) 速度媲美人類大腦
【專訪】人工智能機(jī)械臂之父Dr.Phillip： 如何實(shí)現(xiàn)人工智能銜接人類大腦
科學(xué)家開發(fā)新AI系統(tǒng)，可讀取大腦信息并表達(dá)復(fù)雜思想
ET大腦為制造業(yè)省下幾個(gè)億 背后：AI工程師下車間寫代碼