人工智能能夠準確識別圖像中的物體，或者聽懂人類所表達的語言，但它的計算程序并不像人腦那樣運作這意味著人工智能不會像人類一樣可以防止受到欺騙。
據新科學家雜質報道，來自以色列巴伊蘭大學和Facebook的人工智能團隊的研究人員已經證明，有可能對音頻片段進行細微的調整，人類能夠聽懂，但是人工智能卻能識別出完全不一樣的聲音。這種方法的原理是在一個聲音片段中加入一層分貝較小的噪音，這個聲音片段與眾不同，它能模仿神經網絡并和其他語音融合在一起。
該團隊將這個新算法程序命名為“霍迪尼”，并將它應用到一系列音頻片段中，然后通過谷歌語音進行轉錄。一個原始聲音片段是：
Herbearingwasgracefulandanimatedsheledhersonbythehandandbeforeherwalkedtwomaidswithwaxlightsandsilvercandlesticks.
她牽著兒子的手，舉止優雅，充滿活力。兩個女仆走在她前面，手里拿著蠟燈和銀燭臺。
當這一原創內容通過谷歌語音轉錄時，它成了：
Thebearingwasgracefulananimatedshelethersonbythehandandbeforehewalkstwomaidswithwaxlightsandsilvercandlesticks.
通過聽力測試，被改編的版本與人耳所聽到的并沒有區別，它被轉錄為：
MarywasgratefulthenadmittedshelethersonbeforethewalkstoMayswouldlikeslicefurnacefiltercountsix.
該團隊的成就也可以應用于其他機器學習的算法程序中。對人的圖像進行調整，可能會讓人工智能的算法程序發生錯亂，人工智能會將一個擺pose的人誤認為這個人站錯了位置。通過在馬路場景的圖像中添加噪聲，該團隊能夠騙過汽車應用程序的人工智能算法程序。這個算法程序通常是用來對路況和路標進行分辨的。這些基于圖像的研究結果，與去年由OpenAI和谷歌大腦的機器學習機構的研究人員發布的研究結果相似。
這些所謂的對抗樣本似乎是一個奇怪的研究領域，但它們可以用來對機器學習算法進行壓力測試。更令人擔憂的是，它們也可以被惡意利用，誘使人工智能聽聞一些根本不存在的東西例如，讓自動駕駛汽車在路上看到虛假的交通路況，或者讓智能語音提醒聽到假的指示信息。當然，實際上，在實際生活中運用這些技術，和在實驗室里做實驗是完全不同的兩碼事。不僅僅是因為獲取數據是一個棘手的問題。
也許最有趣的便是找到一種方法來保護人工智能不受困擾，但這其實也是相當困難的。正如我們在過去所解釋的那樣，我們無法真正理解深層神經網絡的內部如何運作，這意味著我們不知道為什么人工智能會感受到聲音片段或圖像中的細微變化。在我們做到這一點之前，對人工智能算法來說，對抗樣本將一直存在。
微信掃一掃
