今年，人工智能項目AlphaGo和Libratus分別擊敗了人類玩家的最優秀的圍棋選手和撲克玩家。雖然這些里程碑表明了近幾年人工智能的發展程度，但許多人對新興技術的整體成熟度持懷疑態度，尤其是在過去12個月中出現的一些有關人工智能的小失誤。

被面具破解的人臉識別

　　

面部識別技術(Face ID)是解鎖新型iPhone X的面部識別技術，被譽為迄今為止最安全的人工智能激活方法，蘋果公司宣稱其被愚弄的幾率為百萬分之一。但隨后越南公司BKAV使用由3D打印的塑料、硅膠、化妝品和鏤空構成的150美元面膜實現了破解。 Bkav只是掃描一個測試對象的臉部，使用3D打印機生成一個臉部模型，并貼上剪紙眼睛和嘴巴和硅膠鼻子。這一破解給整個行業帶來了沖擊波，加大了消費者設備隱私的風險，更普遍的利用了人工智能的安全。

鄰居們由于Amazon Echo報警

流行的Amazon Echo被認為是強大的智能揚聲器之一。但沒有什么是完美的，一名德國男子的Echo在他不在家的時候被意外激活，并在午夜后開始響起，吵醒鄰居，導致他們打電話給警察，警察不得不破門而入，甚至在主人回來之前把門鎖換掉了。

Facebook chatbot關閉

　　

今年七月，有大批量的報道稱有兩個Facebook聊天機器人以人類無法識別的語言相互溝通后被關閉。關于新的秘密超級智能語言的謠言淹沒了論壇等討論區，直到Facebook解釋表示，這種神秘的交流只是語法編碼疏忽的結果。

拉斯維加斯自駕駛巴士在第一天上路就出車禍

一輛自駕巴士于今年十一月在拉斯維加斯首次亮相。然而，在短短的兩個小時內，巴士就被一輛貨車撞上了。盡管從技術上來說，它并沒有對這起事故負責，但是這輛智能巴士上的乘客抱怨道，當卡車慢慢靠近的時候，它不夠智能，無法自行擺脫危險。

Google Allo使用頭巾表情符號來回應槍支表情

　　

美國有線電視新聞網的工作人員通過Google Allo收到了一個戴頭巾的人的文字表情建議。這是由于包含手槍的表情符號引發的。Google向公眾保證，它已經解決了這個問題，并發表道歉。

雙胞胎騙匯豐語音識別系統

匯豐銀行的語音識別ID是一個以人工智能為導向的安全系統，允許用戶通過語音命令訪問他們的賬戶。雖然該公司聲稱它和指紋ID一樣安全，但是BBC的一名記者的雙胞胎兄弟能夠通過模仿他的聲音來訪問他的賬戶。實驗花了七次嘗試才成功，據此，匯豐即時的解決辦法是規定三次嘗試失敗就鎖定賬戶的門檻。

Google AI看著步槍，誤判為直升機

　　

通過略微調整步槍照片，麻省理工學院的一個研究小組欺騙了Google Cloud Vision API，使其誤認為直升機。這個不良樣本，會導致計算機通過引入人眼無法察覺的修改來對圖像進行錯誤分類。在過去，只有黑客知道目標計算機系統的基本機制，敵對的例子才會起作用。麻省理工學院團隊在沒有獲得這些系統信息的情況下，通過觸發錯誤分類而向前邁進了一步。

“黑”掉自動駕駛汽車 只要給路標畫個大花臉

　　

研究人員發現，通過使用油漆或膠帶的謹慎應用來阻止信號，他們可以欺騙自動駕駛的汽車，把這些標志進行誤分類。用“愛”和“憎恨”這兩個詞修飾的停車標志，欺騙了一輛自駕車的機器學習系統，大部分的時候都會被誤認為是限速45英里/小時。

用AI給油漆顏色取名

機器學習研究員Janelle Shan訓練了一個神經網絡，處理大約7700種油漆顏色，以及其對應的紅綠藍值。經過幾個小時的訓練，神經網絡成功地找到了“綠色”和“灰色”這兩個詞，但除此之外就沒別的了。訓練神經網絡需要時間。在多次迭代中，Shane訓練的神經網絡變得越來越好，它已經能夠找出像棕色和藍色這樣的真實顏色，以及這些顏色對應的紅綠藍值。接著她發現神經網絡是具有創造力的，它開始產生“草球棒”、“淺褐色”和“毒品”等顏色。