據外媒gizmodo報道稱，近日，微信就其平臺將“black foreigner(外國黑人)” 自動翻譯成“黑鬼”進行道歉，這也引發業內思考，如何教會AI(人工智能)識別種族主義歧視問題?本周三，一位黑人戲劇總監安·詹姆斯在向同事發微信說“她遲到了”，當同事用中文回答的時候，微信自動將信息翻譯成了“The nigger is late.(黑鬼遲到)”。事后，詹姆斯回憶，微信有時會自動翻譯成以“n”開頭的稱謂。
圖：微信就將“黑人”翻譯成“黑鬼”致歉
注：nigger，一般指黑鬼，延伸意思為社會地位低下的人，是一個帶有侮辱性質的詞語，盡量不要使用。
nigger和nigro來自“黑色”的拉丁語niger(陽性)和nigra(陰性)，引至英語里，意思也差不多是“黑的東西”所以是蔑稱。
日前，微信對此事進行道歉：“我們非常抱歉不當的翻譯，在收到用戶的反饋后，我們馬上解決了這個問題。”微信還指出，平臺使用的是人工智能翻譯軟件，AI是在經過大量文本訓練后給出翻譯結果，并且至關重要的是，翻譯軟件會充分考慮其上下文，這很有可能會引發誹謗嫌疑。
據悉，識別模式是語言AI的核心，語言AI是在關聯詞模式下提取詞語。例如，在2016年，研究人員測試了谷歌文本算法與新聞抓取工具之間的關聯，出現的結果錯誤泛濫： “艾米莉”被翻譯成“烏木”，“煎餅”對應的“炸雞”‘更離譜的是，“男人”竟被翻譯成“女人”， “醫生”被稱為“護士”。
“AI可以說更像人類一樣思考。可悲的是，他們正在學習我們提供的最糟糕的東西。外媒指出，這在本質上是如何“教導”AI識別種族主義歧視的問題?
微信掃一掃
