互聯網是一個開放的平臺，極端恐怖分子不請自來。今年已經有不少大公司投訴，在YouTube投放的廣告出現在極端分子的招募視頻中。另外，Facebook計劃雇傭3000多人的團隊每天審查網站上的不良內容。
幾個月前，Google宣布將使用更多的機器學習和人工智能技術甄別極端視頻。近日，Google博客公布了結果：AI甄別和標記極端視頻的能力遠遠超出人類。數據顯示，AI在75%的情況下，都能比人類先甄別極端視頻。調查人員表明，AI能夠處理的視頻數量是人類的兩倍，而且這個差距隨著系統升級會變得越來越大。
擁有了這項技術，YouTube的野心不止于甄別和刪除極端視頻、或者將用戶跳轉至其他內容。公司將為所有種類的視頻制定更嚴格的限制；接下來的幾周，Google的人工智能將被用來判斷其他被舉報的視頻，例如仇恨言論、攻擊性和暴力視頻。就算這些視頻沒有直接違反平臺的政策，他們也會被限制播放。這樣技術還能夠屏蔽評論、點贊和搜索優先權。
極端視頻上傳者和審查者就像在玩一場貓鼠游戲。在傳統媒體時代，媒體是貓看守信息進出的大門，但是在互聯網時代，貓少鼠多；即便貓最終還是可以抓到老鼠，但是老鼠在短暫時間內可能造成的破壞不可估量。
例如昨天，英國卡迪夫市一個鬧市街區的戶外廣告牌被黑客攻擊，并播放了大量攻擊性信息，例如納粹符號、極端伊斯蘭的圖片并宣稱該地區為伊斯蘭法的管轄范圍。這件事情雖然沒有對市民造成人身傷害，但是卻令人十分擔憂。
如果恐怖分子侵入了更多的廣告牌，并且播放恐慌信息，那么人們的安全就會受到嚴峻的威脅。制止這樣的情況非常需要AI的幫助，因為人類幾乎不可能在第一時間發現這些視頻，但是AI可以在監測到視頻上傳時就發出警報。當然，這其中對技術的要求應該會更加復雜；也許有一天，監測極端視頻的AI會被加密在傳播工具的硬件當中。
一方面，我們需要AI幫助贏得和極端分子的這場貓鼠游戲；另一方面，我又為老大哥是一個AI而感到深深的不安。當AI屏蔽對象不再只是極端視頻時，你就必須得有穿越AI法眼的能力了。
責任編輯：付海龍