來自14個組織的26名研究人員對惡意AI所造成的危險進行了全面的報告。
當我們想到人工智能時，我們往往會想到機器學習的人性化表現，比如Siri或Alexa，但事實是，人工智能在我們身邊主要是作為后臺進程來運行。從醫(yī)學到金融，人工智能向各種事物的的緩慢蔓延可能很難讓人理解，因為它看起來與好萊塢在《機械姬》或《她》等電影中所構思的人工智能有很大的不同。事實上，與人類相比，如今大多數“人工智能”都是相當愚蠢的——機器學習算法可能會在特定任務中給予人類一個重擊，比如下圍棋，但在更普通的任務上，比如區(qū)分烏龜與槍對其來說就很困難。
盡管如此，去年2月，一組由26名人工智能研究人員組成的團隊在牛津會面，討論超人類AI（superhuman artificial intelligence）在未來可能被應用于惡意目的的方式。這次為期兩天的會議產出了一份長達100頁的報告，內容是關于人工智能不良應用所帶來的風險以及降低這些風險的策略。
工作組提出的四項建議中，有一項是“人工智能的研究人員和工程師應當謹慎對待其工作的雙重使用特性，在研究的優(yōu)先級和規(guī)范中考慮相關使用不當所產生的影響，并在有害應用程序可預見時主動聯系相關的參與者。”這一建議尤其適用于最近興起的“deepfakes”，主要把機器學習用于將好萊塢女演員的臉換接到色情演員的身體上（制作人工合成的假色情片）。由Motherboard的Sam Cole最先報道，這些deepfakes是通過改編一個名為TensorFlow的開源機器學習庫來實現的，該庫最初由谷歌工程師開發(fā)。Deepfakes強調了機器學習工具的雙重使用特性，同時也提出了一個問題：誰應該使用這些工具？
盡管報告中特別提到了Deepfakes，研究人員還強調了將這種類似的技術用于處理世界領導人視頻所產生的危害，這會對政治安全構成威脅，這是研究人員考慮到的三大威脅領域之一。人們只需想象出一段虛假的視頻，如特朗普在平壤向朝鮮宣戰(zhàn)以及由此引發(fā)的后果，就會明白這種情況的危險性。此外，研究人員還發(fā)現，通過數據分析和大規(guī)模有針對性的宣傳，利用人工智能技術，能實現前所未有的大規(guī)模監(jiān)控，這是對政治領域考量的另一個側面。
另外兩個被認為是惡意人工智能的主要風險領域是數字和物質安全（physical AI？security）。在數字安全方面，使用人工智能進行網絡攻擊將“緩解現有的攻擊規(guī)模和效率之間的權衡。”大規(guī)模的網絡攻擊可能會以人工智能的形式進行，比如大規(guī)模的網絡釣魚，或者更復雜的攻擊形式，比如使用語音合成來模擬受害者。
在物質AI威脅方面，研究人員觀察到物質世界對自動化系統(tǒng)越來越依賴。隨著更多智能家居和自動駕駛汽車上線，人工智能可能被用來顛覆這些系統(tǒng)，并造成災難性的破壞。此外，還有故意制造惡意人工智能系統(tǒng)所帶來的威脅，比如自動化武器或微型無人機。
其中一些場景，比如微型無人機所帶來的災難，似乎還很遙遠，而其他的一些，比如大規(guī)模網絡攻擊、自動化武器和視頻操控等，已經引發(fā)了一些問題。為了應對這些威脅，并確保人工智能被用于造福人類，研究人員建議開發(fā)新的政策解決方案，并探索不同的“開放模式”以降低人工智能的風險。例如，研究人員認為，中央訪問許可模式（central access licensing models）可以確保人工智能技術不會落入壞人之手，或者建立某種監(jiān)控程序來密切記錄人工智能資源的應用途徑。
報告的作者寫道：“目前的趨勢強調了對前沿研究和發(fā)展成果的廣泛開放。如果這些趨勢在未來5年持續(xù)下去，我們預期攻擊者用數字和機器人系統(tǒng)造成危害的能力會顯著提高。”
另一方面，研究人員認識到，開源人工智能技術的擴散也將越來越多地吸引決策者和監(jiān)管機構的注意，他們將對這些技術施加更多限制。至于這些政策應該具體采取何種形式，必須從地方、國家和國際層面上加以考量。報告總結說：“這份報告的合著者之間仍然存在許多分歧，更不用說世界上不同的專家群體了。隨著各種威脅和反饋被發(fā)現，在我們得到更多的數據之前，這些分歧不會得到解決。但這種不確定性和專家分歧不應阻止我們在今天盡早采取預防措施。”
責任編輯：吳一波
相關推薦
巴帝電信夢想成真：107億美元收購Zain非洲資產
這筆交易將為巴帝電信在15個非洲國家?guī)?200萬用戶，意味著其躋身新興市場頂尖運營商的夢想終于成真。Zain出售非洲資產套現90億美元在雙方約定的107億美元中包括90億美元的股份收購，支付方式將為現金。其中83億美元將在交易結束后支付，7億美元將在交易結束一年后支付。此外，巴帝電信還須代替Zain承擔起17億美元的綜合債務。據稱，Zain可分派儲備和40億美元循環(huán)貸款償付的規(guī)模須經股東批準，它打算以股息的形式向股東分配前期大部分凈收入。Zain集團董事長阿薩德·艾爾·班萬（AsaadAlBanwan）評價該交易時相當得意：“自2005年收購Celtel以來，我們大幅增長成為非洲主要的移動運
蘋果CEO庫克暗示不會推ARM芯片MacBook Air
北京時間2月4日消息，據國外媒體報道，蘋果首席執(zhí)行官蒂姆庫克（TimCook）和首席財務官彼得奧本海默（PeterOpenheimer）近日與花旗分析師會談時指出，由于iPad發(fā)展前景廣闊，所以不太可能去開發(fā)基于ARM芯片的MacBookAir；中國市場蘊含著巨大的增長潛力；AppleTV前景仍不明朗；而iCloud發(fā)展迅速且非常重要。iPad將繼續(xù)發(fā)展，不會推出基于ARM芯片的Mac。庫克重申了他在季度財報電話會議上所說的話，他認為平板電腦市場將繼續(xù)發(fā)展，最終將超過傳統(tǒng)PC市場的規(guī)模。蘋果并未將iPad看作是PC產品，而是將它看作一款后PC產品，因此基于ARM芯片的平板電腦將不會與基于英特爾
AirPlay支持 YAMAHA全新AVENTAGE功放
小米AI音箱發(fā)布 299元的智能生活助理