亚洲网站免费_国产一区二区三区在线看麻豆 _国产精品毛片一区二区三区 _麻豆精品网站

微軟提出深度學習新架構:使用問答系統(tǒng)來得到語法上可解釋的表征

2017-05-25 15:34:56 來源:機器之心 熱度:
近日,微軟公布的一篇新論文提出了一種新架構,它的內部表征(在執(zhí)行文本問答任務時通過端到端的優(yōu)化來學習的表征)可以用語言學理論的基本概念來解釋。這篇論文的作者之一鄧力目前已經離開了微軟,加入了對沖基金巨頭 Citadel 任首席人工智能科學家。
 
 
論文內容:
 
我們介紹了一種新架構,它的內部表征(在深度學習網絡中通過執(zhí)行文本問答任務來端到端優(yōu)化而學習到的表征)可以用語言學理論的基本概念來解釋。這種可解釋性相對于新的基于原模型的準確度只有幾個點的降低(BiDAF[1])。被解釋的內部表征是張量積表示(Tensor Product Representation):對于每個輸入詞,模型選擇一個符號來對詞進行編碼,一個放置符號的角色(role),然后將它們綁定起來。這種選擇是通過軟注意(soft attention)模型實現(xiàn)的,總體的解釋是由符號的解釋所構建的,與訓練模型利用的一樣,模型也利用對角色的解釋。
 
我們發(fā)現(xiàn)了對初始假設的支持,即符號可以被解釋為詞匯-語義詞義(lexical-semantic word meanings),而角色可被解釋為對語法角色(或類別)的近似,例如主語、問詞、限定詞等。通過非常詳細的、細粒度的分析,我們發(fā)現(xiàn)了在學習到的角色和又標準解析器 [2] 分配的詞性之間的特定對應關系,并且在模型的幫助下找到了幾個差異。在這個意義上,該模型可以在僅有無語言學相關注釋的文本、問題和答案的情況下學習到語法的重要方面:模型沒有先驗的語言學知識。該模型僅有使用符號和角色來進行表征的方式和以一種大致離散的方式有利于這種使用的歸納偏置。

責任編輯:黃焱林

相關推薦

微軟:ARM版Win8將同時發(fā)布 可運行Office

2月10日消息,據(jù)AllThingsD報道,微軟Windows部門總裁史蒂芬·西諾夫斯基(StevenSinofsky)接受采訪時稱,第一款運行Windows8的ARM架構芯片產品,會與運行Windows8的傳統(tǒng)英特爾和AMD芯片電腦同時推出。西諾夫斯基還表示,ARM產品上的Windows系統(tǒng)將攜帶多個Office應用程序,包括Word、PowerPoint、Excel和OneNote,不過這些軟件都進行了修改,以非常節(jié)約電力的方式運行。但西諾夫斯基稱,雖然這些應用軟件可運行在傳統(tǒng)的Windows桌面上,但除了Windows本身的組件外,只有這些軟件可被允許運行在ARM設備上上。西諾夫斯基對A

微軟和蘋果桌面斗法頻臨分道揚鑣

微軟和蘋果開始在桌面之爭中走向不同的短點微軟和蘋果的桌面之爭一直處于膠著狀態(tài),并且近期都透出了最新桌面操作平臺的最新消息。蘋果已與日前發(fā)布了最新的OSX10.8(代碼名MountainLion)的開發(fā)者預覽版操作平臺,而微軟也已經公布了其上市Windows8消費者預覽版的計劃,或將于本月底的MWC2012上正式發(fā)布。從兩家移動操作平臺的不同走勢來看,微軟和蘋果開始在桌面之爭中走向不同的短點。微軟Windows桌面的移動化

微軟為開發(fā)者提供Windows 8的ARM平板和PC

國外媒體報道,微軟開始讓開發(fā)者試用Windows8的ARM產品。微軟將向部分開發(fā)者和多家公司開放基于ARM處理器的平板電腦和PC的Windows8。這些開發(fā)者拿到了的這些平板電腦和PC基于高通SnapdragonS4和Nvidia4核Tegra3處理器,都是基于ARM架構并且包括了LTE4G技術。這些設備將讓開發(fā)者全體驗Windows8和ARM組合,同時有機會在此系統(tǒng)組合下開發(fā)應用。高通稱已經向開發(fā)者發(fā)放了基于ARM并且使用Windows8的PC,微軟則向其軟件開發(fā)者提供了基于Tegra3的平板電腦。

微軟下周一開發(fā)布會 或重在ARM版Win8設備

6月15日消息,微軟將于下周一召開發(fā)布會,將有重大產品宣布,會議地點在舊金山。微軟已經向媒體發(fā)出邀請函,會議在下午召開,不過微軟沒有透露會議具體地點,要到下周一上午才能知道。在郵件中,微軟說:“這將是微軟重要產品發(fā)布會,你不會錯過的。”微軟拒絕進一步置評。從發(fā)布會地點來看,它可能與娛樂產業(yè)有關。最近幾個月,微軟向Xbox360視頻游戲機推出更多的電視節(jié)目。Netflix已經向Xbox提供節(jié)目,公司CEO也進了微軟董事會。微軟還準備推出新Windows8操作系統(tǒng),它同時在筆記本、平板、電腦、電視上運行。而據(jù)AllThingsD報道稱,微軟會推出基于ARM平臺的Windows8平板電腦。還會展示一

主站蜘蛛池模板: 鄂托克旗| 徐州市| 赣州市| 瓦房店市| 丹巴县| 伊吾县| 涿鹿县| 凤山市| 吴堡县| 大渡口区| 绥芬河市| 万山特区| 延安市| 绥阳县| 呼和浩特市| 铜鼓县| 通辽市| 武胜县| 黑水县| 木兰县| 雷波县| 拜城县| 东莞市| 汕尾市| 天峨县| 察隅县| 历史| 德钦县| 阿克| 千阳县| 繁昌县| 碌曲县| 阳新县| 兴和县| 汶上县| 金沙县| 德昌县| 宜君县| 晋宁县| 双柏县| 揭西县|