Facebook 在周二宣布，他們正在推出一個旨在預防用戶自殺的人工智能工具。

該工具可以監視郵件、視頻和直播內容，還可以從用戶的朋友那里查找諸如“你還好嗎？”和“我能幫忙嗎？”的信息， 隨后，Facebook 的社區運營團隊就會審查內容，并通過 Facebook Messenger 與用戶或者他們的朋友聯系，并鏈接到相關防范頁面，包括全美預防自殺生命線和危機援助短信專線。

人工智能組件邁出了平臺現有自殺預防工作的重要一步。 Facebook 已經允許告知用戶認為可能有自殺傾向的朋友。

但在周三的 Facebook 年度社交論壇上，首席執行官馬克·扎克伯格表示，人工智能可以幫助人們更快地發現有自殺傾向的朋友：如果 AI（或朋友）指出用戶即將面臨自殺危險，Facebook 將會向當地第一響應者（警察，消防部門或 EMT）做出警示，他們就可以立即幫助當地的人員。

他說：“當你試圖保護讓人們的安全，速度真的很重要。 在美國的最近一個月里，AI 工具幫助那些急救人員迅速伸出援手，已經幫助了 100 多名需要迅速救助的人。”

“對于擔心未來人工智能可能有害的人，最好先提醒自己 AI 今天是如何幫助人們挽救生命的。”對人工智能威脅論，他嗤之以鼻。

“未來人工智能將能夠更多地理解語言的細微差別，并能夠識別自殺以外的不同問題，包括迅速發現欺凌和仇恨。”

在運營團隊審查此類緊急事件之前，Facebook 也正在努力改進技術以避免誤報。 Facebook 產品管理副總裁 Guy Rosen 在論壇上表示，Facebook 目前正在擴充這個團隊。他補充說，最近幾個月，公司在努力使這個團隊更容易找到準確的第一響應者的聯系信息。

“人工智能可以立即識別有人可能會表達自殺的想法，這事關速度......每一分鐘都很重要。”他說。

除了擁有嚴格數據隱私法的歐盟外，Facebook 正在全球推出 AI 自殺預防工具，而這只是 Facebook 最近推出的幾項人道主義舉措之一。