Facebook推出人工智能來檢測帖子內容預防網民自殺

 

據媒體報道, Facebook的新的“主動檢測”人工智能技術將掃描所有職位的自殺念頭,並在必要時向有風險的用戶或朋友發送心理健康資源,或聯繫當地的急救人員。

消息稱,通過使用AI標記令人擔憂的帖子給人類主持人而不是等待用戶報告,Facebook可以減少發送幫助所需的時間。

 




這是拯救生命的軟件功能

Facebook之前使用AI進行測試以檢測令人不安的帖子,並向美國的朋友們展示了更為突出的自殺報告選項。現在,Facebook將使用此AI來掃描世界各地的所有類型的內容,除了在歐盟,通用數據保護條例隱私法 基於敏感信息對用戶進行剖析使得這種技術的使用變得複雜。

Facebook還將使用AI來優先處理特別危險或緊急的用戶報告,以便他們能夠更快速地處理版主,以及立即顯示當地語言資源和第一響應者聯繫信息的工具。同時也為更多的主持人提供自殺預防,培訓他們全天候處理病例,現在有80個當地的合作夥伴,如Save.org,國家預防自殺生命線和Forefront,為危險的用戶及其網絡提供資源。

產品管理副總裁蓋伊•羅森(Guy Rosen)表示:“這是為了減少整個過程的每一個步驟,特別是在Facebook Live中。在過去一個月的測試中,Facebook已經發起了超過100次的“健康檢查”,第一響應者訪問了受影響的用戶。 “有一些情況下,第一響應者已經到達,該人仍在廣播。”

 



Facebook主動掃描人員帖子內容的想法可能會引發一些反烏托邦人擔心該技術如何應用。 Facebook並沒有回答如何避免掃描政治異議或微不足道的犯罪,羅森只是說:“我們有機會在這裡幫助,所以我們將在這方面進行投資。”肯定有巨大的有利方面技術,但這是另一個空間,我們別無選擇,只希望Facebook不會太過分。

Facebook的首席安全官亞歷克斯·斯塔莫斯(Alex Stamos)用一個令人振奮的鳴叫來回應這些擔憂,表示Facebook確實認真負責地使用人工智能。

[完]

 

對於以上消息,各位298電腦讀者又怎看呢?

歡迎到我們的<<討論區>>分享你的意見。

灣仔298電腦資訊網
免費網上電腦雜誌,電腦IT人集中地!

網址:www.wanchai298.com

發表回覆

Specify Facebook App ID and Secret in Super Socializer > Social Login section in admin panel for Facebook Login to work