晴時多雲

對抗仇恨言論 Facebook祭出AI協助

2021/06/03 18:36

Facebook 亞太區內容政策經理 Manu Gummi說明臉書平台強調透明度,網友不當言論被下架,一定會清楚告知違反哪一條社群守則。(Facebook提供)

〔記者陳炳宏/台北報導〕常有民眾反應,自己莫名其妙的被臉書(Facebook)封鎖,臉書今日表示,臉書不允許平台上出現仇恨言論。這類言論會造成整個環境充斥著恐嚇與排擠,有時甚至可能會助長實體世界中的暴力行為,所以制定「社群守則」政策,明訂允許及禁止的內容與行為,並透過AI協助,優先處理網友瘋傳、危害嚴重性高、與違規可能性高的言論,也會持續調整政策,以跟上不斷變化的網路行為。

臉書指出,用戶在平台上每瀏覽1萬則內容,約僅有7至8則內容包含仇恨言論,為了提升過濾效能,臉書也借重人工智慧(AI)科技發展,不管在國家、國籍、文化、語言等,都會儘量找出有害的內容,確保人工審查團隊能夠有效率、規模化的執行移除工作維護平台運作。其中包括XLM-R 或語言理解(lingual understanding),能夠建立機器學習分類器,分析多種語言中的相同概念,在一種語言中的學習成果可以改善在另一種語言中的成效。對於網路上較不常用的語言來說,這項科技格外實用。

臉書表示,為了制定政策,內容政策團隊參考科技、公共安全和人權等領域的獨立專家所提出的意見。其中內容政策團隊,全球共有11處辦公室,團隊由不同領域的專家組成,例如恐怖主義、仇恨言論和兒童安全。這些專家隸屬於規模更大的臉書團隊,當中共有超過35,000人負責處理安全問題,其中也包含超過15,000位的內容審查員。

臉書強調,內容政策團隊每兩週召開政策論壇(Policy Forum),討論如何修正「社群守則」及廣告政策。因為網路用語的意義瞬息萬變,前天才出現的詞彙,隔天便可能成為傷人的用語。

此外,也借助全文解讀(Whole post understanding)或 WPIE能力,從整體角度檢視貼文的能力,不論是圖像、影片或文字,並同時找出各種違反政策的問題,而不需執行多種分類器。

Facebook 亞太區內容政策經理Manu Gummi強調,當用戶自己的內容被移除時,EMail與APP一定會同時收到通知,清楚告知什麼內容違法什麼社群守則被移除,並將守則連結附在上面,因為我們認為透明度是很重要的,這也具備教育目的,讓用戶從錯誤中學習, 粉專管理員也能從管理頁面看到為什麼被移除。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。

相關新聞

今日熱門新聞
看更多!請加入自由財經粉絲團
網友回應
載入中