Meta 決定透過更換集中式事實檢查團隊來改變其內容審核政策具有使用者生成的社群標籤激起了一股反應風暴。但從表面上看,這些變化引發了人們對 Meta 舊政策(事實查核)及其新政策(社區評論)有效性的質疑。
隨著全球數十億人訪問他們的服務,Meta 的 Facebook 和 Instagram 等平台有責任確保用戶不會受到消費者欺詐、仇恨言論、錯誤訊息或其他線上弊病的傷害。考慮到這個問題的嚴重性,打擊網路危害是一個嚴峻的社會挑戰。內容審核在解決這些線上危害方面發揮著重要作用。
審核內容涉及三個步驟。第一個是掃描線上內容(通常是社交媒體貼文)以檢測潛在有害的文字或圖像。其次是評估被標記的內容是否違反法律或平台的服務條款。第三是採取某種方式介入。介入措施包括刪除貼文、新增警告標籤以及減少貼文的檢視或分享量。
內容審核的範圍包括使用者驅動的審核模型從社群為基礎的平台(例如維基百科)到集中式內容審核模型(例如 Instagram 使用的模型)。研究表明,這兩種方法都是混合體。
事實查核有用嗎?
Meta 先前的內容審核政策依賴第三方事實查核組織,這讓有問題的內容引起了 Meta 員工的注意。元的美國事實查核組織包括法新社美國、Check Your Fact、Factcheck.org、Lead Stories、PolitiFact、Science Feedback、Reuters Fact Check、TelevisaUnivision、The Dispatch 和 USA TODAY。
事實查核依賴公正的專家審查。研究表明,它可以減少錯誤訊息的影響,但不是包治百病的靈丹妙藥。此外,事實查核的有效性取決於是否使用者感知事實查核員的角色和事實查核組織的性質值得信賴。
眾包內容審核
在他的公告Meta 執行長馬克祖克柏強調,Meta 的內容審核將轉向類似 X(前身為 Twitter)的社群註釋模式。 X 的社群筆記是一種眾包事實檢查方法,允許用戶編寫筆記以告知其他人可能存在誤導性的貼文。
關於 X 式內容審核工作成效的研究褒貶不一。一項大規模研究發現,幾乎沒有證據表明社區的引入會顯著影響減少 X 上誤導性推文的參與度。相反,這種基於人群的努力似乎可能太慢,無法在錯誤訊息傳播的早期和最具病毒性的階段有效減少對錯誤訊息的參與。
平台上的品質認證和徽章已經取得了一些成功。然而,社區提供的標籤可能沒有效果減少參與度…