過去幾年，由於足夠令人信服的錯誤信息和虛假新聞，在線內容已經聲名狼藉，但人工智能顯著改變了這一點，首席執行官 Adam Mosseri 強調說。在 Meta 的微博平台 Threads 上發布的新帖子中，首席執行官警告說，在沒有適當的事實核查程序的情況下，不要相信他們在網上看到的所有內容，包括社交媒體。
話雖如此，Mosseri 還強調，目前的社交媒體平台正在積極主動地為用戶提供有關在線發布的人工智能生成內容的“標籤”，作為幫助用戶使用的最佳方式之一。
Instagram 的負責人 Adam Mosseri，在 Threads 上分享了一系列帖子其中詳細介紹了技術的許多奇蹟及其製作內容的能力，這導致了依賴人工智能的現代體驗。莫塞里承認人工智能具有比以往更快地生成內容的巨大能力，但它們也模糊了虛假與真實之間的界限。
莫塞里表示，由於生成人工智能的巨大能力，現在很難從捏造的內容中辨別現實，一位朋友十年前提醒他，內容的合法性不僅僅取決於內容，還取決於誰或誰“提出了這一主張”。
這位 Instagram 負責人聲稱，雖然已經有針對這些內容的保障措施，但有些內容最終會“漏網之魚”並公開發布，提醒每個人也要注意自己的在線活動。
Meta 的人工智能標籤是第一個，但事實和來源檢查仍然是必須的
儘管莫塞里承認，並非所有虛假內容都會由人工智能生成，但該技術使一些人更容易創建誤導性內容，並冒充合法內容。該高管聲稱，他們的角色重點是提供“人工智能標籤”，但這並不意味著用戶在相信內容之前應該停止檢查內容的合法性和上下文，尤其是其來源。
人工智能錯誤信息和假新聞比你想像的更臭名昭著
互聯網已經擺脫了人工智能生成的內容，因為它對公眾廣泛可用，免費用戶可以在短短幾秒鐘內創建令人信服的、有意義的內容。然而，人工智能有一個臭名昭著的特徵，即“產生幻覺”信息，這些信息大多超出了其範圍，或者尚未接受過這些主題的培訓，並且它可以在網絡世界中。
話雖這麼說，公司已經在不停地努力打擊生成人工智能帶來的這種新形式的錯誤信息，特別是對於那些立即相信他們在平台上看到的內容的粗心大意的人。 Meta 是那些推出人工智能檢測工具並立即讓用戶知道特定帖子是通過機器學習發布的公司之一以前稱為“AI 標籤”。
儘管網絡上有這些保護措施，但仍然有許多不知名的社交媒體用戶喜歡這些類型的內容，因為它們具有驚人的說服力，並且可以吸引大量的參與度，使它們更加可信。然而，Instagram 的 Adam Mosseri 再次給公眾敲響了關於社交媒體消費的警鐘，特別是用戶需要更加主動地進行事實核查以避免被誤導。
