過去幾年，由於足夠令人信服的錯誤訊息和虛假新聞，線上內容已經聲名狼藉，但人工智慧顯著改變了這一點，執行長 Adam Mosseri 強調。在 Meta 的微博平台 Threads 上發布的新帖子中，首席執行官警告說，在沒有適當的事實核查程序的情況下，不要相信他們在網上看到的所有內容，包括社交媒體。
話雖如此，Mosseri 還強調，目前的社交媒體平台正在積極主動地為用戶提供有關在線發布的人工智能生成內容的“標籤”，作為幫助用戶使用的最佳方式之一。
Instagram 的 Adam Mosseri 警告社交媒體上存在人工智慧錯誤訊息
Instagram 的負責人 Adam Mosseri，在 Threads 上分享了一系列帖子其中詳細介紹了技術的許多奇蹟及其製作內容的能力，這導致了依賴人工智慧的現代體驗。莫塞里承認人工智慧具有比以往更快生成內容的巨大能力，但它們也模糊了虛假與真實之間的界線。
莫塞里表示，由於生成式人工智慧的巨大能力，現在很難區分現實和捏造的內容，十年前一位朋友提醒他，內容的合法性不僅僅在於內容，還在於誰或哪個人「製作了該內容”。宣稱。”
這位 Instagram 負責人聲稱，雖然已經有針對這些內容的保障措施，但有些內容最終會「漏網之魚」並公開發布，提醒每個人也要注意自己的線上活動。
Meta 的人工智慧標籤是第一個，但事實和來源檢查仍然是必須的
儘管莫塞里承認，並非所有虛假內容都會由人工智慧生成，但該技術使一些人更容易創建誤導性內容，並冒充合法內容。該高管聲稱，他們的角色重點是提供“人工智慧標籤”，但這並不意味著用戶在相信內容之前應該停止檢查內容的合法性和上下文，尤其是其來源。
人工智慧錯誤訊息和假新聞比你想像的更臭名昭著
網路已經擺脫了人工智慧生成的內容，因為它對公眾廣泛可用，免費用戶可以在短短幾秒鐘內創建令人信服的、有意義的內容。然而，人工智慧有一個臭名昭著的特徵，即「產生幻覺」訊息，這些訊息大多超出了其範圍，或者尚未接受過這些主題的培訓，並且它可以在網路世界中。
話雖這麼說，公司已經在不停地努力打擊生成人工智慧帶來的這種新形式的錯誤訊息，特別是對於那些立即相信他們在平台上看到的內容的粗心大意的人。 Meta 是那些推出人工智慧檢測工具並立即讓用戶知道特定貼文是透過機器學習發布的公司之一以前稱為“AI 標籤”。
儘管網路上有這些保護措施，但仍有許多不知名的社群媒體用戶喜歡這些類型的內容，因為它們具有驚人的說服力，並且可以吸引大量的參與度，使它們更加可信。然而，Instagram 的 Adam Mosseri 再次給大眾敲響了關於社群媒體消費的警鐘，特別是用戶需要更主動地進行事實查核以避免被誤導。
