性掠奪者正在利用生成人工智慧技術在論壇上分享兒童性虐待的虛假影片。他們也交換規避人工智慧安全措施的技巧，或更好地誘騙受害者。目前，幾乎沒有什麼保障措施來限制這種做法。
當科技被濫用：一個美國非政府組織國家失蹤與受虐兒童中心（法文：國家失蹤和受虐兒童中心）警告說，針對未成年人的性掠奪者也訴諸於人工智慧（人工智慧）生成。後者將使用圖像和文字生成工具來實現其目的。在某些論壇上，我們現在發現描述個人資料的腳本可以更容易獲得未成年人的信任。虛假影像針對兒童的性暴力報告稱，人工智慧生成的內容將在那裡成倍增加，而擺脫生成式人工智慧（如果存在）的控制的建議也會成倍增加。彭博社，5 月 24 日星期三。
雖然其中一些不道德行為目前不一定是非法的，但它們具有擴大兒童色情影像傳播的效果。它們也增加了兒童被兒童罪犯困住的情況。問題：人工智慧用戶的行為，無論是免費還是付費訪問，都是難以控制的。
人工智慧生成的兒童色情內容很快就會氾濫嗎？
不過，保障措施已經到位。開發這些圖像生成人工智慧的公司已在上游採取安全措施，以便用戶無法使用其工俱生成暴力或色情圖像。他們的手段是：阻止關鍵字以避免產生此類內容，就像 Stable Diffusion 或 Dall-E 所做的那樣。但透過使用黑名單單字以外的表達方式，或使用英語以外的語言，很容易繞過這些審核工具。 ActiveFence（一家專門從事內容審核的新創公司）的經理之一 Avi Jager 在接受我們的同事採訪時表示，這些技巧將在論壇上分享。而其他人工智慧根本不會限制他們的提示。捍衛兒童權利的非政府組織擔心，這些工具的使用最終會在網路上造成此類內容的氾濫。
這樣一來，就很難將人工智慧產生的內容與針對兒童的性侵犯的真實圖像區分開來。風險在於執法人員會浪費寶貴的時間試圖區分事實與虛構。
AI即將大規模用於針對礦工？
這些虛假影像的擴散並不是唯一的問題。人工智慧也將使性掠奪者更加嘗試接近潛在的受害者。接受我們的同事採訪，法務總監國家失蹤與受虐兒童中心Yiotas Souras 解釋說，有些共享由 AI 生成的腳本。我們可以透過閱讀虛構人物的描述來獲取未成年人的信任，以便更好地誘騙他們。而這種現象僅處於起步階段。 “我們正處於新事物的黎明。一切才剛開始»，她向我們的同事解釋。
英吉利海峽對岸也充滿擔憂。英國反對技術性侵犯組織 EndTab 的創始人亞當道奇 (Adam Dodge) 也擔心人工智慧最終可能會大規模用於針對未成年人。提問者泰晤士報,5月21日，協會經理回憶道，這些AI工具非常有說服力。 “如果我創建一個掠奪者的人工智慧克隆（…）並訓練該機器人大規模地在線識別弱勢兒童並與其進行交流[……]，那麼該機器人可以一次針對 10,000 名兒童。»，他很震驚。
這家美國非政府組織解釋說，它正在與立法者討論，以評估新法規如何限制人工智慧的使用，因為人工智慧會危及未成年人並傳播兒童色情圖片。解釋說，在美國，產生此類內容本身並不違法彭博社。關於人工生成兒童性虐待圖像的投訴也已提出。
來源 ： 彭博社
