越來越多的人是據說通過蓬勃發展的技術，使用人工智能來產生仇恨內容，擔心有問題的趨勢專家。以前的聯合國諮詢機構警告的趨勢可以增強各種宣傳。
加拿大反討厭網絡的記者彼得·史密斯（Peter Smith）斷言，研究仇恨內容和仇恨媒體的研究人員正在觀察到越來越多的AI生成內容。
因此，根據不列顛哥倫比亞大學民主機構研究中心助理主任克里斯·特諾夫（Chris Tenove）的說法，仇恨團體和白人至上主義組織的歷史是最早採用新的互聯網工具和方法的歷史。
聯合國諮詢委員會於12月提出了這個問題。它對這種前景表達了極大的關注，即生成的AI可以擴大伊斯蘭恐懼症，反猶太，仇外和種族主義話語。這些內容有時會溢出到現實生活中。
史密斯聲稱，在AI被用來創建“極端種族主義的皮克斯風格的電影海報”之後，有些人印刷了標誌，並將其放在劇院的外部。
只需一點指示，生成的AI系統幾乎可以立即產生圖片和電影。據史密斯說，只有少數擊鍵，一個人可以在與需要花費小時數量創建一個時間的人相同的時間內創建數十個圖像。
AI討厭內容激增
B'nai Brith加拿大在最近的反猶太報告中提出了AI生成的仇恨內容的問題。根據該報告，過去一年中使用AI製作，更改和製造的反猶太圖片和電影的無與倫比的激增。
根據研究與倡導總監理查德·羅伯遜（Richard Robertson）的說法，該組織注意到AI被用來創建令人難以置信的生動和恐怖的視覺效果，其中大多數涉及大屠殺，否認，減少或失真。
警告隨著人工智能的深擊仍然像他們可能的問題一樣發出恐怖組織現在也使用蓬勃發展的技術傳播宣傳。
AI驅動的恐怖宣傳
在阿富汗和巴基斯坦運作的IS分支集團伊斯蘭國霍拉桑（ISKP）發行了一段視頻，該視頻在5月17日在阿富汗巴米揚省的一次襲擊之後，AI主持人似乎在閱讀了這一消息。這次襲擊事件宣稱四個人的襲擊宣稱包括三名西班牙遊客的生命，包括三名西班牙遊客。
據該網站的霍拉桑日記（Khorasan Diary）的報導，該網站側重於該地區的新聞和分析，據報導，人造化身作為錨點講話，並具有類似於Bamiyan本地人的特徵。
一個單獨的男性數字新聞主持人在AI宣傳的宣傳視頻中斷言，伊斯蘭國應歸咎於阿富汗坎大哈的汽車爆炸。
3月22日在莫斯科音樂廳襲擊大約145人死亡的四天后，開始使用AI生成的新聞公告。被奪走了該活動的所有權。使用“假” AI生成的新聞主播在視頻中介紹了莫斯科攻擊。
此外，根據國際暴力極端主義研究中心的報導，支持者一直在使用文本到語音AI技術和角色生成技術來解釋IS AMAQ新聞社的新聞公告。
