DeepFake研究正在增長，對與之抗爭的公司的投資也在增長

AI生成的內容（例如Deepfakes）正面臨越來越多的審查。三個新的研究資源 - 由搜索巨頭撰寫Google，身份驗證公司onfido和政治百科全書投票 - 檢查為什麼我們應該關注該技術，分析其最大風險，對英國選舉的影響以及對美國深層訴訟的不斷增加的法規

同時，投資正在流入正在開發與生成AI威脅的工具的公司，包括loti ai和很好。

Google：政治是濫用生成AI的主要原因

Google的一項新研究顯示，操縱人類的肖像，例如創建深擊圖像，視頻和人的音頻，已成為濫用生成AI的最常見策略。濫用該技術的最常見原因是影響公眾輿論（包括搖擺政治意見），但它也在騙局，欺詐或其他產生利潤的手段中找到自己的道路。

該論文是由Google AI Research Lab DeepMind及其研究與開發部門Jigsaw的研究人員發表的。該研究對2023年1月至2024年3月之間發表的濫用生成的AI系統的科學論文以及200個媒體報導進行了調查。

根據這項研究，創建了D生成AI是為了影響27％的案件中的公眾輿論。這不僅包括旨在搖擺競選活動的媒體：圍繞政治分裂的話題，例如戰爭，社會動盪或經濟衰落，收取的合成圖像一直在出現。

報告指出：“ Genai工具的複雜性，可用性和可訪問性似乎引入了新的和低級的濫用形式，這些形式既不是惡意的，也不明確違反了這些工具的服務條款，但仍然具有道德上的後果。” “其中包括出現新形式的政治宣傳，自我宣傳和倡導，使真實性和欺騙之間的界限變得模糊。”

產品和服務的貨幣化，例如低質量的AI生成的文章，書籍和產品以及性明確的材料，是濫用該技術的第二個主要原因，佔報告案件的21％。第三名是騙局和欺詐。

例如，名人或公眾人物的模仿通常用於投資騙局中，而AI生成的媒體也可以生成以繞過身份驗證並進行勒索，sexttort和網絡釣魚騙局。

由於主要數據是媒體報告，研究人員警告說，對AI生成的濫用的看法可能會偏向吸引頭條新聞的濫用。但是，儘管擔心複雜或國家贊助的參與者會使用生成的AI，但發現許多濫用案例都依靠需要最少技術技能的流行工具。

英國目前正在為7月4日的大選做準備，該選舉將迎來新任總理。然而，超過40％的英國公民認為，Onfido進行的一項新調查顯示，選民可能會被Deepfakes搖擺。

英國人在網上越來越持懷疑態度，將近四分之一（23％）說他們不信任社交媒體上的任何政治內容。持懷疑態度可能有必要：一月，超過100DeepFake視頻廣告冒充總理Rishi Sunak在Facebook上出現了，達到了多達40萬人。

該調查詢問了2,000多名英國成年人的意見，發現64％的選民不確定他們可以判斷政治在線音頻還是視頻內容是假的。 Onfido全球政策總監Aled Lloyd Owen說，AI可以幫助降低深層攝影的普遍性並恢復對在線互動的一些信任。

他說：“ AI在防禦惡意深層攻擊中起著關鍵作用。” “它可以識別出通常對人眼無法察覺的內容的細微差異，而它可以根據需求擴展預防。

Onfido以前有引起了人們的關注在深層發展中，呼籲立法者更多地關注模仿，欺詐和騙局的生成AI使用。但是，生成的AI使用可能使英國人的損失不僅僅是金錢：他們中有66％的人認為深瓦和假新聞可能會嚴重損害英國的民主。

隨著深層發展的威脅，一些公司正在提出保護圖像在線圖像的新穎解決方案。

Loti AI通過從社交媒體中檢測和刪除其深層攝影和模仿者帳戶來為公眾人物提供保護。該初創公司聲稱，它每天掃描超過1億張圖像和視頻，並以95％的有效性去除未經授權的內容。

上週，由庫克群島註冊的公司宣布，由總部位於美國的風險投資公司Fuse的西雅圖領導的515萬美元的種子資金，來自Bling Capital，K5 Tokyo Black，Ensemble和Alphaedison的參與。

除了深餐和虛假帳戶外，Loti AI還針對虛假認可和未經許可的內容分佈。

另一家新的公司涉足Deepfakes的禍害是GetReal Labs。該公司由加利福尼亞以網絡安全為中心的風險投資公司彈道風險投入

該初創公司是由彈道風險投資公司的普通合夥人Ted Schlein共同創立的，漢尼·法里德（Hany Farid）是伯克利人工智能實驗室，數據科學研究所和視覺和光學創新中心，伯克利分校的數字法醫專家漢尼·法里德（Hany Farid）。

該公司專注於保護組織，包括金融和媒體公司以及政府機構，免受語音和視頻等操縱媒體的侵害。

除了彈道風險外，GetReal還得到了Venrock的支持。

針對Deepfakes的法規正在增長：根據Ballotpedia提供的新數據，美國目前有294張法案試圖調節AI生成的內容。

旨在提供有關美國選舉的可信信息的非營利組織已發布了與DeepFake監管有關的詳細數據AI Deepfake立法跟踪器，涵蓋所有50個州。根據其數據，該領域的賬單數量在2019年至2023年之間平均每年增加28％。

投票也有出版Deepfake立法的狀態2024年度報告。