一個社論在韓國的Chosun日報中,在韓國共和國及以後的四月大選之前,展示了非法深層活動的規模。根據文章,韓國的國家選舉委員會(NEC)在19天的監視期內檢測到129個非法AI Deepfake職位。內容包括高度令人信服的Deepfake視頻,其中主要通過社交媒體傳播,對語音或視覺效果的改變或視覺效果改變。
這件作品說,更糟糕的是,NEC的DeepFake監測系統的相對較低的複雜性和能力相對較低,這意味著可能還有更多深擊未被發現。
2022年韓國的當地選舉已經看到了深層內容,其中包括Yoon Suk-Yeol總統進行政治認可的假錄像帶。那一年,在泰國也有一個勒索案件,涉及深擊警察。 2023年,當他們的深層相似性被用來促進加密貨幣時,新加坡總理兼副總理遭受了折磨。
根據全球反對跨國有組織犯罪計劃的研究,在2022年至2023年,亞太地區的深層案例大幅度增加僅次於北美。越南的Deepfake欺詐率為25.3%。日本(23.4%)不遠。生物識別深層技術,例如語音克隆和實時生成視頻操縱,正在加劇威脅。
足以讓Chosun Daily的斷言,如果這項技術阻礙了免費和公平選舉在全球範圍內,它不僅可以帶來民主挫折,而且會導致社會混亂。 ”
提示監管機構。
禁令,水印和AI輔助深擊檢測
Natnicha Surasit的全球倡議文章,“流氓複製品:對東南亞的深擊的刑事剝削”,”表示,中國政府已禁止未經用戶同意的深層製作,現在需要清楚地識別出AI生成的內容。蘇拉西特寫道:“韓國已將可能“對公共利益造成傷害”的深煙分佈定為犯罪。” “澳大利亞的目標是實施許多準則,例如敦促科技公司標記和水印AI生成的內容。泰國,菲律賓,馬來西亞和新加坡有個人數據保護法,以防止剝削。”
回到韓國,警方正在展示由國家調查辦公室(NOI)開發的深擊檢測軟件。 《韓國時報》報導說算法軟件在一個數據庫中接受了培訓,該數據庫由來自約5400個韓國人的520萬個數據組成,這與以前接受過西方數據培訓的模型不同。
數字上,NOI表示將需要五到十分鐘的軟件來辨別視頻是否真實,然後立即生成結果表。成功檢測的可能性約為80% - 考慮了警方的聲明,即他們將使用數據分析來告知調查,而不是直接證據。
韓國人於4月10日參加民意調查。