บุคคลได้ตีพิมพ์ข้อมูลเชิงลึกการฉ้อโกงสำหรับไตรมาสแรกของปี 2568 และ Deepfakes ใช้พาดหัว “การต่อสู้อย่างลึกล้ำทวีความรุนแรงมากขึ้น” กล่าวว่าการคาดการณ์จากศูนย์บริการทางการเงินของ Deloitte ที่สูญเสียการฉ้อโกงสำหรับสถาบันการเงินและลูกค้าของพวกเขาสามารถเข้าถึง $ 40 พันล้านภายในปี 2570
เมื่อเทคโนโลยีอัลกอริทึมที่ใช้ในการสร้าง Deepfakes วิวัฒนาการระบบนิเวศจะเพิ่มความซับซ้อนมากขึ้น Generative AI ได้เปิดใช้งานความก้าวหน้าอย่างมากในสื่อสังเคราะห์ บุคคลชี้ไปที่ชาวบ้าน“ โมเดลการสร้างวิดีโอมนุษย์ที่มีการปรับสภาพแบบหลายรูปแบบ” ที่พัฒนาโดย Bytedance ซึ่งสามารถ“ สร้างวิดีโอมนุษย์ที่สมจริงอย่างไม่น่าเชื่อจากภาพเดียวและสัญญาณการเคลื่อนไหว”การตรวจจับความมีชีวิตชีวาและการป้องกันการโจมตีการฉีดกำลังกลายเป็นเรื่องสำคัญ ตามการ์ตเนอร์การโจมตีแบบฉีดเพิ่มขึ้น 200 เปอร์เซ็นต์ในปี 2566
ด้านหน้าเอกสารที่เรียกว่ารหัสราคาถูกนั้นง่ายกว่าและถูกกว่าที่เคยสร้างและยังคงเป็นเวกเตอร์การโจมตีที่พบบ่อยที่สุด แต่สิ่งต่าง ๆ กำลังได้รับความสนใจอย่างรวดเร็ว Persona ดูตัวแทนการฉ้อโกง AI โดยอ้างถึงรายงานเดือนมกราคม 2568 จากคณะกรรมการวิทยาศาสตร์และเทคโนโลยีของกระทรวงความมั่นคงแห่งมาตุภูมิของสหรัฐอเมริกา:
“ เราคาดการณ์อนาคตที่ตัวแทน AI แบบโต้ตอบสามารถสร้างประเภทต่าง ๆเฟลค์เพื่อให้บรรลุเป้าหมายระดับสูง ตัวแทนนี้จะสามารถตอบสนองต่อบริบทที่ดำเนินการเพื่อทำการหลอกลวงที่น่าเชื่อถือมากขึ้น”
กล่าวอีกนัยหนึ่งเรามีSkynetสถานการณ์ที่อัลกอริทึมได้รับความฉลาดพอ - และเรียนรู้จากมนุษย์มากพอที่จะจัดการการโจมตีของตัวเอง (ในกรณีนี้การฉ้อโกงมากกว่าสถานการณ์นิวเคลียร์ของเจมส์คาเมรอน)
ดังนั้นการต่อสู้จึงพูดอยู่ Deloitte เห็นตลาดสำหรับการตรวจจับ deepfakeเติบโตจาก 5.5 พันล้านดอลลาร์ในปี 2566 เป็น 15.7 พันล้านดอลลาร์ในปี 2569 ผลที่ตามมาอย่างรุนแรงของกการโจมตีอย่างลึกล้ำกำลังบังคับให้ธุรกิจประเมินความสำคัญของทีมความไว้วางใจและความปลอดภัยอีกครั้ง “ แทนที่จะถูกมองว่าเป็นศูนย์ต้นทุน” Persona กล่าว“ ความเป็นผู้นำอาจมองว่าทีมการฉ้อโกงเป็นส่วนสำคัญในการสร้างแบรนด์รักษาความไว้วางใจกับลูกค้าและปกป้องรายได้”
บรรทัดล่างคือเทคโนโลยีกำลังเปิดใช้งานการฉ้อโกงในระดับและการตอบสนองของรัฐบาลได้แนะนำความท้าทายด้านกฎระเบียบใหม่ สำหรับ Persona ปัญหาใหญ่พอที่อัลกอริทึมเพียงอย่างเดียวไม่เพียงพอที่จะแก้ไข “ โมเดลที่ใช้พลังงาน AI สามารถเป็นส่วนหนึ่งของการตอบสนองที่มีประสิทธิภาพ แต่อย่าตกหลุมพรางของ AI ที่พึ่งพามากเกินไป” มันกล่าว “ ในฐานะธุรกิจตัวเลือกที่ดีที่สุดคือการยอมรับการป้องกันหลายชั้นที่ไม่ได้พึ่งพาสัญญาณภาพเท่านั้น”
Schwalb เตือน DC: 'โทรศัพท์ของคุณอาจโกหกคุณ!'
ตรงไปตรงมาBig Bad Deepfakesสามารถฟังดูเป็นปัญหาที่ไม่น่าจะเป็นไปได้ภัยคุกคามนิยายวิทยาศาสตร์ที่เกินจริงสำหรับผลกระทบที่ดึงมาจากโลกของแซมไรมิคนมืดมิดและเจ้านายคนอื่น ๆ ของการปลอมตัว กระแทกแดกดันปัญหาเกิดขึ้นชัดเจนขึ้นเมื่อองค์ประกอบภาพถูกลบออก: คนส่วนใหญ่ที่มีหมายเลขโทรศัพท์ได้รับการหลอกลวงจากคนแปลกหน้า เงินเดิมพันสูงขึ้นมากเมื่อผู้โทรฟังดูเหมือนคนที่คุณรัก - นั่นคือเมื่อมันเป็นเสียง Deepfake-
Brian L. Schwalb อัยการสูงสุดของ District of Columbia ได้ออกแจ้งเตือนผู้บริโภคให้กับผู้อยู่อาศัยเตือนว่า“ มีความซับซ้อนการหลอกลวงการตลาดทางโทรศัพท์ผู้ที่ตกเป็นเหยื่อเป้าหมายที่มีการบันทึกเสียงหรือวิดีโอปลอมของคนที่พวกเขารู้จักมักจะขอเงินเพื่อช่วยให้พวกเขาออกจากสถานการณ์ฉุกเฉิน”
“ เรากำลังเป็นพยานถึงแนวโน้มที่น่ารำคาญของนักต้มตุ๋นที่น่าสนใจในการเป็นผู้อยู่อาศัยในเขตโดยเฉพาะผู้อาวุโสโดยใช้ปัญญาประดิษฐ์เพื่อขโมยเงินข้อมูลที่ละเอียดอ่อนและข้อมูลของพวกเขา” Schwalb กล่าวในการเปิดตัว “ ฉันขอให้ทุกคนระมัดระวังเมื่อได้รับการโทรหรือข้อความที่ไม่คาดคิดโดยเฉพาะอย่างยิ่งผู้ที่ถ่ายทอดความรู้สึกเร่งด่วนที่ผิดปกติหรือขอข้อมูลส่วนบุคคล” หากป้า Bea เรียกว่าต้องการเงินประกันตัวตัวอย่างเช่นมันอาจคุ้มค่าที่จะตรวจสอบสองครั้ง
ผู้พิทักษ์ความจริงแสดงรายการการเปลี่ยนแปลง 5 ครั้งในการตรวจจับเสียง AI
แทนที่จะพยายามที่จะได้รับการดูแลของป้า Bea ที่แท้จริงในขณะที่ป้า Bea ปลอมอาจถูกพักไว้เครื่องมือตรวจจับ Deepfake- สิ่งนี้จะใช้มากยิ่งขึ้นหากเป็น บริษัท ที่ให้บริการทางการเงิน ในโพสต์สำหรับผู้พิทักษ์ความจริงบล็อกของ CEO Ben Colman ระบุว่าวิวัฒนาการอย่างรวดเร็วของการสังเคราะห์เสียงและการโคลนนิ่งได้เปิดเผยข้อบกพร่องร้ายแรงในระบบความปลอดภัยมรดกและการตรวจจับเสียง AI ที่เชื่อถือได้
โพสต์ของ Colman แสดงรายการการแปลงห้าครั้ง“ นิยามใหม่ว่าภาคส่วนปกป้องอย่างไรการคุกคามทางเสียงs.” พวกเขารวมถึงการวิเคราะห์ไบโอเมตริกซ์แบบเรียลไทม์การตรวจจับแบบหลายชั้นที่วิเคราะห์ข้อมูลเมตาและรูปแบบพฤติกรรมการรวมเข้ากับระบบการตรวจสอบความถูกต้องที่มีอยู่อัลกอริทึมการเรียนรู้ของเครื่องปรับตัวและการแบ่งปันข่าวกรองการคุกคามข้ามอุตสาหกรรม
“ ในขณะที่เทคโนโลยี AI Voice ยังคงก้าวหน้าไปเช่นกันความซับซ้อนของวิธีการตรวจจับ” Colman กล่าว “ ตามข้อมูลเชิงลึกของธุรกิจฟอร์จูนเสียงชีวภาพตลาดคาดว่าจะเติบโตจาก 2.30 พันล้านดอลลาร์ในปี 2567 เป็นมากกว่า 15 พันล้านดอลลาร์ในปี 2575 ซึ่งสะท้อนให้เห็นถึงความสำคัญที่เพิ่มขึ้นของเทคโนโลยีนี้ในกรอบความปลอดภัย”
ความเสี่ยงเพิ่มขึ้นเมื่อเทคโนโลยีดีขึ้นในการทำดิจิตอลที่ดีขึ้น
แน่นอนว่ามันไม่ได้เป็นเพียงแค่เทคโนโลยีเสียงที่มีการพัฒนาและในสัมภาษณ์ด้วยคู่มือของ Bob Colman คาดการณ์ว่าวิดีโอ Deepfakes ที่สร้างขึ้นของ AI จะกลายเป็นข้อกังวลที่สำคัญยิ่งขึ้นเนื่องจากค่าใช้จ่ายในการคำนวณลดลง
“ ในมือที่ไม่ถูกต้อง” เขากล่าว“ สิ่งนี้สามารถสร้างความเสี่ยงได้ไม่ จำกัด ด้วยจินตนาการของคุณ”
จินตนาการมากขึ้นไม่จำเป็นแม้แต่จะต้องใช้สิ่งที่เกิดขึ้นจริงเมื่อเริ่มต้นความเป็นจริงทางออนไลน์ให้กลายเป็นรูปร่างใหม่ ผู้ก่อตั้ง Binance, Changpeng Zhao ได้ตอบสนองต่อคลิปลึกของเขาที่พูดภาษาจีนกลางอย่างคล่องแคล่วด้วยการสารภาพใน X:“ ฉันไม่สามารถแยกแยะเสียงนั้นออกจากเสียงที่แท้จริงของฉันได้”
“ ในขณะที่ CZ ได้ใช้เทคโนโลยีที่เกิดขึ้นใหม่อยู่เสมอช่วงเวลานี้ดูเหมือนจะเป็นการเปลี่ยนแปลง” โพสต์เกี่ยวกับ Binance กล่าวฟอรัม- “ Zhao ไม่ได้ระบุว่าใครสร้างมันขึ้นมาหรือจุดประสงค์ของมันคืออะไร แต่ข้อความของเขาชัดเจนมาก: เทคโนโลยีนี้กลายเป็นอันตรายอย่างยิ่ง”
Deepfakes ควรผิดกฎหมายระยะเวลาหรือไม่?
ข้อความเดียวกันมาจากหลายทิศทาง มีคำเตือนจากนักการเมืองอย่าง Schwalb และผู้ว่าการ Michael S. Barr ซึ่งเพิ่งให้กพูดคุยในการคุกคามของ Deepfake และ“ AI Arms Race” ที่ Federal Reserve Bank of New York โดยอ้างถึงตำแหน่งทางการเงินในทางการเงินว่า“ เราจำเป็นต้องดำเนินการเพื่อทำการโจมตีน้อยลงโดยเพิ่มค่าใช้จ่ายในการโจมตีอาชญากรไซเบอร์และลดค่าใช้จ่ายในการป้องกันสถาบันการเงินและการบังคับใช้กฎหมาย”
มีคำเตือนจากนักวิชาการและนักวิทยาศาสตร์จากสื่อและความมั่นคงแห่งชาติมืออาชีพจากรัฐบาลและโทรคมนาคมและธนาคาร
ที่สำคัญที่สุดคือมีมากมายคำเตือนจาก บริษัท ที่สร้างสิ่งเหล่านี้เทคโนโลยี AIว่าพวกเขานำเสนอกความเสี่ยงมหาศาล- แม้แต่อัตถิภาวนิยม
ทั้งหมดนี้ทำให้เกิดคำถาม: มีอะไรไถ่ถอนเกี่ยวกับ Deepfakes และเครื่องยนต์ที่สร้างพวกเขา - และถ้าไม่ทำไมพวกเขาถึงถูกกฎหมายเลย?
หัวข้อบทความ
การตรวจจับไบโอเมตริกซ์-ไบโอเมตริกซ์-การตรวจจับ deepfake-เฟลค์-การป้องกันการฉ้อโกง-การโจมตีแบบฉีด-การออกกฎหมาย-บุคคล-ผู้พิทักษ์ความจริง-ใบหน้าสังเคราะห์-เสียงสังเคราะห์
