非,汤姆·汉克斯不会在社交媒体上出售牙科保险。这位真正的演员在他的 Instagram 帐户上警告说,我们看到他为牙科护理做广告的视频是假的。 “我与此无关“,他解释道。
该广告展示了汤姆·汉克斯的虚拟版本,其声音由人工智能再现。去年5月,演员痛惜在播客中,这些技术可以重现它“32岁,直到时间的尽头» : «现在任何人都可以在任何年龄通过人工智能或深度伪造来重新创造自己(……)除了知道这是用人工智能完成的之外,没有任何东西可以告诉你这不是关于我的»。
人工智能及其工作室的使用也好莱坞演员罢工的核心。事实上,深度造假越来越难以用肉眼识别,需要对这些图像进行大量的经验才能确定特定视频是否被伪造。
另一种媒体,另一种受众,但同样的问题:著名的 YouTuber 吉米·唐纳森(Jimmy Donaldson)(以“MrBeast”的绰号而闻名)提醒他的粉丝,一段深度伪造的视频正在 TikTok 上流传,我们可以在其中看到一个非常令人信服的克隆,宣布举办一场赢得 iPhone 的竞赛;您“只需”捐献 2 美元即可参与。 MrBeast 已经习惯了竞争,但这是一个窃取数据甚至银行信息的骗局。
很多人都收到了我的这个 Deepfake 诈骗广告……社交媒体平台准备好应对 AI Deepfake 的崛起了吗?这是一个严重的问题pic.twitter.com/llkhxswQSw
— 野兽先生 (@MrBeast)2023 年 10 月 3 日
TikTok 可能会禁止深度造假,但诈骗者总能找到规避安全的方法。 YouTuber 想知道社交媒体平台将如何处理这种日益现实的骗局。这个问题确实值得问。
Facebook 的关键决定
Facebook 可以提供初步的答案。社交网络监督委员会将在未来几天内交流在删除 Facebook 上流传的乔·拜登“经过编辑”的视频。这个文件“将审查与 Meta 平台内容操纵相关的问题以及公司有关虚假信息的透明度政策,特别是在选举期间»。
该委员会没有提供有关视频的详细信息,但将做出的决定很可能会在 Facebook 上树立先例,最重要的是提供一条明确的前进道路。事实上,该公司的政策在篡改视频问题上相当模糊:深度造假通常是被禁止的……除非它们不被禁止!由于下届美国大选的竞选活动可能会被人工智能生成的虚假视频淹没,澄清这一点就显得尤为重要。