人工智能生成的内容（例如深度造假）正面临越来越严格的审查。三个新的研究资源——由搜索巨头撰写、身份验证公司和政治百科全书 Ballotpedia – 研究为什么我们应该关注这项技术，分析其最大的风险、其对英国选举的影响以及美国对深度造假的日益严格的监管
与此同时，投资正在流入那些正在开发应对生成式人工智能威胁的工具的公司，包括很多人工智能和获取真实实验室。
谷歌：政治是滥用生成式人工智能的主要原因
谷歌的一项新研究显示，操纵人类相似度，例如创建人物的深度伪造图像、视频和音频，已成为滥用生成式人工智能的最常见策略。滥用该技术的最常见原因是影响公众舆论（包括影响政治舆论），但它也在诈骗、欺诈或其他创收手段中找到了用武之地。
该论文由谷歌人工智能研究实验室 DeepMind 及其研发部门 Jigsaw 的研究人员发表。该研究调查了 2023 年 1 月至 2024 年 3 月期间发表的有关滥用生成人工智能系统的科学论文和 200 篇媒体报道。
研究表明，在 27% 的案例中，生成式人工智能是为了影响公众舆论而创建的。这不仅包括旨在影响竞选活动的媒体：围绕战争、社会动荡或经济衰退等政治分歧话题，充满争议的合成图像不断出现。
报告指出：“GenAI 工具的复杂性、可用性和可访问性的提高似乎引入了新的、较低级别的滥用形式，这些滥用形式既不是公然恶意，也不是明确违反这些工具的服务条款，但仍然存在道德后果。” “其中包括用于政治外展、自我推销和宣传的新沟通形式的出现，模糊了真实与欺骗之间的界限。”
产品和服务的货币化，例如低质量的人工智能生成的文章、书籍和产品以及露骨的色情材料，是滥用该技术的第二大原因，占报告案例的 21%。第三名是诈骗和欺诈。
例如，冒充名人或公众人物经常被用于投资诈骗，而人工智能生成的媒体也可以生成绕过身份验证并进行勒索、性勒索和网络钓鱼诈骗。
由于主要数据是媒体报道，研究人员警告说，对人工智能产生的滥用的看法可能会偏向那些吸引头条新闻的数据。但尽管人们担心经验丰富或国家资助的行为者会使用生成式人工智能，但许多滥用案例都依赖于需要最少技术技能的流行工具。
三分之二的英国人担心选举中的深度造假：Onfido
英国目前正在为7月4日的大选做准备，届时将迎来新首相。然而，Onfido 进行的一项新调查显示，超过 40% 的英国公民认为选民可能会受到深度造假的影响。
英国人在网上变得越来越怀疑，近四分之一（23％）的人表示他们不信任社交媒体上的任何政治内容。这种怀疑可能是有道理的：一月份，超过 100深度伪造视频广告冒充总理里希·苏纳克 (Rishi Sunak) 的行为突然出现在 Facebook 上，影响人数多达 40 万人。
这项调查询问了 2000 多名英国成年人的意见，发现 64% 的选民没有信心判断在线政治音频或视频内容是否为假。 Onfido 全球政策总监 Aled Lloyd Owen 表示，人工智能可以帮助减少 Deepfake 的流行，并恢复人们对在线互动的信任。
“人工智能在防御恶意深度造假方面发挥着关键作用，”他说。 “它可以识别人眼通常无法察觉的内容的细微差异，同时可以根据需求扩大预防规模。
昂菲多此前曾呼吁立法者更多地关注生成式人工智能在假冒、欺诈和骗局中的使用。然而，生成式人工智能的使用可能会让英国人付出的不仅仅是金钱：66% 的人认为深度造假和假新闻可能会严重损害英国的民主。
投资涌入反 Deepfakea 解决方案
随着深度伪造的威胁变得普遍，一些公司正在提出保护在线图像的新颖解决方案。
Loti AI 通过检测并删除社交媒体上的深度造假和冒充者帐户来为公众人物提供保护。该初创公司声称每天扫描超过 1 亿张图像和视频，并以 95% 的效率删除未经授权的内容。
上周，这家在库克群岛注册的公司宣布获得 515 万美元种子轮融资，由美国西雅图风险投资公司 FUSE 领投，Bling Capital、K5 Tokyo Black、Ensemble 和 AlphaEdison 跟投。
除了深度造假和虚假账户之外，Loti AI 还针对虚假背书和未经许可的内容分发。
GetReal Labs 是另一家应对 Deepfake 祸害的新公司。该公司由加州专注于网络安全的风险投资公司 Ballistic Ventures 孵化
该初创公司由 Ballistic Ventures 普通合伙人 Ted Schlein 和数字取证专家、加州大学伯克利分校教授 Hany Farid 共同创立，该教授参与伯克利人工智能实验室、数据科学研究所以及视觉和光学创新中心。
该公司专注于保护包括金融和媒体公司以及政府机构在内的组织免受语音和视频等受操纵媒体的影响。
除了 Ballistic Ventures 之外，GetReal 还得到了 Venrock 的支持。
美国出台近300项法案打击深度造假
针对深度造假的监管正在不断加强：根据 Ballotpedia 提供的新数据，美国目前有 294 项法案试图监管人工智能生成的内容。
这家旨在提供有关美国选举的可信信息的非营利组织在其新报告中发布了与深度造假监管相关的详细数据。AI Deepfake 立法追踪器，覆盖全部 50 个州。根据其数据，2019 年至 2023 年间，该领域的账单数量平均每年增长 28%。
投票百科也有发表Deepfake 立法状况 2024 年年度报告。
文章主题
|||||||||
