马克·扎克伯格的团队宣布，他们正在研究人工智能生成的内容的未来标签。标签将在“未来几个月”向用户表明特定视频或图像是否是由人工智能工具生成的。 Instagram、Facebook 和 Threads 的领导者公司认识到该技术尚未完全准备好。它将要求发布人工智能修改内容的用户提及该内容，否则将受到制裁。
“用人工智能想象”：Meta 国际事务主管尼克·克莱格 (Nick Clegg) 在 2 月 6 日发布的公司博客文章中承诺，在 Meta 的社交网络上，人工智能工具生成的图像将被贴上这样的标签。经理保证将提及这一点“未来几个月» 在 Facebook、Instagram 和 Threads 上，无论何时都会 «检测到的行业标准信号» 显示内容是由人工智能生成的。
马克·扎克伯格的团队已经应用了这个标签“由人工智能制造“，如果图像是由其内部工具生成的，”想象»，于 12 月在美国推出。但也有必要能够使用其他公司的工具创建的内容来做到这一点» 就像那些“谷歌、OpenAI、微软、Adobe、中途ou encore Shutterstock»，尼克·克莱格补充道。目前，这是一个尚未实现的目标：“技术还没有完全准备好“，他承认。
Meta 试图让删除水印变得困难
具体来说，Meta 指定它将放置“图像上的可见标记，以及图像文件中的不可见水印和嵌入元数据”。因为如果 Midjourney 和 Stable Diffusion 尚未使用这些隐形水印系统，它们也可以追溯删除。
该公司解释说：寻找方法使删除或更改隐形水印变得更加困难”。门洛帕克小组补充道：“在没有给出确切时间表的情况下，我们现在正在构建此功能，在接下来的几个月中，我们将开始应用每个应用程序支持的所有语言的标签»。
对于AI生成的视频和音频：用户必须自己提及
该公司还表示，将要求用户玩透明游戏。后者必须明确声明其发布的视频或音频是否由人工智能生成，否则将受到“制裁» – 未指定。如果内容包含“在重要主题上误导公众的风险特别高，我们可能会在适当的情况下添加更明显的标签，以便人们获得更多信息和更好的背景信息», 已指定。
这一消息发布之际，有报道称人工智能被用来创建虚假图像或电话，目标是歌手泰勒·斯威夫特或者政治家，登上了大西洋彼岸的头条新闻。专家们对这些虚假信息和试图操纵舆论的案件感到担忧，而美国总统选举和欧洲选举今年将在旧大陆举行。对于尼克·克莱格来说，这些标签的实施可以最大限度地减少人工智能生成的大量虚假内容“在当前技术允许的范围内”。但这个“不会消除» 他承认，这完全是他们的作品。
Meta 并不是第一家宣布采取各种措施来打击人工智能生成的旨在误导或误导内容的公司。 Meta 的新闻稿是在公司监事会发表意见 24 小时后发布的。去年10月，乔·拜登的一段经过修改的视频发布后，该长老会收到了联系，该视频使他看起来像是恋童癖者。该委员会要求该组织采取行动，以便用户能够清楚地识别人工智能生成或修改的内容以及未生成或修改的内容。
在等待“共同标准”的同时……
几个月来，实施“人工智能制造”标签的呼声变得越来越紧迫。去年6月，欧盟委员会已要求签署该协议的 44 个技术平台欧洲良好行为准则识别和标记立即地所有内容和AI 生成的图像。一个月后，在大西洋彼岸，白宫提出了类似的要求，该行业的七家美国公司收到了这一要求，不要元。大家都已经答应了，正式或非正式地致力于为人工智能生成的内容实施水印。从那时起，大多数人工智能公司都将这些目标纳入了新闻稿中，但该行业没有大规模采用任何有效的工具。
ChatGPT 和 Dall-E（1 月）、TikTok（去年 9 月）和 YouTube（去年 11 月）背后的 OpenAI 公司表示，它已经实施了某些工具，包括要求用户在其内容中提及人工智能的使用。去年 10 月，Adobe 还提供了 一个共同的标签作为该项目的一部分，与其他几家公司一起开发内容来源和真实性联盟。该倡议包括微软、尼康、Arm、英特尔等公司，旨在整合 CR 符号，以证书，到元数据旁边的内容。
如果用户点击CR，他们就会清楚地知道图像来自哪里以及其创建过程是否涉及人工智能。没有提及这个 CR 标签，Meta 的目标是标记人工智能生成的内容，它认为现在是整个行业“一起工作» 倒 «制定我们需要的共同标准»。
来源 ： 2024 年 2 月 6 日的元博客文章
