你肯定见过这些穿着白色羽绒服的教皇弗朗西斯的假照片，或者由于中途旅行而造成的唐纳德·特朗普的错误逮捕。乔·拜登、伊曼纽尔·马克龙、弗拉基米尔·普京，几乎没有一个政治家逃脱了工具IA这让您可以立即创建假图像，只需输入文本即可。
但无论你怎么努力寻找，你都很难找到一张涉及“席 锦屏» 或“总统中国人”。不，该公司已决定取消对中国领导人形象进行处理的可能性。为了什么 ？ “为了避免戏剧性“，该公司创始人兼首席执行官 David Holz 在 Discord 聊天服务上的一条消息中非常严肃地回应道。华盛顿邮报。车 ”政治讽刺在中国颇为不受欢迎“，他补充道。
在没有法律的情况下，中途决定
Midjourney 创建于近一年前，尽管它的崛起使其在几个月内就获得了近 1300 万会员，但它仍然是一个小型组织。劳动力将无法跟上：其法律和财务团队将仅由两个人组成。负责调节大约五十名员工的人。研发人员8人，管理人员5人。她不愿意引起中国政府的愤怒，这一事实让人想起社交网络的早期。当时，关于节制的规则很少。虚假信息甚至外国干预在这些平台上的影响力比今天更加严重。但这一次，事情更加严重，我们的同事解释道。
因为这些人工智能工具涉及真人，而图像比社交媒体上的文字产生的影响更大。然而，在监管机构缺乏统一规则的情况下（就像今天的情况一样），决定什么是允许的，什么是不允许的，是由公司和中程来决定的。
宣传金条
在人工智能修改图像的这个领域，目前有三个主导者：Midjourney、Stable Diffusion 和 Dall-E。他们都遵守不同的规则。例如，最后一项禁止使用政客的图像，或创建与以下内容相关的照片：重大地缘政治事件正在发生——范围相当广泛。在稳定扩散中，几乎没有规则。在中途，我们处于中间。特别是血腥图像和短信“本质上不尊重、攻击性或其他虐待行为»。
或者，由于缺乏能够区分真实照片和计算机生成的照片的工具，再加上缺乏限制这三种人工智能使用的法律，意味着这项技术可能会制造假新闻，而这一次支持照片。足以模糊我们对现实的感知，因为没有任何东西可以区分真实图像和人工智能生成的图像。 “这是宣传的黄金»，Midjourney 用户 Seb Diaz 在接受我们的同事采访时总结道。
“图像越来越真实，工具越来越强大”
Midjourney 的老板 David Holz 深知公司正处于十字路口。 3 月 29 日星期三，在 Discord 上举行的公司会议上，首席执行官解释说，他不知道该考虑太多，因为他处于中间状态，尤其是当图像涉及真人时。他认识到“图像越来越真实，工具越来越强大”。该公司将致力于改进人工智能审核工具，使检测“不良行为»。没有定义什么“应受谴责”意思是。
无论如何，首席执行官都有自己的工作要做。其禁止中国领导人图片的规定很容易被用户规避。后者只是用其他词来形容中国领导人。台湾的一个网站甚至提供了如何使用 Midjourney 的指南“取笑» de Xi Jinping.
来源 ： 华盛顿邮报
