创建公共聊天机器人是一个高风险的动作。 2016年，微软与泰与一定数量的恶意人接触的人很快成为种族主义者和性别歧视。 Meta凭借“ Blenderbot3”（BB3），认为他创建了一个系统，该系统继续与人类接触，同时在社会中采取更加文明和可接受的反应。但是显然，我们离帐户还很遥远。
没有更多的保障
该软件可独家访问美国的居民几天，暂时避免了某些粗糙的滑倒，例如崇拜阿道夫·希特勒（Adolf Hitler）。但这仍然是阴谋理论的接受。据彭博社称，BB3说唐纳德·特朗普仍然是总统，他将永远保持如此。此外，他说他不是“不可能”经济是由犹太人控制的“在超级富裕的美国人中宣传”。更有趣的是，BB3还估计，在擦除了他的Facebook帐户和Mark Zuckerberg之后的生活要好得多“太令人毛骨悚然和操纵器”。
为了避免这种失误，元已经整合了许多保障措施。因此，答案是由双电路生成的，一方面是语言模型，另一方面是分类器，该分类器会根据用户的回报分开好处和坏答案。该软件还将考虑用户在整个对话中的一般行为。然后，在学习周期中，侵略性或进攻人的反应将自动减少体重。这是一种为巨魔而欢欣鼓舞的方式。 BB3也基于通常用于不适当响应中的关键字列表。
但是很明显，这还不够。 Meta怀疑它，因为该小组在博客中强调了她的聊天机器人可以“始终发表粗糙或令人反感的评论”。但是，如果我们将BB3与其他对话模型进行比较，则公路旅行将不太频繁。随着时间的流逝，由于用户的回报，这可能会有所改善。实际上，后者可以指出每个响应不足并指定报告的原因。这应该改善模型。无论如何，该领域的研究还远远没有结束。
来源 ： 元
