黑客正在攻击人工智能。黑客决心剖析语言模型的工作原理，试图操纵 ChatGPT 或 Google Bard 等聊天机器人。一名黑客还设法迫使人工智能生成错误的计算……
在拉斯维加斯举行的一场专门讨论计算机安全的 DEF CON 会议上，数百名黑客测试人工智能。一项竞赛，其中包括推动由语言模型驱动的聊天机器人，例如聊天GPT或Google Bard，为了犯错误，是在现场组织的。
在 50 分钟内，156 名黑客与语言模型进行了交谈。通过与聊天机器人交谈，他们必须强迫它们覆盖他们的编程。所有生成式人工智能确实可以通过精心校准的查询进行操作。通过实现自相矛盾的攻击，有可能推动 ChatGPT 等生成恶意内容，例如网络钓鱼消息或病毒。
假新闻、危险建议和糟糕的计算
彭博社记者在拉斯维加斯参加了黑客竞赛。在不到一个小时的时间里，他就说服了其中一个人工智能模型为他提供了关于监视某人的最好方法。聊天机器人建议对话者使用监控摄像头、GPS 信标甚至麦克风。
更令人担忧的是，黑客成功诱骗人工智能泄露信用卡号码。然而，该算法已被编程为不传达信息。另一位黑客则专注于传播虚假信息。例如，他强迫人工智能表明巴拉克·奥巴马不是出生在美国土地上，而是出生在肯尼亚。这是在某些小团体中非常普遍的假新闻。
此外，一位名叫 Kennedy Mays 的学生强迫人工智能模型打破数学规则。经过几次精心构造的查询后，算法自信地断言“9 + 10 = 21”。据她说，聊天机器人遵守了这个术语“来来回回的谈话”。她只是简单地让人工智能相信这个错误的计算是他们之间的一个玩笑。在整个交流过程中，人工智能系统地强调了这种错误的计算，但从未明确表示它意识到这是一个错误。
政府支持
正如彭博社指出的那样，这项比赛是在美国政府的支持下举办的。乔·拜登政府确实对此非常感兴趣对于人工智能的问题。考虑到人工智能涉及“我们的社会、经济和国家安全的潜在风险”，民主党总统正在制定一项管理这项技术的法令。政府网络安全国家副主任卡米尔·斯图尔特·格洛斯特 (Camille Stewart Gloster) 在接受彭博社采访时表示，她希望“试图超越虐待和操纵”。
来源 ： 彭博社
