从Microsoft赚取3万美元来查找AI错误

为了增强其AI驱动产品的安全性，微软扩大了其Copilot AI（人工智能）Bug Bounty计划，该公司现在向道德安全研究人员提供高达30,000美元的奖励，以识别Dynamics 365和Power Platfort中的关键漏洞。

该计划强调了该公司积极应对潜在安全威胁并确保其不断增长的AI生态系统的鲁棒性的承诺。

对于那些不知道的人来说，Power Platform是一个低代码平台，旨在允许企业分析数据，构建解决方案，自动化流程并创建虚拟代理以克服业务挑战，而Dynamics 365是一套基于云的业务应用程序，可以连接多个业务运营，包括客户，产品和团队。

扩大范围和增加的奖励

现在，扩展的漏洞赏金计划包括更广泛的范围副驾驶消费产品，包括与电报和WhatsApp等消息平台的集成，以及基于Web的平台，例如Copilot.microsoft.com和copilot.ai。

鼓励研究人员发现和报告这些平台上的漏洞，并根据确定的问题的严重性确定了奖励。在更新的错误赏金程序下：

• 关键漏洞可以赚取研究人员$ 30,000。
• 重要的漏洞可能从$ 1,000至$ 20,000。
• 中等脆弱性，以前没有资格获得货币奖励，现在提供最高$ 5,000。
• 低度脆弱性仍然没有资格获得奖励。

该分层奖励系统包括各种安全问题，特别强调与AI相关的漏洞，例如推理操纵，模型操纵和推论信息披露。

“我们邀请个人或组织确定目标动态365和Power Platform应用程序中的安全漏洞，并与我们的团队共享。合格的提交有资格获得500至30,000美元的赏金奖励，”该公司说。

“要符合AI赏金奖励，这种脆弱性必须是Microsoft脆弱性严重性分类中AI系统中定义的至关重要或重要的严重性，并且可以在范围服务和产品中列出的产品或服务上重复可再现。”

专注于AI安全

为了确保一致性和透明度，微软已将Copilot Bug Bounty程序与其在线服务错误栏保持一致，该程序提供了一个标准化的框架，用于评估其在线服务中报告的缺陷的严重性。该计划是微软更广泛的安全未来计划（SFI）的一部分，该计划于2023年11月发起，以改善所有产品和服务的网络安全度量。

有关参加微软的Bug Bounty计划的更多信息，有兴趣的安全研究人员可以访问官员Microsoft安全响应中心网站。