面部识别公司正在研究可以提高AI解释性和透明度的新研究和平台。
该计划的一部分是在视觉上展示AI软件的哪些部分正在分析以找到相似之处。根据公司研发副总裁Matan Noga的说法，该系统在警察嫌疑人的阵容中可以找到嫌疑人的外观，并证明其如何以及为什么区分他们之间。
Noga说：“这是我们解释性的本质：通过利用以前被认为是黑匣子的内容并以人类的方式展示它，我们可以更好地理解和证明系统正在做的事情。”
Noga在一个网络研讨会上介绍了有关AI的法律和商业含义的AI解释性，由Yale和Fordham University的知识产权教授（IP）法教授Shlomit Yanisky-Ravid主持的法律和商业含义。
AI的解释性可确保用户可以理解为什么要达到特定结果，从而确保信任和法规合规性。为了确保AI管理系统可以解释和道德，国际标准组织在2023年发布了ISO 42001标准，Corsight AI成为最早获得证书的公司之一。
但是，这家位于特拉维夫的公司也一直是在以色列对巴勒斯坦人的监视中。
尽管在网络研讨会期间，关于他们在以色列工作的问题并未提出，但Corsight AI说，它正在通过为客户提供服务，包括政府和零售部门的客户，法律支持，甚至与其产品相关的道德建议来解决与问责制有关的问题。
Noga补充说：“我们对系统的推荐负责，但无论是代理机构还是零售商，使用系统的建议负责其行动，” Noga补充说。
与客户之间的AI解释性相关的优先事项可能会有所不同，具体取决于其地理位置和政治风。在欧洲和英国，政府和商业客户通常倾向于在AI法案的影响下优先考虑隐私和合理使用。 Noga在网络研讨会上说，在暴力犯罪广泛的拉丁美洲，公众舆论倾向于将人身安全优先于隐私。
同时，Corsight AI正试图吸引其他热衷于打击犯罪的市场。
在未来犯罪峰会20252月，在印度新德里，安全公司I-SEC的董事会成员阿米塔·辛格（Amita Singh）谈到了该公司在监视中的能力。
Amita Singh说：“尽管数字取证有助于分析数据，但Corsight AI的面部情报技术通过识别监视镜头中的个人（即使在较差的照明或试图掩盖自己的功能时，也可以通过识别个人来提供有形的现实证据。”
2021年，Corsight AI与I-SEC和Amtron的谅解备忘录（MOU），该机构在印度阿萨姆邦实施IT项目，以在Guhawati建立面部识别卓越中心。
文章主题
||||||||
