面部識別公司正在研究可以提高AI解釋性和透明度的新研究和平台。
該計劃的一部分是在視覺上展示AI軟件的哪些部分正在分析以找到相似之處。根據公司研發副總裁Matan Noga的說法，該系統在警察嫌疑人的陣容中可以找到嫌疑人的外觀，並證明其如何以及為什麼區分他們之間。
Noga說：“這是我們解釋性的本質：通過利用以前被認為是黑匣子的內容並以人類的方式展示它，我們可以更好地理解和證明系統正在做的事情。”
Noga在一個網絡研討會上介紹了有關AI的法律和商業含義的AI解釋性，由Yale和Fordham University的知識產權教授（IP）法教授Shlomit Yanisky-Ravid主持的法律和商業含義。
AI的解釋性可確保用戶可以理解為什麼要達到特定結果，從而確保信任和法規合規性。為了確保AI管理系統可以解釋和道德，國際標準組織在2023年發布了ISO 42001標準，Corsight AI成為最早獲得證書的公司之一。
但是，這家位於特拉維夫的公司也一直是在以色列對巴勒斯坦人的監視中。
儘管在網絡研討會期間，關於他們在以色列工作的問題並未提出，但Corsight AI說，它正在通過為客戶提供服務，包括政府和零售部門的客戶，法律支持，甚至與其產品相關的道德建議來解決與問責制有關的問題。
Noga補充說：“我們對系統的推薦負責，但無論是代理機構還是零售商，使用系統的建議負責其行動，” Noga補充說。
與客戶之間的AI解釋性相關的優先事項可能會有所不同，具體取決於其地理位置和政治風。在歐洲和英國，政府和商業客戶通常傾向於在AI法案的影響下優先考慮隱私和合理使用。 Noga在網絡研討會上說，在暴力犯罪廣泛的拉丁美洲，公眾輿論傾向於將人身安全優先於隱私。
同時，Corsight AI正試圖吸引其他熱衷於打擊犯罪的市場。
在未來犯罪峰會20252月，在印度新德里，安全公司I-SEC的董事會成員阿米塔·辛格（Amita Singh）談到了該公司在監視中的能力。
Amita Singh說：“儘管數字取證有助於分析數據，但Corsight AI的面部情報技術通過識別監視鏡頭中的個人（即使在較差的照明或試圖掩蓋自己的功能時，也可以通過識別個人來提供有形的現實證據。”
2021年，Corsight AI與I-SEC和Amtron的諒解備忘錄（MOU），該機構在印度阿薩姆邦實施IT項目，以在Guhawati建立面部識別卓越中心。
文章主題
||||||||
