人臉識別公司正在致力於新的研究和平台，以提高人工智能的可解釋性和透明度。
該計劃的一部分是直觀地展示人工智能軟件正在分析面部的哪些部分以尋找相似之處。該公司研發副總裁馬坦·諾加 (Matan Noga) 表示，在警方嫌疑人的排列中，系統可以找到與嫌疑人相似的人，並展示如何以及為何區分他們。
“這對我們來說是可解釋性的本質：通過利用以前被認為是黑匣子的東西並以人性化的方式呈現它，我們可以更好地理解和證明系統正在做什麼，”諾加說。
諾加在耶魯大學和福特漢姆大學知識產權 (IP) 法教授 Shlomit Yanisky-Ravid 主持的關於人工智能可解釋性的法律和商業影響的網絡研討會上深入探討了這個話題。
人工智能的可解釋性確保用戶能夠理解為什麼會達到特定的結果，從而確保信任和監管合規性。為了確保人工智能管理系統的可解釋性和道德性，國際標準組織於 2023 年發布了 ISO 42001 標準，Corsight AI 成為首批獲得該證書的公司之一。
然而，這家總部位於特拉維夫的公司也被以色列對巴勒斯坦人的監視。
雖然網絡研討會期間沒有提出有關他們在以色列工作的問題，但 Corsight AI 表示，它正在通過向政府和零售部門等客戶提供法律支持，甚至與其產品相關的道德建議來解決與問責制相關的問題。
“我們對系統的建議負責，但真正的客戶，無論是代理商還是零售商，都對他們使用系統建議的行為負責，”Noga 補充道。
客戶之間與人工智能可解釋性相關的優先事項可能有所不同，具體取決於他們的地理位置和政治風向。在歐洲和英國，在《人工智能法案》的影響下，政府和商業客戶通常傾向於優先考慮隱私和合理使用。諾加在網絡研討會上表示，在暴力犯罪普遍存在的拉丁美洲，公眾輿論往往將個人安全置於隱私之上。
與此同時，Corsight AI 正試圖吸引其他熱衷於打擊犯罪的市場。
期間2025 年未來犯罪峰會2 月份在印度新德里，安全公司 I-Sec 的董事會成員阿米塔·辛格 (Amita Singh) 談到了該公司的監控能力。
Amita Singh 表示：“雖然數字取證有助於分析數據，但 Corsight AI 的面部智能技術可以通過識別監控錄像中的個人來提供切實的、真實的證據，即使是在光線不佳的情況下或當他們試圖掩蓋自己的特徵時也是如此。”
2021年，Corsight AI與 I-Sec 和 Amtron（一家在印度阿薩姆邦實施 IT 項目的機構）簽署諒解備忘錄 (MoU)，在古哈瓦提建立面部識別卓越中心。
文章主題
||||||||
