對隱私的擔憂，包括在人工智能中使用的生物識別技術（AI）可以由法律規定機構使用違反公民自由的方式，這是關於在美國審計官召集的最新技術評估論壇上使用生物識別的一些擔憂，這是一個擔心的問題人工智能：新興的機會，挑戰和影響，為眾議院科學，空間和技術委員會準備。
審計長贊助了該論壇，以“更好地了解AI發展的新興機會，挑戰和影響。”
與會者代表工業，政府，學術界和非營利組織，代表網絡安全，自動化車輛，刑事司法和金融服務。
“一些參與者……引起了對隱私的擔憂，包括執法機構可以使用AI來違反公民自由的方式，並說這是需要政策解決方案的領域，” Gao在論壇上的報告說。
例如，“根據一位參與者的說法，執法機構對面部識別軟件的使用引起了人們的擔憂，即該軟件所捕獲的人可能侵犯其公民權利，包括自由講話和組裝的權利。一些隱私研究人員和擁護者說，這種遠程生物識別識別可能會對人類的行為和自由造成自由的言論和自由來彌補。”
國際司法和公共安全網絡準備的2011年隱私影響評估說：“僅僅進行監視的可能性就有可能使人們感到非常不舒服，使人們改變其行為，並導致自我審查和抑制。”
喬治敦法律的隱私與技術中心2016年10月18日，研究，永久陣容：美國不受監管的警察面部識別例如，指出，例如，“通過利用駕駛執照數據庫，聯邦調查局以一種從未做過的方式使用生物識別技術。”補充說：“從歷史上看，FBI指紋和DNA數據庫主要或專門由刑事逮捕或調查中的信息組成，該網絡構建了16個州駕駛員的駕駛範圍。守法的美國人。”
這項研究指出，“這是前所未有的，而且非常有問題。但是，“我們對這些系統一無所知。我們不知道它們如何影響隱私和公民自由。我們不知道它們如何解決準確性問題。而且我們不知道這些系統如何（本地，州或聯邦）如何影響種族和少數民族。 ”
研究繼續說：“我們可以開始看到面部識別如何創造跟踪和風險的機會，即其他生物識別技術（如指紋）不會。” “與名字一起，面孔是人類社會中最突出的標識符，在線和離線。我們的面孔（不是指紋）是駕駛執照，護照，社交媒體頁面和在線約會條件上的。除非極端天氣，假期和宗教限制，但通常可以掩蓋您的臉上的事物，而您的臉部通常是您的finder;您只能在您的Illegs上遇到任何東西。在外面，您的臉部被每個智能手機捕獲，無論您是否可以看到面部識別，這些差異不僅僅是這些差異都可以從遠處，秘密和大量的人出現。”
Gao說，對與會者提出的生物識別AI開發的潛在影響的另一個關注點是：“確切地應如何使用，理解和分析數據。”
正如一個論壇參與者指出的那樣，“可以使用機器學習和信用分析來收集所謂的替代數據，以幫助改善不符合傳統信用價值標准或幾乎沒有信用記錄的個人的訪問權利。”
GAO報導說，金融部門“可能會從採用AI中受益……可以用來改善決策，進而改善消費者的公平性和包容性。一位參與者特別指出，可以使用機器學習來幫助建立潛在的消費者身份，這是在他們可以獲得銀行業和信用範圍之前所必需的。”
但是，“在世界某些地區為此目的建立身份尤其困難，儘管現在正在進行大規模的變化來收集數據以識別，” Gao說。
Gao指出，AI“具有以各種方式改善人類生活和經濟競爭力並幫助解決一些社會最緊迫的挑戰的實質性前景……根據專家的說法，AI [也]也帶來了新的風險，可以使工人取代工人並擴大社會經濟不平等。”
Gao在會議上說：“為了改善或增強人類決策……AI可用於從多個位置收集大量數據和信息，表徵系統的正常操作並檢測到異常，比人類可以快得多。幫助確定什麼是正常情況和什麼是異常。”
但是，在評估可接受的風險和道德決策時，“政策制定者需要決定如何衡量或基準測試AI的表現並評估權衡取捨，” GAO告知立法者。 “例如，評估者將AI的性能與什麼相比？”
一位“參與者強調'基線'是當前的實踐，而不是完美的 - 即，人類現在的表現，沒有AI。”
此外，GAO報告說：“這位參與者[所說]我們對當前的實踐沒有堅定的理解。另一方面，參與者強調：“ [i] f我們必須對完美進行基準[ai]，正如他們所說，完美的敵人將是善良的敵人，而我們無處可尋。根據該參與者的說法，實施AI將涉及權衡取捨”，並且“包括準確性，計算速度，透明度，公平性和安全性”。
其他參與者指出，監管問題應由各種利益相關者解決，包括經濟學家，法律學者，哲學家以及參與政策制定和決策的其他人，而不僅僅是科學家和統計學家。
除了激勵數據共享，改善安全性和保障，更新監管方法以及評估可接受的風險和道德決策的政策外，GAO還說：“參與者……還指出了其他政策問題。他們強調，決策者應考慮其他各種政策，這些政策可能有助於對AI的廣泛採用和潛在的負面影響。”
例如，在實施AI時，“一位參與者說，應該要求AI開發人員在部署其技術之前對不同影響進行測試。該參與者指出，如果開發人員對影響不承擔任何責任，則將更好地遵守此類要求。”
相反，Gao指出：“與測試結合進行測試，創建“安全港口”將使開發人員有機會尋求其他人的意見來解決不同的影響，並補充說：“另一位參與者說，不僅可以找到共享數據，還可以找到與使用數據相關的最佳實踐，包括實施和測試AI Systems。 ”
Gao說：“另一位參與者強調了'信息掌握和沒有'數字鴻溝'的政策問題。” “這位參與者指出，許多美國家庭，尤其是那些收入較低的家庭，無法訪問互聯網，如果人們期望人們變得更加知識淵博，訓練有素地從事工作，例如由AI增強的工作，所有家庭都需要互聯網，那麼所有家庭都需要訪問。此外，其他一些參與者表示，一些政策制定者需要考慮對潛在的培訓培訓，包括培訓工作人員，包括培訓的工作人員，包括一員的培訓。
GAO關於研究資源，“一位參與者說，私營部門和公共部門研究之間存在差距，並且公共部門需要努力縮小這一差距。否則，關於AI的大多數研究將對投資於其投資的私人公司的利益。”
