菲利普·波特納（Philipp Pointner），數字身份負責人Jumio
儘管發布後幾個月只有幾個月，但AI聊天機器人現象Chatgpt已完全接管了互聯網。它可以快速響應查詢，協助任務和生成內容的能力，使其成為學生，員工和無數其他用戶的有用資源。更不用說，在幾秒鐘內開設免費帳戶及其易用性的能力使其成為更具吸引力的工具。
不幸的是，除了明顯的好處外，Chatgpt也是一種強大的武器，可以輕鬆地以更大的規模創建惡意內容，將網絡犯罪提升到一個全新的水平。可以肯定的是，研究人員有成立網絡犯罪分子的案例覆蓋了Chatgpt的反濫用限制，以生成或審查惡意代碼。它還有能力進行高度令人信服的對話Deepfake視頻在幾秒鐘之內，允許壞演員比以往任何時候都更快地傳播虛假信息。
隨著網絡犯罪分子繼續尋找新的方法來惡意使用Chatgpt，組織和消費者必須能夠更好地捍衛自己。
準備聊天機器人網絡攻擊
生成性AI最大的威脅之一也許是新發現的能力，可以大規模快速傳播虛假信息。 2023年1月，研究人員預測這種生成的AI將使虛假信息變得更加容易，更便宜，以使更多的宣傳和陰謀理論家產生。但是，這種現實比我們想像的要遠遠超近我們 - 實際上，它已經在這裡。那裡一直是數十例民族國家參與者案件創建了AI生成的政治人物視頻以傳播虛假信息，而區分真實和不是什麼，越來越困難。借助ChatGpt和其他合成媒體生成器等工具，可以免費使用，並在我們的觸點上使用Internet訪問的任何人都可以產生網絡攻擊並傳播虛假信息。
此外，生成技術正在不斷發展，並且很快就有能力完全連接到互聯網。這將使聊天機器人可以實時獲取對實時信息的訪問，從而進一步提高其準確性。發生這種情況時，機器人將變得比現在更複雜。如果放在錯誤的手中，就不會說出可以在包括新聞媒體和社交媒體平台在內的媒體渠道分散哪種宣傳。
我們中的許多人已經處於那些網絡釣魚短信的接收端，我們的老闆或朋友在這裡要求我們匯金或向他們發送禮品卡 - 只是另一端我們認識的不是真正的人。據我們所知，這些網絡釣魚短信是由真正的人類寄出的。但是現在，借助生成技術，一個人可以大規模發送這些文本，並招募機器人以保持對話的進行。
溝碼。需要新的機器人檢測工具
和研究表明Chatgpt可以欺騙人類繞過Catpcha，這是旨在防止機器人的工具，很明顯在線組織必須超越這些過時的方法。
企業有責任確保其業務和客戶安全，但是過去的機器人檢測方法還不足以實現新浪潮的機器人和欺詐浪潮。所需的是複雜的身份驗證工具，可以確認每個人創建一個帳戶（隨後登錄該帳戶）是屏幕後面的真實人。
這些類型的解決方案可能包括LIVISE檢測，其中安全算法確定生物識別驗證樣本是假代表還是活人。組織可以部署的另一種身份工具是以文檔為中心的身份證，在該工具中，將政府發行的ID與實時自拍照進行比較以驗證用戶是他們說的。這些現代的數字身份技術可以使企業安心，他們的用戶是真正的人類，甚至是他們自稱是誰，同時幫助防止消費者暴露於虛假信息和欺詐方面。
假設機器人直到被證明人
作為消費者，我們也有義務確保在網上遇到任何形式的內容時，即使是來自信譽良好的來源，我們也會非常謹慎。消費者不應總是相信他們看到的每一篇內容，並鼓勵對似乎令人懷疑的新聞進行進一步的研究。在社交媒體方面，用戶首先假設帳戶是機器人是明智的，直到被證明是人為經營的，尤其是在涉及可疑內容時。
儘管生成的AI具有明顯的優勢，但它也帶來了重大的社會風險。但是，如果組織部署現代工具和消費者在網上遇到內容時保持謹慎，則聊天機器人驅動的網絡攻擊將不會有機會。
關於作者
作為數字身份的負責人，菲利普領導Jumio的數字身份策略以及在其生態系統中實現多個數字身份提供商的倡議。在加入Jumio之前，Philipp負責Paysafecard，Paysafecard是歐洲最受歡迎的在線購買解決方案。
免責聲明：生物識別更新的行業見解是提交的內容。這篇文章中表達的觀點是作者的觀點，不一定反映生物識別更新的觀點。
