新的Siri在Generative AI上腫脹,直到明年。根據被認為是開發人員的說法,此推遲將是由於安全問題所致。蘋果會擔心黑客找到一種方法來處理Siri在iPhone上編排個人數據。
蘋果剛剛宣布推遲新的Siri在生成AI中提升了。人聲助手的新版本被描述為“一個更個性化的siri,使其對您的個人背景有更多的認識,以及在您的應用程序中和通過您的應用程序中為您採取行動的能力”,不會在明年之前部署。庫比蒂諾巨人表明他們需要“交付這些功能的時間超過預期的時間”。
同時,蘋果情報仍然存在截肢的主要資產之一。該小組甚至被迫轉移備受期待的產品,帶有連接房屋的屏幕上的Homepod。該設備主要基於Siri的演變。
Siri和“及時注射”
對於探索和發布數據的開源平台DataSette背後的英國開發人員Simon Willison而言,出於安全原因,Apple決定將Siri 2.0發布。該程序員在他的網站上認為,加利福尼亞巨人會擔心Siri會很脆弱“迅速注射”攻擊。這種進攻包括操縱人工智能模型通過將惡意指示插入請求,以繞過安全限制。顯然,用戶說服AI忽略其編程以生成內容或執行開發人員禁止的操作。所有AI都對這類攻擊敏感。這就是為什麼Openai,Google和其他人建立了許多安全機制來阻止“迅速注射”的原因。
就Siri而言,惡意要求可能會對iPhone的安全造成災難性的後果。正如西蒙·威利森(Simon Willison)所解釋的那樣,未來的語音助手能夠應他的要求訪問用戶應用程序中的信息。金子,“每當基於語言模型的系統可以訪問私人數據,可以利用或暴露於潛在的惡意說明(例如來自不可靠的陌生人的電子郵件或文本消息)時,攻擊者可以將這些工具轉移來損害或剝奪用戶的數據,從而有很大的風險。
蘋果本來會害怕數據飛行
蘋果會擔心Siri被利用R編排數據航班。例如,攻擊者可以將惡意說明插入電子郵件或消息中。如果Siri諮詢了他們,他可以透露私人信息並將數據發送給第三方。此外,攻擊可以處理Siri的行為方式。風險是聲樂助理開始產生可恨或非法內容。為了博主約翰·格魯伯(John Gruber),專門研究與蘋果有關的主題,西蒙·威利森(Simon Willison)的理論特別可信。
為了預防措施,蘋果更喜歡推遲助手的發射,可能是時候插入所有操作向量可能的。提醒我們,蘋果公司將保密性成為其戰馬之一。因此,該公司希望通過部署可能危害iPhone用戶的數據來避免破壞其聲譽。與往常一樣,蒂姆·庫克(Tim Cook)的公司扮演審慎卡。
仍然太多的錯誤
對於馬克·古爾曼(Mark Gurman)彭博,新的Siri也遭受了累積錯誤。根據他的信息“許多測試新Siri的員工發現這些功能尚未以連貫的方式工作”。蘋果似乎在整合Siri的基本功能(例如計時器,提醒或簡單命令的管理)上遇到了困難,以及Apple Intelligence摻雜的新Siri的高級能力。無論如何,我們將不得不等到2026年,然後iOS 19更新,發現新的生成ai的siri。