魔術觸摸 - 功能Google已經為人工智能加油了,但是像素9添加一個新的維度:現在可以藉助簡單的文本說明插入對象並更改照片,這要歸功於雙子座。這是我們做出的示例,很容易找到用Google AI入侵的照片:


操縱非常快,有令人不安的現實主義結果。鑑於在美國發布智能手機測試之後的例子,可能太多了!克里斯·韋爾奇(Chris Welch)邊緣一個工作幾個引人注目的例子,例如在街道照片中對汽車的自行車事故整合:

像素9還可以令人信服地造成地鐵火車的洪水:

更嚴重的是,相信照片中拍攝的照片會消耗毒品:

Google認為不適合插入水印或非常清楚地表明修改後的圖像的警告;您必須對元數據中的提及感到滿意,這也很容易刪除:只需屏幕截圖篡改照片...缺乏警報,就像Google開發的那樣更令人驚訝合成水印來定位AI產生的圖像。我們可以輕鬆地想像可能的漂移。
由於Pixel 9不是發明的生成AI,因此為燈籠彈膀胱,使用現有工具重現這些示例並不是很複雜。這裡的問題在於可以輕鬆和速度篡改照片:對智能手機的相機應用程序的簡單請求。
除此照片編輯工具外,Pixel 9還執行了一個“ DALL-E”圖像創建工具,稱為Pixel Studio。也很簡單,只需描述您想要的圖像,而雙子座負責產生視覺效果。該應用程序在法國不可用,沒有問題,在納粹制服中創建海綿的圖像,或者像Elmo一樣,將啤酒拿著啤酒拿著啤酒數字化。
在今年年初,Google被迫暫停其雙子座圖像生成工具的先前版本,該工具創建了完全錯誤的歷史圖像。
Google宣布魔術修飾和像素工作室是為了“為新興爭議的反應尊重用戶請求的意圖,這意味著他們可以在用戶請求時創建潛在的冒犯性內容»。儘管如此, ”一切都不允許並為防止濫用行為提供了保障措施。試圖修改一個人的形像是這種情況:
但是,Google承認這一點一些請求可以測試這些保障措施»。搜索引擎致力於“改進並不斷提煉保護措施»,公司很細心:數字化警告Google後24小時無法生成納粹海綿鮑勃的新圖像。