篡改照片的歷史與攝影的發明一樣古老！然而，生成式人工智慧的出現提高了修補圖像的能力，以至於我們可以質疑照片的真實性。 Pixel 9 進一步放大了流派的混合，達到了荒謬的程度。
神奇的修飾功能Google人工智慧已經推動了這一進程，但是像素9新增維度：現在可以藉助簡單的文字指令插入物件並對照片進行修改，這要歸功於雙子座。這是我們創建的一個例子，在這裡很容易找到用谷歌人工智慧處理的照片：
操縱速度非常快，結果令人不安。考慮到美國智慧型手機測試發布後大量的例子，可能太多了！克里斯·韋爾奇邊緣一個工作幾個引人注目的例子，例如將自行車與車禍整合到街頭照片中：
Pixel 9 還可以令人信服地讓地鐵列車氾濫：
更嚴重的是，也很容易讓人相信被拍照的人正在吸毒：
谷歌認為不適合插入浮水印或包含明確指示修改後的影像的警告；你必須在元數據中提及，這也很容易刪除：你只需要對經過修改的照片進行屏幕截圖......谷歌開發的沒有警報的情況更加令人驚奇用於標記 AI 產生影像的 SynthID 浮水印。很容易想像可能出現的偏差。
使用生成式人工智慧使膀胱看起來像燈籠並不是 Pixel 9 發明的，使用現有工具重現這些範例並不是很複雜。這裡的問題在於篡改照片的便利性和速度：來自智慧型手機相機應用程式的簡單請求。
除了這個照片編輯工具之外，Pixel 9還包括一個「Dall-E風格」影像建立工具，稱為Pixel Studio。這裡也非常簡單，您只需描述您想要的圖像，Gemini 就會負責產生視覺效果。這個應用程式在法國不可用，但它可以毫無問題地創建海綿寶寶穿著納粹制服的圖像，或者埃爾莫手裡拿著啤酒駕駛汽車的圖像。數位趨勢。
今年早些時候，谷歌被迫暫停其 Gemini 圖像生成工具的先前版本，該工具創建了完全虛假的歷史圖像。
谷歌回應了這一新出現的爭議，表示 Magic Edit 和 Pixel Studio 的設計目的是“尊重用戶請求的意圖，這意味著他們可以在用戶請求時創建潛在的攻擊性內容」。儘管如此， ”並非一切都被允許» 並制定了防止濫用的保障措施。當我們嘗試修改一個人的圖像時就是這種情況：
儘管如此，谷歌承認“某些請求可能會測試這些保障措施」。搜尋引擎承諾“不斷改進和完善防護措施»，公司正在傾聽：數位趨勢在通知 Google 24 小時後，無法產生納粹海綿寶寶的新圖像。
