不是吧！Google 地球「Create image」剛上線，就被光速緊急撤回？
7 月 30 日，Google 地球 網頁版正式推出「Create image」功能，接入「Nano Banana 2」 模型，依託大模型的生成能力，用戶可以框選地球上任意地點，輸入一段提示詞，就能基於實景影像進行二次創作：
閒置荒地一鍵改造為商業區，千年古蹟直接復原出古文明盛景，官方宣傳片充分展現了這項功能的創意潛力。
但功能對外開放後，局面卻迅速失控，Google 地球被網友們徹底「玩壞了」。
先進的「AI 公司」，辜負了 10 億人的信任
Google 地球可以說是世界上最流行的衛星雲圖服務，通過 Google 地球，我們能查看到關於這個星球最詳細的面貌。
根據 Google 自己在官方部落格透露，Google 地球擁有總計 3600 萬平方英里的衛星圖像可以供用戶瀏覽，Google 還表示這些衛星圖像已經覆蓋了地球上 98% 的人口。考慮到 Google 地球和 Google 地圖極強的關聯性，可以說超過 10 億的 Google 地圖用戶，也都是 Google 地球的使用者。
但就是這樣一個權威雲圖服務，卻在短短一天內出現了——「9·11 事件」場景重現、「哥吉拉」入侵城市、「外星生物」降臨地表等亂象：
隨著事件快速發酵，谷歌火速做出決定，緊急回滾這項新功能。 官方回應稱，平台觀測到大量外流的生成截圖涉嫌違反社區政策，因此決定先下線入口、補上安全防護，等條件成熟後再評估是否重新開放。
AI 生圖服務下線了，但 Google 地球長達 20 年積累起來的「公信力」也毀於一旦了。
這份公信力並非憑空產生，而是在無數現實場景中反覆驗證、一步步沉澱而來：
卡特里娜颶風過後， Google 地球更新的災區影像被交付給一線救援人員參考；
國際特赦組織也曾通過現場影片與 Google 地球衛星影像交叉比對，排查疑似集體埋葬地點。
無論是記者核驗地理資訊、學者追蹤地表變化，還是普通用戶實景查證，公眾早已習慣性將其界面內容視作真實世界的有效參照。
也正因如此，當我們打開 Google 地球時，會自然認為：眼前呈現的，是現實世界真實存在過的景象。
（承認吧，你也肯定在地圖裡一點一點扒拉，找過自己家的屋頂。）
這份不假思索的信任，是谷歌二十年持續採集影像一點點搭建起來的。可「Create image」上線後，任何人都能藉助同一套界面、相同地名、一致觀測視角，給憑空捏造的場景附上濃厚的 「現場真實感」。
過去，一張 Google 地球截圖在網路傳播，人們不會第一時間質疑真偽；而往後，懷疑將會成為所有人看圖時的本能。
信任的裂痕一旦出現，很難修補。
既然 AI 隨手就能製作出足以亂真的圖像，我們還能無條件相信自己看到的畫面嗎？難道往後每看見一張截圖，都要先費勁分辨它究竟是真是假？
其實早在 Google 地球這次風波之前， Google Pixel 手機就捅過類似的簍子。
兩年前，Google Pixel 9 系列上線之際，內置相冊搭載了 Reimagine 功能——用戶可以框選照片任意區域、輸入提示詞，就能在原始畫面上生成全新內容。
The Verge 曾做過測試，在河流里生成一架失控墜毀的直升機，成品細節完整，乍看都找不到 AI 修改痕跡。
這架直升機發在朋友群里，可能只是一場惡作劇；可它要是出現在社交平台里，就可能搖身一變，成為引起社會恐慌的「現場證據」。
這不只是 Google 一家公司的問題 ，Meta 最近也整了一出大的。
今年七月份上旬，Meta 正式推出 Muse Image，其中一項功能允許用戶在 Meta AI 里 @ 公開 Instagram 賬號，直接把對方發布的照片拿來做 AI 生圖參考。
根據 TechCrunch 報道，符合條件的成年公開賬號會被默認納入素材池，照片被調用生成圖像時，賬號所有者不會收到任何通知。
等等，你說什麼？難道你是在告訴我，我自己的作品會在我自己不知情的情況下被二創嗎？這合理嗎？
不出意外，僅僅三天，Meta 就緊急撤回了這項功能。
看到這裡，你可能會問：給 AI 圖片加上水印，不就行了嗎？
水印當然有用，只是它沒法包辦一切。
傳統水印很容易被裁切、截圖或轉發破壞，雖然隱形水印更難去除，但它也有著一定的門檻——需要專門工具才能識別，而且局部修改後仍可能出現漏判。
為了補上圖片來源和修改記錄這部分資訊，越來越多的平台開始採用 C2PA 內容憑證：它可以記錄一張圖片由誰製作、是否經過 AI 生成，以及後來被怎樣編輯。
可令人頭疼的是，即使有了這套憑證，人們能夠查清的仍然只是圖片的來歷。
至於畫面里的事情是否真的發生過，還需要我們結合新聞來源、現場證據等資訊進一步核實——但很多時候，吃瓜群眾在不言中就成為了傳謠者。
歸根結底，水印和溯源技術，都只是事發後的補救手段。而那些真正決定風險邊界、守住影像可信度的，從來不是用戶的辨別能力，而是平台從功能誕生之初，就設定好的開放規則與安全尺度。
讓娛樂歸於娛樂，讓真實歸於真實
Google 和 Meta 接連出現的功能爭議，本質上反映出科技行業一種趨同的產品取捨——以假亂真的生成式 AI，能力的邊界在哪裡？
廠商優先簡化 AI 生成流程、降低使用門檻，再依靠後置規則與風控兜底，應對功能開放後產生的濫用問題。無論是直接挪用公開 Instagram 照片作為生圖素材、依託真實地理影像開展AI創作，還是將實景照片編輯簡化為框選加提示詞的極簡操作，都是這套產品邏輯的具體體現。
這種極致的操作簡化，在便利正向創作的同時，也消解了過去天然存在的使用阻力，而這些阻力原本是抵禦惡意創作的無形屏障。
不過令人費解的是，明明 Nano Banana 和 Google 地球都屬於 Google 。在同一類敏感請求下，在 Nano Banana 中會被拒絕，換到 Google 地球里卻能順利生成。
可見，Google 在功能上線前，內部並沒有對齊安全規則，對於模型能力的調度，不同產品有著不同的選擇。
對一個依靠真實地理影像建立公信力的平台來說，這恰恰是致命的紕漏。
可在爭相證明自己是一家「AI 公司」的競賽里，比起完善前期的安全工作，Google 更急著把功能塞進產品，將安全規則拋之腦後。
當爭議出現後，Google 給出的解決方案也很無力——讓用戶可以通過 Gemini 來甄別可疑圖像，可這簍子就是自家 AI 捅出來的啊。
顯然，風控防線本該優先搭建在平台一側，把辨別真偽的負擔轉移到用戶肩上，這本身就是一種逃避責任。
在這點上，我認為國產手機廠商在引入 AI 能力時的做法，更值得借鑑。
以 OPPO 手機的 AI 影像功能為例，諸如人像補光、最佳表情、去反光去拖影等功能，當然是一種對真實的「修改」，但這種修改在私人相冊這個環境下，是合理的，是克制的，更是錦上添花的。既不打擾他人，也藉助 AI 能力提升了效率、挽救了廢片。
想像一下你在一個很漂亮的花園裡拍照，偏偏遇上陰天，光線不足，人物和景色都顯得灰暗。這時候用 「AI 人像補光」一鍵提亮畫面，就能把一張差點拍壞的照片救回來，也把拍照時的好心情留住。
花園、人和那次拍攝都真實存在，AI 只是扮演了打光師的角色。它沒有另外編出一個不存在的場景，而是修補一次真實拍攝留下的遺憾，讓這張「照片」變成一張「好照片」。
即使這是一張經過 AI 處理的照片，這些功能一樣會改動像素，有時還會修正局部內容，但 AI 在這裡起的只是修飾作用，原本拍下的生活依舊是畫面的中心。
我想無論是 Google 地球或是 Google 相冊，必然也能在入口處、在產品層，做好引導與防護，做好 AI 內容與真實數據的隔離，讓娛樂歸於娛樂，讓真實歸於真實。
對 Google 來說這絕非難事，但卻依然一次次選擇拿公信力去冒險——我想這不應該是一個先進的 AI 公司應有的擔當。
