「在人工智慧的浪潮中，我們不能以犧牲隱私為代價換取便利。」6 月 10 日Apple 在全球開發者大會上宣布了一個重大的 AI 舉措——「Apple Intelligence」，證實了長期的傳聞，即它將與 OpenAI 合作，將 ChatGPT 帶入 iPhone。
OpenAI 的聯合創始人之一伊隆·馬斯克很快在 X 上做出回應，稱由 ChatGPT 支持的 Apple AI 工具是「令人毛骨悚然的間諜軟體」和「不可接受的安全違規行為」。他警告說：「如果 Apple 在作業系統層面集成 OpenAI，那麼我的公司將禁止使用 Apple 設備。」
但在 AI 隱私問題受到關注之際，iPhone 製造商 Apple 表示，Apple Intelligence 提供了一種保護用戶數據的新方式。該公司正在研究哪些核心任務可以在設備本地完成，以最大限度地保護隱私。
對於更複雜的請求，Apple 開發了一種稱為「Private Cloud Compute (PCC)」的基於雲的系統，運行在自己的伺服器上。該公司稱這是一種保護新興 AI 時代隱私的創新方式。
Apple 軟體工程高級副總裁克雷格·費德里吉稱其戰略是「AI 隱私的全新標準」。那麼，Apple 的說法是否站得住腳？與包括三星 Galaxy 系列在內的設備上提供的「混合 AI」產品相比，Apple 的戰略有何不同？
AI 與端到端加密
Digital Barriers 首席執行官柴克·多夫曼表示，通過 PCC，Apple 設計了一種全新的端到端 AI 架構，讓用戶的 iPhone 擁有私有雲飛地擴展，從而可以更好地控制數據。Digital Barriers 是一家專注於實時監控影片存儲和分析的公司。
在實踐中，這意味著 Apple 可以掩蓋 AI 提示的來源，並防止任何人（包括 Apple 本身）訪問用戶的數據。多夫曼說：「從理論上講，這是雲端 AI 實現端到端加密的最接近的方式。」
Inrupt 安全架構負責人布魯斯·施奈爾表示，Apple 為其 AI 構建了一個「相當令人印象深刻的隱私系統」。他說：「Apple 的目標是讓 AI 的使用——甚至是在雲端——與手機的安全性一樣安全。這是一個複雜的過程，但我認為他們做得相當不錯。」
到目前為止，還沒有任何其他解決方案能與之相提並論。在搭載 Google Android 和 Google Nano 系列的三星 Galaxy 設備上使用的「混合 AI」中，一些 AI 流程在本地處理，在必要時利用雲端來實現更先進的功能。
GRC International Group 人工智慧集團負責人卡姆登·伍爾文表示，其想法是儘可能提供隱私保護，同時提供強大的 AI 功能。「這意味著你甚至可以在中端智慧型手機上體驗到一些相當複雜的 AI。」
但是，這種類型的混合 AI 處理仍可能存在風險，因為一些數據被發送到雲伺服器，而沒有 Apple 通過其 PCC 提供的相同級別的問責制。「對於混合 AI 來說，一些數據必須離開設備並在其他地方處理，使其更容易受到攔截或濫用，」Open 技術研究所創始人兼總監里卡多·奧克萊波說。
然而，谷歌及其硬體合作夥伴認為，隱私和安全性是 Android AI 方法的主要關注點。三星電子安全團隊負責人、移動業務副總裁 Justin Choi 表示，其混合 AI 為用戶提供了「對數據的控制和無可妥協的隱私保護」。
Choi 解釋說，雲端處理的功能受到嚴格政策制約的伺服器保護。他說：「我們在設備上的 AI 功能通過在設備本地執行任務來提供額外的安全性，並且不會依賴雲伺服器，既不存儲設備數據，也不向雲上傳數據。」
谷歌表示，其數據中心採用了強大的安全措施，包括物理安全、訪問控制和數據加密。該公司表示，當在雲端處理 AI 請求時，數據將保留在安全的谷歌數據中心架構內，並且不會將用戶資訊發送給第三方。
同時，Choi 表示，Galaxy 的 AI 引擎不會使用來自設備上功能的用戶數據進行訓練。三星會通過其 Galaxy AI 符號清楚地表明哪些 AI 功能在設備上運行，並且智慧型手機製造商會添加水印以顯示內容何時使用了生成式 AI。
該公司還引入了名為「高級智能設置」的新安全和隱私選項，讓用戶可以選擇禁用基於雲的 AI 功能。
谷歌表示，該公司「擁有保護用戶數據隱私的悠久歷史」，並補充說這適用於其在設備上和雲端啟用的 AI 功能。「對于敏感案例，例如篩選電話，我們使用設備上的模型，數據永遠不會離開手機，」谷歌產品信任副總裁蘇珊·弗雷告訴 WIRED。
弗雷描述了谷歌產品如何依賴其基於雲的模型，以確保「消費者的資訊，例如需要總結的敏感資訊，永遠不會被發送給第三方進行處理。」
她說：「我們一直致力於構建人們可以信任的 AI 功能，因為它們默認安全，設計時考慮了隱私，最重要的是，它們遵循了谷歌首創的負責任的 AI 原則。」
Apple 改變了對話
專家表示，Apple 的 AI 戰略不僅僅是匹配「混合」的數據處理方法，它改變了對話的性質。多夫曼說：「每個人都期待這種設備內、隱私至上的推動，但 Apple 實際上做的是說，無論您在 AI 中做什麼，或在哪裡做——重要的是如何做。」 他認為這「很可能會定義智慧型手機 AI 領域的最佳實踐。」
即便如此，Apple 還沒有贏得 AI 隱私之戰：與 OpenAI 的交易——Apple 不同尋常地向外部供應商開放其 iOS 生態系統——可能會損害其隱私聲明。
Apple 反駁了馬斯克關於與 OpenAI 的合作會損害 iPhone 安全性的說法，稱「為訪問 ChatGPT 的用戶構建了隱私保護措施」。該公司表示，在查詢被共享給 ChatGPT 之前，會要求用戶許可，同時會模糊 IP 地址，並且 OpenAI 不會存儲請求——但 ChatGPT 的數據使用政策仍然適用。
安全公司 ESET 的全球網路安全顧問傑克·摩爾表示，與另一家公司合作對 Apple 來說是一個「奇怪的舉動」，但這一決定「不會輕易做出」。雖然確切的隱私影響尚不清楚，但他承認「雙方都可能收集一些個人數據，並且這些數據可能被 OpenAI 分析。」
這意味著對於一些數據，「你只能遵守 OpenAI 的規則，」施奈爾說。「Apple 在向 OpenAI 發送查詢時刪除識別資訊，但是許多查詢中包含大量的識別資訊。」
蘋果和 OpenAI 之間的合作有可能「完全改變 AI 領域的問責制」，人工智慧教授兼科技諮詢公司 Wisdom Works Group 創始人安迪·帕多說。「這種合作夥伴關係將責任分散到多個實體，從而影響到如何為其互連繫統內的成功和潛在失敗分配責任。」
隨著 AI 技術被集成到科技巨頭的作業系統中，還需要考慮安全風險。至少在理論上，Apple Intelligence 是一個令人印象深刻的壯舉，但該公司 的 AI 工具也創造了「一個前所未見的巨大攻擊面」，多夫曼說。「它採用了一系列不同的安全創新，並將其結合到一個新的產品中以實現一個新的目的，因此，如果它起作用，它將是一個改變遊戲規則的舉措。但在它上線時，Apple 將需要管理一些問題。」
正因為如此，Apple 和谷歌都在鼓勵安全研究人員尋找其 AI 解決方案中的漏洞。谷歌的安全 AI 框架讓安全公司 Mandiant 測試了 AI 模型的防禦能力。
Apple 的一位發言人提供了該公司關於 PCC 安全性論文和模型論文的鏈接，詳細介紹了其對 AI 開發的「負責任」方法。 Apple 沒有對 WIRED 關於其與 OpenAI 的合作引發的隱私問題或潛在安全風險的後續問題做出公開回應。
Apple 正在為 PCC 使用一種稱為「可驗證透明度」的模式。 Apple 在介紹 PCC 的一篇博客文章中說：「我們希望確保安全和隱私研究人員可以檢查 Private Cloud Compute 軟體、驗證其功能並幫助識別問題——就像他們可以與 Apple 設備一樣。」 為了實現這一點，Apple 正在向安全研究人員公開提供 PCC 每個生產版本的軟體圖像。
Apple Intelligence 將與即將推出的 iOS 18 軟體更新一起集成到 ChatGPT 中，完整的功能套件將於今年秋天在 iPhone 16 上推出。你可以選擇禁用此功能，但如果你想在任何設備上使用 AI 功能，最好考慮其隱私和安全影響。
具體到 iOS 和 Android AI，這取決於你信任誰。帕多建議評估作業系統在隱私功能、數據處理實踐和透明度方面的整體權衡。帕多指出：「Apple 對隱私的強烈關注仍然是優先考慮數據安全性高於一切的用戶的一個關鍵看點。」
