谷歌於11月1日宣布，已將AI模型Gemma從其AI Studio平台下架。此舉源於一名共和黨參議員投訴該模型憑空捏造了針對她的虛假刑事指控。
谷歌官方賬號在X平台回應稱，公司注意到有非開發者用戶通過AI Studio向Gemma提出事實性問題，而該平台本為開發者設計，並非面向普通用戶的問答工具。為避免繼續產生混淆，Gemma已無法通過AI Studio訪問，但開發者仍可通過API繼續使用該模型。
Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…
— News from Google (@NewsFromGoogle) November 1, 2025
儘管谷歌未明確提及具體投訴內容，但田納西州共和黨參議員瑪莎・布蕾克本此前致信谷歌CEO，指控其存在誹謗行為。她舉例稱，當詢問「瑪莎・布蕾克本是否曾被指控強姦」時，Gemma不僅編造了她在1987年競選期間與一名州警存在不當關係的虛假細節，還列出了完全不存在的「新聞報道」作為佐證。
布蕾克本強調這些內容純屬捏造，連競選年份都是錯誤的，並指出這已超出普通的AI「幻覺」範疇，構成嚴重的誹謗行為。儘管生成式AI技術持續發展，但其輸出內容的準確性仍是行業共同面臨的挑戰。谷歌表示將持續致力於減少模型幻覺，改進所有AI系統的可靠性。
