9月23日消息，據路透社報道，谷歌信任與安全團隊創始人湯姆·西格爾本周公開呼籲放緩AI發展，警告科技行業正在重蹈社交媒體時代的覆轍，可能對兒童造成更大傷害。目前社交媒體公司正因傷害年輕用戶面臨巨額賠償和數千起訴訟，世界各國政府也在加緊限制未成年人訪問社交平台。
西格爾曾擔任谷歌信任與安全副總裁，他對路透社表示，就AI正在對兒童造成的影響而言，目前處境非常糟糕，認為行業能夠在沒有外部幫助的情況下自行解決問題是不現實的。此前Meta內部文件曾曝光其聊天機器人可與兒童進行情色對話，引發國會調查，但監管措施仍未跟上AI飛速發展的步伐。
西格爾的擔憂反映了部分科技人士和學術研究者日益加深的恐懼：AI對兒童構成的威脅比社交媒體更為深層，而整個行業正競相為聊天機器人添加越來越先進的功能，數百萬年輕人已在日常使用這些機器人。他指出，AI公司向兒童推出各種功能卻未建立足夠安全防護措施，面臨從自殺風險到"認知卸載"等一系列嚴重傷害。
本周二，西格爾宣布加入兒童網路安全倡導組織Common Sense Media，出任今年5月新成立的青少年AI安全研究所首任執行主任。該研究所致力於評估兒童使用AI情況，Anthropic及OpenAI基金會均為支持方。他計劃制定相關標準對AI公司進行問責，並與企業及第三方組織合作推進。
西格爾提出多項可立即採取的措施：Anthropic和OpenAI應實施更嚴格的年齡驗證，阻止未成年人使用聊天機器人;谷歌可在搜尋引擎中增加關閉AI概覽和AI模式的選項。他警告，雖這些措施短期可能影響使用量或利潤，但不採取行動的公司將面臨訴訟和監管風險，對業務造成更嚴重打擊。
谷歌發言人回應稱，家長可通過控制功能完全關閉孩子使用搜尋引擎的權限，AI搜索功能對兒童學習探索有幫助。OpenAI則表示，除用戶自報年齡外，公司還使用賬戶和行為信號識別未成年用戶，並持續測試改進安全系統，包括防範繞過安全防護的嘗試。
