Meta正在讓家長更清楚地了解青少年在其平台上使用AI的情況。該公司於周四宣布，家長可以查看孩子在過去一周內通過Facebook、Messenger或Instagram向AI提問的話題內容，這三款應用均由馬克·祖克柏旗下公司運營。
儘管此舉旨在提升熱門社交平台對兒童的安全保障，但專家指出，這並不能替代有效的內容審核與安全設計機制，並警告稱此舉可能因侵犯青少年隱私而帶來意想不到的負面影響。
該新功能名為"AI Insights"（AI洞察），目前已面向美國、英國、澳大利亞、加拿大和巴西的家長開放，適用於正在監管青少年賬戶的用戶。Meta計劃在未來數周內將該功能推向全球。青少年賬戶是專為青少年設計的平台體驗，默認採用更嚴格的隱私和內容設置。
"AI Insights"是Meta此前為家長和兒童推出的一系列AI使用保護措施的延續。去年10月，Meta表示家長可以阻止孩子與AI聊天機器人角色互動，或隱藏特定角色。所謂"角色"，是指由AI創建的虛擬人物。
過去幾年，祖克柏及其公司在兒童心理健康問題上飽受批評。上個月，Meta在一起兒童性剝削案中被判承擔法律責任，須支付3.75億美元賠償；此外，Meta在加利福尼亞州的另一起案件中同樣被判敗訴，一名女性指控Instagram和YouTube被設計成對兒童具有成癮性。
Meta發言人未立即回應置評請求。
2023年，美國逾40個州對Meta提起訴訟，指控該公司刻意讓兒童對其應用程序產生依賴，從而加劇了青少年心理健康危機。
如何使用"AI Insights"功能
若家長已在Facebook、Messenger或Instagram上啟用了對孩子的監管功能，將在應用程序及網頁端看到一個名為"Insights"的標籤頁。
（家長可通過Meta的家庭中心為13至17歲使用青少年賬戶的孩子啟用監管功能。）
點擊"Insights"標籤頁後，家長可查看孩子在過去七天內向Meta AI提問的話題類別。Meta表示，這些話題可能涵蓋學校、娛樂、生活方式、旅行、寫作、健康等方面。
每個話題下還設有細分類別，例如"生活方式"下包含時尚、美食和假期，"健康與健全"下則包含健身、身體健康和心理健康。家長點擊相關話題後，可看到孩子具體詢問過哪些類別的內容。
今年2月，Meta新增了一項功能：若青少年在Instagram上向AI詢問與自殺或自我傷害相關的內容，家長將收到提醒通知。
此外，Meta還表示已與網路霸凌研究中心合作，開發了11個對話話題，供家長與孩子就AI話題展開溝通。家長可通過"Insights"標籤頁上的鏈接獲取這些內容。
Meta在周四的公告中表示，公司正努力"讓家長監管功能對家長更具實際價值"，並稱過去一年間，美國參與監管功能的青少年用戶數量已翻倍。
家長監控或存隱患
加拿大新不倫瑞克省芒特阿利森大學社會學副教授阿爾達思·懷納克特專注於心理健康與家庭暴力研究。她表示，該功能將內容審核的責任轉移到了家長身上，但在存在家庭虐待風險的環境中，這一功能也可能因為給家長提供了監控工具而對兒童造成傷害。
"家長監控並不等同於內容審核，"懷納克特在接受採訪時表示，"隨著Meta等公司減少內容審核力度，兒童和青少年受到傷害的頻率反而在上升。讓家長來承擔減少產品危害的職責，本不應該是他們的工作。"
懷納克特曾在監獄及青少年情緒障礙與精神病領域工作多年，她指出，酷兒和跨性別青少年可能是家長監控的最大受害群體。
"許多人依靠數字空間尋求支持，"她說，"對家長監控的恐懼，可能會將孩子逼入網路上更不安全的角落。"
"一個令人悲哀的現實是，孩子們往往需要被保護免受父母的傷害，就像需要被保護免受網路危害一樣，"她補充道。
僅靠新功能仍不足夠
在線兒童安全組織Enough is Enough的首席執行官唐娜·賴斯·休斯在接受採訪時表示，Meta的新功能是"朝正確方向邁出的一步"，但遠遠不足以構成有效的安全保障。
"在青少年安全問題上，Meta不值得信任，該公司一再將利潤凌駕於安全之上，"休斯說，並指出Meta曾於2024年遊說阻止美國眾議院通過《兒童在線安全法》。
休斯表示，家長應充分利用現有的在線家長控制工具，例如Meta的新"AI Insights"功能，同時也應頻繁與孩子進行關於網路安全的溝通。她還強調，相關管控工具應更加完善有效，且應由整個科技行業共同實施，而不僅僅依靠Meta一家公司。"家長們不能一直獨自承擔這份重擔，"休斯說。
Q&A
Q1：Meta的"AI Insights"功能是什麼？家長能看到哪些內容？
A："AI Insights"是Meta推出的一項家長監管功能，目前已在美國、英國、澳大利亞、加拿大和巴西上線。家長可通過Facebook、Messenger或Instagram中的"Insights"標籤頁，查看孩子在過去七天內向Meta AI提問的話題類別，包括學校、娛樂、健康、旅行等，並可進一步查看每個話題下的細分類別。
Q2："AI Insights"功能對青少年隱私有哪些潛在影響？
A：專家警告，該功能將內容審核責任轉移給了家長，但在存在家庭暴力風險的家庭中，可能成為傷害孩子的監控工具。尤其是酷兒和跨性別青少年，往往依賴數字空間尋求支持，家長監控可能迫使他們轉向網路上更不安全的地方。研究者指出，孩子有時也需要被保護免受父母的傷害。
Q3：除了"AI Insights"，家長還能做什麼來保護孩子的網路安全？
A：專家建議，家長應充分利用現有在線家長控制工具，包括Meta的"AI Insights"功能，同時保持與孩子的頻繁溝通，討論網路安全話題。Meta也與網路霸凌研究中心合作，提供了11個親子對話話題供參考。此外，專家呼籲整個科技行業應共同推行更完善的保護機制，而非將責任完全推給家長。
