非營利組織Common Sense Media測試青少年版ChatGPT後稱,測試帳號談及自殺、自傷和進食障礙時,均未在OpenAI所述的一小時目標窗口內觸發家長通知,實際也沒有收到通知。OpenAI面向13至17歲用戶提供的設置包含家長控制、潛在有害內容限制及危險話題通知功能。

測試者使用青少年帳號進行了五分鐘到一小時不等的對話。研究者還稱,系統處理醫療建議或暴力角色扮演請求時表現不夠穩定;在自傷和進食障礙話題中,也並非總會建議用戶尋求專業幫助。報告認為,系統「像朋友一樣」的互動方式可能帶來情感依賴風險。
報告同時提到,測試中的系統拒絕了與未成年人進行色情角色扮演。對學習模式的檢查則發現,用戶刪除請求開頭的「@study」即可退出該模式,點擊「顯示答案」按鈕也會直接得到答案。
Common Sense Media據此要求OpenAI先解決這些問題,再向未確認成年的用戶開放使用。上述結果來自該組織此次測試,不能據此認定所有帳號或所有情境下的通知功能都會失效。






