OpenAI正在為ChatGPT推出一項可選安全功能,允許成年用戶為心理健康與人身安全問題指定緊急聯繫人。當OpenAI檢測到某用戶可能在與聊天機器人交流時涉及自我傷害或自殺等話題時,被指定為"信任聯繫人"的朋友、家人或照護者將收到相應通知。
OpenAI在公告中表示:"'信任聯繫人'功能的設計基於一個簡單且經專家驗證的理念:當某人可能正處於危機之中時,與其信任的人建立聯繫,往往能帶來實質性的幫助。該功能在ChatGPT現有本地化求助熱線的基礎上,提供了額外一層支持。"
信任聯繫人功能為選擇性啟用。任何成年ChatGPT用戶均可在賬戶設置中添加聯繫人資訊(被添加方須為全球範圍內18歲以上或韓國19歲以上的成年人)來開啟此功能。被指定的信任聯繫人須在收到邀請後一周內確認接受。用戶可隨時在設置中移除或更換所選聯繫人,信任聯繫人本身也可隨時選擇退出。
OpenAI表示,系統發出的通知"有意作了限制處理",不會向信任聯繫人透露任何聊天內容或對話記錄。若OpenAI的自動化系統檢測到用戶正在談論傷害自身的內容,ChatGPT會鼓勵用戶主動聯繫其信任聯繫人尋求幫助,並告知用戶該聯繫人可能會收到通知。隨後,據OpenAI介紹,一支"經過專項培訓的小規模團隊"將對相關情況進行人工審核,若對話內容被判定為存在嚴重安全隱患,ChatGPT將以簡短的電子郵件、簡訊或應用內通知的形式告知信任聯繫人。
此次新功能是對去年9月隨ChatGPT家長控制功能同步推出的緊急聯繫人機制的進一步擴展。此前,一名16歲少年在與ChatGPT傾訴數月後不幸離世,此事件直接推動了上述功能的落地。Meta公司也推出了類似機制,當未成年用戶在Instagram上"反覆"搜索自我傷害相關內容時,系統會自動向其家長發出提醒。
Q&A
Q1:ChatGPT的"信任聯繫人"功能是如何運作的?
A:用戶在ChatGPT賬戶設置中添加一位成年人作為信任聯繫人,對方需在一周內接受邀請。當OpenAI的自動系統檢測到用戶可能談及自我傷害或自殺等話題時,系統會先鼓勵用戶主動聯繫該聯繫人,並告知其可能會收到通知。隨後經專項團隊人工審核,若情況屬實,系統將通過郵件、簡訊或應用內通知告知信任聯繫人,但不會透露任何具體對話內容。
Q2:信任聯繫人功能會泄露用戶的聊天記錄嗎?
A:不會。OpenAI明確表示,發送給信任聯繫人的通知"有意作了限制處理",不會包含任何聊天內容或對話記錄。聯繫人收到的僅是一條簡短提醒,告知其所關心的用戶可能存在安全隱患,具體對話內容受到保護,不會對外披露。
Q3:信任聯繫人功能的使用有哪些條件限制?
A:該功能僅面向成年ChatGPT用戶開放,用戶和被指定的信任聯繫人均須年滿18歲(韓國用戶須年滿19歲)。功能為自願選用,用戶可隨時在設置中添加、更換或移除聯繫人,信任聯繫人也可自主選擇退出,雙方均不存在強制約束。






