近期，多款AI虛擬伴侶App被曝出嚴重違規亂象，打著情感陪伴的旗號，卻充斥低俗擦邊、暴力劇情與色情誘導內容。更有商家在二手平台以13.14元低價，為用戶定製大尺度色情向虛擬人設，嚴重突破內容安全底線。
實測發現，EchoMe、築夢島、星野等多款熱門App均存在嚴重合規漏洞。平台青少年模式可一鍵跳過，註冊登錄無需實名認證，無法有效識別未成年人。
角色庫充斥穿著暴露的女性形象，對話場景包含暴力、小三、離婚互懟等極端劇情，部分AI在得知用戶是13歲初中生後，仍發送曖昧、誘導戀愛的低俗資訊。
更隱蔽的是，這些平台還形成了灰色產業鏈。
二手交易平台上，商家用「清水設」、「開車設」等黑話區分人設類型，色情定製收費低廉，部分平台還需接入外部API才能實現大尺度互動，進一步放大內容風險。
同時，平台普遍設置付費牆，免費對話次數有限，語音播放、劇情解鎖、查看朋友圈等功能均需充值，用情感操控誘導用戶持續消費。
今年4月，國家網信辦等五部門發布《人工智慧擬人化互動服務管理暫行辦法》，明確禁止向未成年人提供虛擬伴侶服務，嚴禁生成色情、暴力等有害內容，新規將於7月15日正式施行。
法律人士表示，平台需落實內容審核、數據安全等主體責任，第三方定製與API接入同樣要符合合規要求，誘導未成年人充值的行為還可能面臨合同無效與行政處罰。
