4月13日消息，今日，央視曝光了多款生成式AI
應用存在嚴重涉黃生成漏洞，平台內容審核機制形同虛設，用戶僅需幾句經過隱晦處理的提示詞，就能輕鬆繞過限制，快速生成大尺度色情影片與圖片。
實測發現，直白露骨的提示詞會被多數平台攔截，但將敏感表述替換為含蓄描述、英文詞彙等方式後，違規內容可順利生成。
在一款AI應用中，使用網購的隱晦提示詞，僅幾分鐘就生成半裸女性跳舞影片，全程未觸發任何平台限制機制，同類問題也出現在多款主流AI應用平台。
調查顯示，AI「造黃」已形成完整黑色產業鏈，從違規提示詞售賣、工具使用教學，到批量生成色情內容、付費換臉造假，各環節分工明確、牟利猖獗。
網路上有商家公開兜售定製提示詞，搭配境外AI工具或本地部署模型，進一步規避監管。
部分付費AI照片生成器宣稱，只要充值對應金額，僅憑一張照片就能一鍵生成色情影片，嚴重突破法律與倫理底線。
此類亂象不僅污染網路生態，還極易滋生色情傳播、敲詐勒索、惡意造謠等違法犯罪行為，對未成年人身心健康與網路空間秩序造成極大危害。
目前，我國已出台多項法規整治AI技術濫用，明確要求平台落實內容安全主體責任，強化算法審核與風險防控，嚴禁生成傳播淫穢色情資訊。
監管部門正持續開展「清朗」專項行動，重點打擊利用AI製作低俗色情內容、違規提供生成服務等行為，督促平台升級審核技術，封堵提示詞繞過漏洞。
