AI也需要考慮「政治正確」嗎？
《Nothing，Forever》是一部最近在Twitch平台上引發了廣泛關注的動畫作品，基本由粗糙的畫面、不知所云的劇情和機械的電子音構成，之所以能引起討論，是因為它純粹是由AI生成的，我們之前也對此有過報道。
這部形式上模仿了美國90年代的情景戲劇《宋飛傳》的動畫，在Twitch平台上號稱「永不停播」，因為它採用了OpenAI里GPT-3語言預測模型，號稱可以實時採集留言區用戶的文字內容，並根據觀眾的反饋來調整劇情走向。
不過雖然在技術上能做到「永不停播」，但在兩個星期前，這個節目還是因為其他原因被平台封禁。
2月5日，在該動畫的一場深夜個人脫口秀中，虛擬人物Larry發表了一系列關於跨性別者的侮辱性言論，包括了「質疑變性人是否患有精神疾病」以及「變性人是否正在破壞社會結構」等內容。
顯然，這樣的言論勢必會引發多數人的抵制與不滿，按照規定，Twitch平台對《Nothing，Forever》採取了14天封禁的處罰，而這部動畫在最近即將重新恢復播放。
雖然發表爭議言論的是AI而非真人，但AI背後的研發團隊無疑需要為這起事故承擔相應的責任。在開發團隊發布的一份聲明中，他們就表示這「完全是我方錯誤導致的一個技術問題。」
開發團隊宣稱根本原因是由於OpenAI的內容審核工具對AI模型意外失效，才導致了後續的事故。為了能避免類似問題的再次出現，開發人員表示正在組建一個關於AI的「安全委員會」，以便人工智慧的審核水平能夠緊隨技術發展，以做到實時檢測可能的敏感內容。
如果AI可以與人類互動並學習相應知識，那麼如何避免它被大量錯誤或者無意義的內容「污染」？這可能是之後人們需要探討的問題。
為了讓節目重新上線，團隊還宣布會引入一個「觀眾互動系統」，這個系統能夠讓觀眾安全地與節目互動，並且依舊能產出有創意的新內容，但他們目前暫未透露更多的情報。
儘管AI已經顯現出了自己的一部分「創造力」，但在徹底取代人類工作之前，人類還得發明出新的崗位來解決它產生的問題，這可能也算是一種另類的「塞翁失馬」了。
