世界上最受歡迎的影片遊戲之一《決勝時刻》的發布公司Activision近期發布消息，稱即將採取嚴厲措施打擊仇恨言論和其他「有毒」行為。
近日，遊戲公司Activision周三在一篇博客文章中宣布，將與人工智慧公司Modulate合作，在其旗艦射擊遊戲《決勝時刻》系列中，引入人工智慧語音聊天審查系統，該系統是一款名為ToxMod的實時監控系統，由Modulate研發。
該系統可以用於「實時識別並打擊有毒言論，包括仇恨言論、歧視性語言、騷擾」，新系統的初始測試版於周三開始向北美玩家推出，部署在《決勝時刻：現代戰爭2》和《決勝時刻：戰區》兩款早期作品中。兩個月後，11月10日系列最新作《決勝時刻：現代戰爭3》全球發布時，ToxMod也會跟隨推出，屆時該系統將覆蓋遊戲的全球玩家。
據悉，ToxMod系統可以對玩家之間的語音聊天進行實時監控，識別其中是否存在仇恨言論、辱罵、騷擾等違反遊戲社區準則的內容。不過ToxMod不會直接對玩家進行懲罰，而是將檢測到的違規語音內容提交給Activision的人工客服進行審核。目前監控將以英語開始，稍後將提供其他語言，並最終覆蓋全球玩家。
對於這項舉措，Activision表示，數據顯示20%的玩家「在收到第一次警告後沒有再犯，那些再次犯罪的玩家帳戶會受到處罰，其中包括但不限於功能限制（例如語音和文本聊天禁令）和臨時帳戶限制。」
據了解，ToxMod系統使用語音轉錄、情感分析等技術，識別有害內容和正常言論之間的細微差異。相比直接依靠關鍵詞過濾，這種方法可以更加準確地判斷語音中的惡意程度。同時，最終審核仍由人工客服來執行，可以避免AI直接作出錯誤判斷。
「ToxMod強大的數據分析功能可以評估談話的語氣、音色、情緒和背景，以確定惡意行為的類型和嚴重程度，以及其機器學習技術可以理解情緒和細微差別線索，幫助區分友好的玩笑和真正的不良行為。同時ToxMod的道德政策規定，它還可能會考慮說話者的種族、性別認同、性取向或其他人口統計數據，以確定某些行為是否可以接受。」Modulate在其網站上表示。
Activision首席技術官麥可·萬斯在一份聲明中表示，「長期以來，解決破壞性語音聊天問題一直是整個遊戲領域面臨的巨大挑戰。通過這次合作，我們現在帶來了Modulate最先進的機器學習技術，該技術可以實時擴展以適應全球執法水平。這是為所有玩家創造和維持有趣、公平和熱情的體驗的關鍵一步。」
Modulate首席執行官邁克·帕帕斯（Mike Pappas）表示，該公司「非常高興能與Activision合作，推動信任和安全的前沿發展，這是在支持《決勝時刻》這樣規模的玩家社區方面向前邁出的一大步，並進一步強化了動視在這方面的持續承諾。」
在推行這一系統後，Activision方面反饋：「這種積極的玩家反饋和行為，符合我們做出這個舉動的初衷，並且為下一步對玩家行為的規範提供明確的策略。事實上，《決勝時刻》的各個團隊都致力於消除遊戲中的不良行為。利用新技術、發展重要的合作夥伴關係以及改進我們的方法是這一持續承諾的關鍵。一如既往，我們期待與更多的組織合作，繼續讓《決勝時刻》對所有人來說都是公平且有趣的。」
對於監控帶來的資訊安全的潛在危險，Activision則回復到：「對遊戲中的語音聊天受到監控和記錄僅僅是為了明確的甄別惡意資訊的目的，我們的語音聊天審核系統將專注於檢測語音聊天與特定關鍵詞中的危害，如果玩家不希望自己的聲音受到監管，可以在設置菜單中禁用遊戲內語音聊天。」
對此項舉措，很多玩家表示支持：「希望遊戲中永遠不存在破壞性行為或騷擾行為。」
