TikTok不小心發布了一個鏈接，用戶可以直接訪問一款AI數字人工具的內部版本，該版本沒有任何限制，用戶能夠創建幾乎可以說出任何內容的影片。CNN最早發現了這一問題，並成功使用該工具生成了一些影片，內容包括一些極端言論或是教唆人們喝漂白水等。TikTok隨後撤下了這一版本的工具，而原計劃發布的版本仍然可用。
TikTok本周早些時候推出的Symphony Digital Avatars讓企業能夠利用付費演員的形象來生成廣告。這款工具結合了AI配音技術，廣告商可以輸入腳本，讓虛擬人物按照TikTok的規則發言。儘管只有擁有TikTok廣告管理賬戶的用戶能夠使用這個工具，CNN找到的版本卻允許任何個人用戶嘗試。
TikTok發言人Laura Perez向The Verge透露，TikTok已經解決了一個「技術錯誤」，該錯誤曾讓極少數用戶在幾天內使用了這一內部測試版本。
當CNN發現並測試了這個內部工具後，它生成了一些影片，內容包括一些極端言論和口號，以及教唆人們在錯誤的日期投票。這些由CNN生成的影片均沒有顯示AI生成水印，而這本應是TikTok正式版工具的標準功能。
雖然CNN並未將這些影片發布到TikTok，但Perez指出，如果發布，這些內容將會因違反政策而被平台拒絕。儘管TikTok已撤下這一工具的測試版本，但事件引發了公眾對於可能濫用數字人工具的擔憂，以及TikTok是否已經做好相應的準備。
