近日，不少Snapchat用戶感到「嚇壞了」，儘管還沒有到萬聖節，但他們卻覺得像是在這個節日已經到來。原因是周二晚上，Snapchat的My AI聊天機器人發布了一個神秘的一秒鐘的影片，畫面上似乎是一面牆和一個天花板，以前聊天機器人從未在消息中添加過影片。
繼而當用戶詢問聊天機器人時，機器保持了怪異的沉默。
由於這個AI圖像與牆壁和天花板相似，很多人認為AI可能在監視他們。一位用戶說：「我發誓我以為那是我家的牆壁，尤其是我現在正坐在我的客廳里。」另一個人寫道：「這看起來跟我家的牆完全一樣，差點嚇死我。」
這款嚇壞眾人的My AI聊天機器人，是Snapchat於今年早些時候在全球推出的，旨在像朋友一樣回復用戶的消息，使用者可以通過聊天框與機器人對話，機器人將提供瑣事的答案，提供建議，並在用戶與應用程序分享其地理位置時根據位置提供推薦。
不少用戶在社交媒體上分享了該短片的螢幕錄像和螢幕截圖，迅速引發了熱議。對此，Snapchat稱此次事件為「暫時中斷」，但該事件已得到解決。隨後許多用戶確實反映該影片已被刪除，AI聊天功能暫時停止回復用戶的問題。
即便如此，仍然有部分用戶在推特上表示，聊天機器人自動發送過來的故事「嚇壞了我，所以我刪除了該應用程序」，用戶的恐懼也引發了業內人士的熱議，不少專業人士擔心人工智慧功能已經進化或變得有知覺。
目前尚不清楚為什麼故障會導致發布神秘圖像，不過很多人猜測，此次故障的原因是其正在試驗一種圖像或影片生成功能，畢竟Snap很有可能正在考慮向My AI添加新功能，以允許AI聊天機器人向Stories發布內容。目前，人工智慧機器人可以發送簡訊，甚至可以用圖像給用戶發回快照。尤其是『My AI』是內置在Snapchat應用中的聊天機器人，因此不少年輕用戶認為與My AI聊天機器人對話，以及得到它的反饋很有趣——「當它開始通過故事表達自己時，就好像它有自己的想法一樣，我可以像和真人對話一樣與其交流。」
與其他一些AI工具不同，Snapchat的版本有一些關鍵的區別：用戶可以自定義聊天機器人的名稱，為其設計一個自定義的Bitmoji頭像，並將其引入與朋友的對話中。總體效果是，與Snapchat的聊天機器人交流可能會感覺不那麼事務性，就好像訪問ChatGPT的網站一樣。
但自4月份推出以來，這款工具一定程度上受到了家長們的反對，還受到了一些Snapchat用戶的批評，主要是涉及隱私問題、『可怕』的對話內容以及除非付費訂閱，否則無法從聊天記錄中移除該功能。
從技術角度來看，其本身是由OpenAI的大型語言模型（LLM）來技術提供支持，類似於ChatGPT。它能機智地回答問題，並推薦Snapchat的功能，讓人感覺像是一個時髦的年輕人與在線的好友聊天。
顯然，作為OpenAI訓練的大型語言模型，聊天機器人的功能有限，不會像人類那樣思考或感受。然而，它能以驚人的能力模仿人類，這可能會在不可避免地捏造錯誤資訊時引發倫理困境。儘管存在這種可能性，Snapchat仍然將這個功能推廣給全球數億用戶。目前人工智慧可能會引發的潛在風險正在引起全球範圍內的關注，如果類似的事件頻發，可能會引起公眾對使用人工智慧的更多憂慮。
