大型語言模型Grok是Elon Musk旗下xAI人工智慧公司的產物，Elon Musk一直相信Grok將會成為社交平台上主要的新聞來源，但這個想法似乎比他所期望的還要遙遠。《華爾街日報》日前報道指美國總統候選人川普遇刺後，Grok於生成新聞摘要時一直出現「幻覺」，更發布了與現實不符的假新聞。
報道指Grok聲稱是現任副總統賀錦麗被槍擊，而不是候選人川普，而行刺者的資訊也完全失實。儘管調查人員尚未作出確定，Grok卻自行編造行刺動機。在某些情況下，這個機器人生成的標題含糊不清，極容易造成誤導。現在社交網路充斥著陰謀論和虛假資訊，Grok發布的錯誤消息只會進一步惡化今年美國大選前的社交網路虛假資訊問題。Elon Musk先前宣布支持川普，但他和Grok的開發者xAI仍未就生成假新聞發布聲明。自從他將社交網路X轉型為「萬能應用」，xAI就一直大力推廣Grok聊天機器人。
Grok並非首次生成涉及美國政治的虛假新聞，今年6月，網路用戶對對最近總統辯論的反應，就被Grok錯誤生成了加州州長Gavin Newsom贏得辯論的錯誤摘要。事實上，Newsom據報只是出席了評論，但並沒有參與其中。xAI嘗試為Grok辯護，稱其答案會隨著更多資訊出現而逐步改善，又強調AI也有可能犯錯。
數據及圖片來源：itechpost
