據《華盛頓郵報》報道，麻省理工學院媒體實驗室教授帕蒂·梅斯與同事開展實驗，將24張普通照片（婚禮、城市街道、賽跑場景）展示給200名受試者。短暫休息後，一部分人再次看到原圖，另一部分人看到經AI修改的版本——人物表情被改動、畫面新增人物形象或氣候變化景象。
隨後的記憶測試顯示，觀看AI篡改圖片的受試者產生錯誤記憶的概率大幅上升，且他們對這些虛假記憶的自信程度反而更高。梅斯表示，AI生成的圖像與對話可以把虛假細節植入人腦，讓人篤定地相信從未發生過的事情。
其他研究也指向類似風險。一項針對54名受試者的實驗要求撰寫作文，使用ChatGPT的受試者大腦神經連接最弱，事後也難以複述自己寫過的文字。賓夕法尼亞大學與倫敦國王學院的研究者提出「技能退化」擔憂：習慣性藉助AI的醫生在失去輔助工具後表現下滑，2025年一項針對結腸鏡檢查的研究顯示，醫生獨立檢出癌前病變能力下降約20%。
喬治城大學研究者瑪蒂亞·西姆的實驗進一步顯示，331名受試者觀看動畫後閱讀AI生成的事故摘要，拿到誤導性摘要的人正確記憶關鍵細節的比例僅約45%，而拿到準確摘要者為84%。即便提前告知摘要由AI生成，受試者仍會被誤導。研究者指出，依賴人工核驗來糾正AI錯誤的方案，可能從根本上失效。
