澳大利亞一份支持未成年人禁用社交媒體政策的關鍵報告，在參議院聽證會上被指出可能包含AI生成的幻覺內容。該報告的作者承認在編輯過程中使用了ChatGPT，但否認報告中的引用錯誤源於AI幻覺
。
這份耗資348萬澳元的年齡驗證技術測試報告，由英國機構"年齡核查認證計劃"（ACCS）於去年完成，旨在測試多種可供社交媒體平台使用的年齡驗證技術，以配合澳大利亞禁止16歲以下未成年人使用社交媒體的政策落地。通信部長阿尼卡·韋爾斯將該報告譽為提供了"多種有效方案"，並為該禁令於去年12月正式生效鋪平了道路。
報告大部分內容基於作者對現有年齡驗證技術的實測，但其中一章涉及"新興技術"，並引用了多篇關於潛在新型年齡核查方式的學術論文。
正在進行中的參議院調查收到一份提交材料，指出報告中至少存在兩處引用錯誤，"這些引用似乎是AI生成的幻覺內容，而非基於真實來源。"
ACCS發言人最初否認在報告中使用了AI，但隨後承認AI被用於對部分段落進行更簡潔的改寫。"我們沒有使用AI生成報告或引用材料……每一條引用都經過核實，確認為真實鏈接和報告，且與所引用的具體問題相關。"
然而，《衛報》澳大利亞版對報告的獨立分析發現，同一章節中存在六處引用錯誤，包括：數字對象標識符（DOI）鏈接指向不存在的論文；DOI指向錯誤的論文；作者姓名、期刊和出版年份組合與任何已知參考文獻均不匹配；以及DOI鏈接所指向的論文內容與報告描述不符。
ACCS隨後提供了更正後的參考文獻列表，但該列表本身同樣存在錯誤——年份、作者和期刊名稱與報告中原始引用不符。
其中一篇被ACCS引用的文章，據稱於2025年3月被訪問。然而，該研究的主要作者之一向《衛報》確認，該文章直到2025年6月出版後才對外公開；ACCS原本引用的所謂第一作者"賈米爾"從未參與該論文，且ACCS對該論文內容的摘述也不準確。
對於另一篇在所引期刊中無法找到的參考文獻"Weber等人，2011年"，ACCS發言人表示該文獻來自莫納什大學的一項研究，並向《衛報》提供了相關資料，但在ACCS提供的莫納什論文中，並未出現任何"韋伯"署名的參考文獻。
《衛報》發現報告中部分鏈接的元數據中包含ChatGPT的來源標識後，ACCS發言人才承認使用了AI。對此，他們堅持認為，將ChatGPT元數據包含在鏈接中已構成披露，且由於鏈接本身無誤，他們認為這不成問題。
發言人表示，AI僅用於對部分段落進行更簡潔的改寫，並未用於原始研究或報告的生成。"所有鏈接都經過核查和驗證，即便存在無意中的錯誤，也均由人工審核完成。"
澳大利亞聯邦政府此前對承包商在提交政府報告中使用AI持批評態度。德勤去年曾因被發現存在錯誤並承認使用AI，退還了其44萬澳元政府合同中的部分款項。
有關問題被轉交韋爾斯部長所在部門，部門發言人表示："部門正在審查相關問題，並將視情況與ACCS進行溝通。"
在上周五的參議院聽證會上，部門官員表示他們已與ACCS會面，後者聲稱錯誤是由原本有效的鏈接失效所致。官員表示尚未對此進行獨立核實，並稱要回溯檢查"非常困難"。部門第一助理秘書薩拉·范登布魯克表示："ACCS向我們保證，文件發布時所有鏈接均已核查，當時均可正常訪問。其後可能發生了變化。他們也保證，部分鏈接雖可能已失效，但來源文件仍然存在，引用仍然有效。"
澳大利亞國立大學監管與全球治理學院教授克莉絲汀·道尼曾研究過含有AI幻覺內容的政府提交材料，他表示，若提交給政府的報告被發現存在虛假引用——無論是否由AI生成——都可能導致錯誤決策，並"侵蝕公眾對機構的信心與信任"。"可以想見，政府已在考慮這一問題，這將需要通過合同安排乃至相應處罰措施來遏制此類行為。"
獨立參議員法蒂瑪·帕依曼則表示："去年德勤'AI垃圾報告'事件本應為政府承包商鬆散引用行為畫上句號。政府必須要求此次報告背後的承包商道歉並退款。"
Q&A
Q1：澳大利亞未成年人社交媒體禁令的年齡驗證報告出了什麼問題？
A：該報告由ACCS完成，被指存在多處引用錯誤，包括DOI鏈接指向不存在的論文、作者資訊與實際不符，以及引用了在聲稱訪問時間尚未公開發表的論文。《衛報》還發現部分鏈接元數據顯示來源為ChatGPT，ACCS隨後承認使用AI對報告段落進行了改寫，但否認用AI生成報告正文或引用內容。
Q2：ACCS在報告中是如何使用ChatGPT的？
A：ACCS最初否認在報告中使用AI，但在《衛報》發現報告中部分鏈接元數據包含ChatGPT來源標識後，才承認使用了ChatGPT對部分段落進行更簡潔的改寫。他們堅持認為AI未用於原始研究或報告生成，所有引用均經過人工核查和驗證，但這一說法與多處已被證實的引用錯誤相矛盾。
Q3：澳大利亞政府對承包商在報告中使用AI有何規定？
A：澳大利亞聯邦政府此前已對承包商在政府報告中使用AI表示不滿。德勤去年因在政府報告中使用AI並出現錯誤，退還了44萬澳元合同中的部分款項。專家建議政府通過合同安排和相應處罰機制約束此類行為，獨立參議員帕依曼也呼籲政府要求ACCS道歉並退款。
