南非已撤回其國家AI政策草案，原因是該草案援引了多個僅存在於聊天機器人"想像"中的虛構來源。
南非通信與數字技術部於上周末正式確認，這份已通過內閣審議並公開徵求意見的草案，其參考文獻列表中包含"多個虛構來源"。
通信部長索利·馬拉齊表示，在有關虛假引用的報道引發關注後，該部門對草案進行了重新核查，結果發現確實存在捏造的引用內容，隨即決定撤回該文件。他在X平台發文稱："這一失誤絕非單純的技術問題，已嚴重損害了政策草案的完整性與公信力。"他補充說，AI生成的引用內容在未經任何人核實的情況下被納入草案。
該文件現已撤回，馬拉齊表示，參與起草與審批的相關人員將面臨"後果處理"。
"這一不可接受的疏漏，恰恰證明了對人工智慧使用保持嚴格人工監督的重要性。我們以謙遜的態度從中汲取教訓。"馬拉齊說道，"我想向全國保證，我們正以這一事件應有的嚴肅態度認真對待。"
這份已被撤回的政策草案原本被定位為一份前瞻性框架，充斥著"代際公平"以及AI惠及當代與未來世代等宏大表述，如今卻因一份經不起推敲的參考文獻列表而聲名狼藉。
南非本地媒體News24此前報道稱，該報告中至少有六處引用系偽造，專家指出這些錯誤具有典型的AI幻覺特徵：表面上令人信服，實則完全出於虛構。
News24報道發布後，負責監督該部門的議會投資組合委員會主席庫塞拉·桑戈尼-迪科公開要求馬拉齊撤回該文件，以避免進一步的尷尬局面。她還建議重新起草時"這次別用ChatGPT"，並提醒政府不要急於尋找替罪羊，或者說"替罪機器人"。
總體而言，這對於一個試圖制定AI監管規則的政府來說，形象實在難堪——其自身出台的政策連基本的事實核查都無法通過。而且這也並非孤例。正如The Register去年所報道的，德勤曾不得不協助修復澳大利亞政府的一份報告，原因同樣是AI生成的引用內容，甚至包括一段捏造的法庭引語被混入其中。這再次提醒我們：讓機器代勞寫作是一回事，對內容進行核實則是另一回事。
南非此番已以慘痛的方式學到了這個教訓。當一國的國家AI政策連真實來源與虛構來源都無法辨別時，恐怕還遠未具備監管他人AI系統的資格。
Q&A
Q1：南非AI政策草案為什麼會被撤回？
A：南非通信與數字技術部確認，已通過內閣審議並公開徵求意見的國家AI政策草案，其參考文獻列表中包含多個虛構來源。這些引用內容由AI生成，卻未經任何人工核實便被納入草案。通信部長馬拉齊表示，此次失誤嚴重損害了政策草案的完整性與公信力，因此決定予以撤回，並對相關責任人啟動後果處理程序。
Q2：AI幻覺問題在政府文件中有多普遍？
A：AI幻覺問題並非南非獨有。The Register曾報道，澳大利亞政府的一份報告也出現了類似情況，德勤不得不介入協助修復，原因同樣是AI生成的虛假引用，甚至包括一段捏造的法庭引語。這表明，在政府文件起草過程中引入AI輔助寫作，若缺乏嚴格的人工審核機制，極易出現以假亂真的錯誤內容。
Q3：南非政府對此次事件將如何處理？
A：通信部長馬拉齊表示，參與草案起草與審批的相關人員將面臨"後果處理"。與此同時，議會投資組合委員會主席建議重新起草時不要再使用ChatGPT等AI工具，並要求政府認真對待此次事件，而非推卸責任。馬拉齊強調，將以嚴肅態度看待此次疏漏，並以此為契機強調人工智慧使用中人工監督的重要性。
