今年以來，以ChatGPT為代表的人工智慧大模型滲透到各行各業，引發了新一輪人工智慧革命。但同時也帶來包括技術內在風險引發安全隱患、人機關係變化深化科學倫理失范、技術躍進引發人類社會發展等挑戰。
今日，國家安全部發文《如何化解人工智慧帶來的國家安全挑戰》。
文章羅列了數據竊取、網路攻擊、經濟安全、「數據投毒」以及軍事安全等人工智慧可能帶來的國家安全領域的風險，強調完善法律法規、加強前瞻布局、堅決打擊犯罪並推動全球治理等舉措。
其中，在數據竊取方面，人工智慧需要海量的數據來進行學習和訓練，這些數據中可能包含用戶大量敏感資訊。如果這些資訊被濫用或泄露，可能會對個人隱私、國家安全造成嚴重危害。
因此，在法律法規方面，應聚焦人工智慧重點領域安全應用、倫理道德約束等方面，制定更多更明確的法規政策、行業規範，保障人工智慧研發和應用中的個人隱私與數據安全，確保人工智慧安全、可靠、可控。
此前，我國頒布的《生成式人工智慧服務管理暫行辦法》在算法、內容、應用、數據安全等方面對生成式人工智慧進行了全面的規制。依據此文件，數據提供者、算法/模型開發者以及服務提供者可以採取多種方式共同構建可信賴的人工智慧。
在網路攻擊方面，在人工智慧的協助下，網路攻擊者可以隨時隨地對特定目標輕易發起針對性和隱蔽性很強的進攻，將網際網路空間變成人人自危的「黑暗森林」。
因而，必須支持以人工智慧技術防範人工智慧風險，積極發展用於人工智慧治理的相關技術開發與應用，貫徹敏捷治理和多維治理原則，積極構建多方參與的人工智慧治理體系，推動各國在人工智慧治理中加強資訊交流和技術合作，共同做好風險防範。
中國在11月1日參加了英國的首屆全球人工智慧安全峰會，與多方談論關於人工智慧技術快速發展帶來的風險與機遇。會上，28國簽署《布萊切利宣言》，旨在管理新興人工智慧工具帶來的重大安全風險。
中國科技部副部長吳朝暉在開幕禮上發言表示，中方願與各方加強在人工智慧安全領域的對話與溝通，為建立全球參與、需廣泛共識的治理框架作出貢獻。
此外，為了實現人工智慧的遠大前景並避免風險，10月30日，美國總統拜登也發布人工智慧行政令，重點關注安全、隱私、保護工人和保護創新等領域。
雖說國內人工智慧「大模型」已具備一定基礎，但與ChatGPT還存在一定差距，其背後面臨數據、算力和創新環境等深層次制約。需從戰略高度重視ChatGPT引發的新一輪人工智慧革命，瞄準大模型、整合大數據、布局大算力，實施包容審慎監管，為新事物發展留足空間，加快搶占未來科技競爭制高點。
