在 2 月舉辦的沙烏地阿拉伯 Leap 2025 大會上，該國宣布了對人工智慧 (AI) 的巨額投資。會議的主要內容圍繞 AI 的關鍵問題展開，包括企業如何從 AI 中獲取商業價值、開發代理型 AI 的挑戰，以及機器人和因果 AI 的遠期發展等。
會議還討論了需要關注 AI 將如何改變社會，以及如何確保它成為促進而非破壞社會凝聚力的力量。
代理型 AI 需要常識 沙特數據和 AI 管理局 (SDAIA) 國家 AI 中心首席執行官 Yaser Al-Onaizan 重點關注代理型 AI 這一下一步發展方向。
他表示："大語言模型理解語言的構建方式和人們生成的序列。但 AI 的願景是融入我們日常生活的方方面面。它需要是無形的，不能太突兀——它應該傾聽你，理解你，有時甚至不需要你開口就能根據你的意願行事。例如，你可以與模型互動，它不僅能為你提供航班資訊，還能幫你預訂航班或酒店。"
Al-Onaizan 指出，挑戰在於讓 AI 能夠代表人類工作並做出正確決定，理解"常識"，使其自主決策能夠符合委託人的實際需求。
從代理型 AI 到因果 AI Jazz Computing 創始人 Lamia Youseff 是 AI 和雲計算領域的行業思想領袖，曾在 Google、Microsoft、Facebook 和 Apple 等公司工作，也在斯坦福、MIT 和 UCSB 等學術研究機構任職。
她將 AI 的發展分為幾個階段和拐點：
企業級 AI - 大數據通過收集海量數據進行分析鋪平了道路。企業級 AI 引入優化並帶來了"新產品和服務的浪潮"。
代理型 AI - 未來兩年的下一步發展將帶來能夠接受命令、與大語言模型對話、將命令分解為步驟並採取行動的代理。
機器人和人形機器 - 這需要在通信和機器理解人類語言方面有重大創新，將大語言模型與機器人技術結合，比如無人駕駛汽車，最關鍵的是要能夠在三維世界中互動。
因果 AI - 能夠預測極其複雜的現實世界事件，如股市波動。
為企業開啟 AI 潛力 其他發言者則關注如何從 AI 中獲取商業價值。其中包括專注於企業級大語言模型應用的加拿大公司 Cohere 的 CEO Aiden Gomez。
他致力於通過幫助構建應用程序棧來使大語言模型對企業有用。
"你必須具備技術能力，需要是開發人員，才能在這個模型之上構建東西，在另一端創造價值，"他說。
挑戰包括如何降低 AI 與內部系統集成的門檻，以及當 AI 走出概念驗證階段並接觸最敏感的客戶數據時的安全問題。
"企業界最需要的是能夠即插即用的好解決方案，"他說。"企業採用 AI 的障礙在於如何安全地部署，這意味著完全私有化部署。然後我們才能開始將人類的工作轉移到這些模型上。要想成功，它們需要能夠使用現今人類完成工作所用的系統，並將生成式 AI 與內部軟體和系統集成。"
Gomez 補充道："當人們只是在測試技術時，安全性並不是那麼重要，因為他們沒有將關鍵數據輸入這些系統。現在，我們正在走出概念驗證階段，進入生產階段，這些模型正在接觸最敏感的客戶數據，所以安全性成為首要考慮。"
他也指出代理型 AI 是下一個階段，需要解決一些挑戰。第一是推理模型的使用，第二是從經驗中學習。
"想想推理是什麼，"Gomez 說。"現在的情況是，你可以問模型 1 1 等於多少，也可以讓它證明費馬最後定理，模型會花同樣的時間回答這兩個問題，這毫無道理。"
"有了推理能力，你可以在不同難度的問題上投入不同的精力。這樣我們就能以更有效率、更有成效的方式處理問題。這對代理型 AI 來說是一個重大突破。你希望代理能夠思考問題並真正進行推理，"他補充道。
"第二件事是從經驗中學習。對於人類來說，當你告訴他們'你做錯了，這是改正的方法'，他們會記住並永遠不再犯同樣的錯誤。當模型具備通過與用戶互動來從經驗中學習的能力時，就能實現僅通過互動來教導模型的可能。"
AI：我們不能對危險保持被動 最後，聯合國數據、分析和新興技術主管 Lambert Hogenhout 警告說，如果我們對 AI 採取被動態度，它可能會對人類社會造成危險。換句話說，如果不加控制，AI 有能力削弱人類主體性，甚至成為對抗我們的力量。
他認為 AI 帶來的主要風險包括對以下方面的威脅：
自主性 - AI 讓你更有能力，幾乎完美，但這意味著你此後必須與 AI 互動才能成為它塑造的那個人。
身份 - 如果 AI 掌握了足夠的個人資訊，它甚至有能力構建某人性格的複製品。這將身份盜竊推向了新的高度。
目標 - 如果 AI 取代了許多工作，人類還剩下什麼，我們如何確保專注於人類擅長的領域，如合作和創造力？
幸福感和社會聯繫 - 人類感到幸福和與社會保持聯繫非常重要。如果這被破壞，就會出現問題。
"AI 為我們提供了許多改善業務和私人生活的方式，"Hogenhout 說。"但從長遠來看，比如 20 年後，沒人能預測世界會是什麼樣子。"
"有些人持非常積極的觀點，認為機器人會完成工作，而我們可以整天打高爾夫或看有趣的電影。但悲觀的觀點認為我們將失去人生目標，對人類來說生活將變得相當悲慘，除了少數 AI 億萬富翁之外。"
Hogenhout 指出智慧型手機如何改變了一切，AI 很可能也會如此。
首先，他談到了自主性的問題。
"我一直希望在回復朋友的消息時能更幽默，給老闆寫郵件時能更有說服力。藉助 AI 的幫助，我確實可以做到。但這意味著我每次溝通都要依賴 AI，當每個人都這樣做，當每個人都變得完美時，你能承受不使用它、成為唯一一個未增強的人類嗎？我們將被迫用 AI 增強自己。"
關於身份，Hogenhout 談到 AI 有潛力全面克隆一個人的性格。
"如果有人拿走我寫過的所有東西——電子郵件、帖子，一切——它就知道如何像我一樣回應？事實上，已經有公司在這麼做了。"
"有一個名為 Hereafter 的應用程序是為老年人設計的。例如，你的祖父可以接受採訪，並添加關於他生活的資訊。然後，一旦祖父去世，你的手機上就會有祖父的聲音，你可以問他超級碗或足球比賽的事，它會完全按照祖父會回答的方式回應。"
Hogenhout 說，這就引出了一個問題：如果身份可以如此輕易地被複製到聲音和觀點的層面，那麼是什麼讓我們與眾不同？
他說："目前，我們太過被動。我們只是在等待下一個令人驚嘆的 AI 系統出現。我們沒有思考這將如何影響我們的生活。"
最後，Hogenhout 探討了目標這個問題。
"我們生活的意義來自於我們所做的工作，但很明顯很多工作都將被取代。誠然，我們經常做一些愚蠢的事情，但我們也有令人難以置信的技能和能力，"他說。
"創造力使我們作為物種獨一無二。我們也有不接受現實原樣的特質。但我們不僅僅是創新者。我認為我們非常善於合作。我們都聚集在這個會議上是有原因的，因為我們想互相學習。這些聯繫在社會中非常重要。"
"對我們來說，做出決定和感受成就感很重要。我們要確保 AI 增進生命連接，確保我們不被淘汰，它能創造一個好的社會。一個有許多人被排除在外的社會是行不通的。這會產生問題，"Hogenhout 補充道。
他的結論是，AI 將以重大方式改變我們，但我們需要確保我們採取主動行動。否則，將大量人類排除在由 AI 增強生活的核心之外的潛在可能性將導致社會破裂，從而產生問題。
"目前，我認為我們太過被動。我們只是在等待下一個令人驚嘆的 AI 系統出現。我們沒有提前思考，思考這將如何影響我們的生活。"
