在7月6日舉辦的昇騰人工智慧產業高峰論壇 2023 上，中國科學院院士、清華大學電腦系教授、清華大學人工智慧研究院名譽院長張鈸院士被聘請為昇騰榮譽顧問。現場華為輪值董事長胡厚崑先生為張鈸院士頒發昇騰榮譽顧問聘請證書及獎盃。張鈸院士可以說是中國人工智慧領域的奠基人，分享了他對人工智慧發展的深度思考。他認為Chat GPT的出現，讓人工智慧通用理論形成成為可能，只有理論的支撐，AI才能實現革命性發展；同時他認為通用人工智慧的三要素數據、算力和算法，應該升級為四個要素，分別是知識、數據、算法和算力。
以下是演講內容：
張鈸：各位專家、各位嘉賓、大家好！非常高興被聘請為昇騰 AI 的榮譽顧問，這可能是對人工智慧工作者的一種鼓勵，我覺得人工智慧工作者需要鼓勵， 因為人工智慧是闖無人區非常艱難，大家不要認為人工智慧取得的每一個進步都是那麼容易的，都是非常困難的。
首先，我想談一個問題，怎麼樣估計 Chat GPT 有兩種說法，首先一種說法是 Chat GPT 是通用人工智慧，還有一種說法它不是通用人工智慧，哪個對呢？ 我的觀點是哪個都不對，哪個都不對。怎麼樣估計 Chat GPT 的成果呢？我認為最恰當的估計是向通用人工智慧邁出一步。按照微軟的說法是通用人工智慧的火花，我贊成這種觀點。
為什麼呢？首先先看一下 Chat GPT 具有通用人工智慧的兩個特徵，頭一個 特徵是在對話和聊天這個領域，它達到了人工智慧的目標，或者是達到了行為主 義主張的人工智慧的目標。行為主義人工智慧是人工智慧的主流，背後的哲學是 唯物主義、實用主義。它追求的人工智慧目標是什麼？使得機器的行為跟人類的 行為相似，所以為什麼說 Chat GPT 達到了這個指標呢？因為我們跟 Chat GPT 對 話的時候，和人類的對話很相近，因此它達到了頭一個通用人工智慧的特徵。
第二個特徵，Chat GPT 是開領域、多任務的，在對話這個問題里跟領域無 關，這是一個重大的突破。大家知道人工智慧經歷過第一代知識驅動，第二代數據驅動，都只能在限定領域裡面完成單個任務。所以 Chat GPT 就變成開領域， 走向通用。作這兩個特徵之上，通用人工智慧這個最重要的兩個特徵之上，一個 達到人類水平，一個跟領域無關。所以，我們可以說它是通用人工智慧。但是因 為它只是在對話，或者講得寬一點，是在語言處理這個領域裡面達到這個目標， 所以我們還不能把它稱作通用人工智慧，因為在別的智能領域裡面，它是不是能 通用呢？現在還說不清楚，所以我覺得這樣的估計是非常恰當的。我們只有在這樣的估計情況之下，才能討論下面的問題。
首先一個問題，Chat GPT 為什麼能夠達到現在這樣的水平？甚至很多地方 使大家感到非常驚奇，主要由於人工智慧經過六七十年的努力，在三個問題上實 現了突破，或者是三個關鍵技術的突破。
第一個技術，基於詞嵌入的文本語意表示。
第二個技術，是大家非常熟悉的轉換器，就是基於注意機制的轉換器，就是 剛剛高院士談的大模型，我們現在說的大模型就是大轉換器。
第三個技術，最後一個就是基於預測下一個詞的自監督學習，我們應該說 Chat GPT 是經過人工智慧領域裡頭或者是其他領域裡頭大量的科學家和工程師， 經過六七十年共同努力的結果，因為經過六七十年這三個問題才得到突破。這三 個問題的突破，使得機器在處理文本上起到了本質的變化，過去我們在處理文本 的時候，我們往往把它稱作處理數據，到現在為止，大家還是用的這個詞，但是 這個詞在 Chat GPT 裡頭不成立。
因為 Chat GPT 是在我們找到了文本語意表示這個條件下再處理文本，所以 它處理的不是文本的形式，不是把文本當成數據來處理，而是把文本當成知識來 處理。 所以，Chat GPT 成功並不是僅僅歸功於三個要素，也就是數據、算力和算 法，我覺得應該強調四個要素，分別是知識、數據、算法和算力。也就是說，我 們有三個關鍵技術的突破，就使得我們能夠從大量的文本這裡我們叫做數據，從大量的數據中間可以獲取到知識，只有出現這個轉變才有現在的 Chat GPT，不 然我們還是停留在那個認識上肯定是錯的。
這個突破可能帶來三件事情是不可阻擋的： 第一件事就是必然帶來科技的革命，首先會帶來人工智慧本身的革命。大家知道人工智慧發展到 Chat GPT 以前，我們不能說它是一個科學，為什麼呢？它沒有理論，人工智慧為什麼理論建立不起來？非常重要的原因我們在第一代人工智慧做的知識驅動也好，第二代人工智慧做的數據驅動也好，我們都是在限定領 域中完成單個任務。你在單領域單任務裡面不可能建立一個通用理論。Chat GPT 掃除了這個障礙，至少在自然語言處理上掃除了這個障礙，因為它跟領域無關。 一旦跟領域脫鉤了，你才有可能建立起來它的通用理論。
所以，現在去建立人工智慧理論是有可能的，在 Chat GPT 沒出現以前，這種可能性不存在。所以，這個問題對我們來講是一個激勵。什麼是突破口呢？突破口就是 Chat GPT，如果我們沒把 Chat GPT 內部的工作原理搞清楚，我們就找不到進入人工智慧理論的鑰匙。 大家想一想 Chat GPT 裡面很多現象，我們說不清楚，但是一方面它能夠生 成一個非常出人意料非常好的結果，它同時又會出現幻覺，什麼是幻覺呢？就是 胡說八道。所以，為什麼會出現這個現象呢？這個根本不清楚，所以頭一個必然會迎來的科技的革命，首先這個革命會從 AI 本身開始。
第二個事情，大家討論得非常多，就是產業的變革。首先是人工智慧產業本 身的產業變革，大家知道人工智慧產業的發展跟資訊技術的產業發展是非常不一 樣的，資訊科技的發展，我們可以用 4 個字來形容「高速持續」但是人工智慧產業的發展是「緩慢曲折」，什麼原因呢？一個最重要的原因就是資訊科技從一開 始理論就建立起來了，電腦的理論是 1936 年建立的，通訊理論是 1948 年建立 的，所以它在理論指導下，它的技術和它的產業發展都非常順利。
人工智慧只有算法和模型，而且這些算法和模型都是領域限定和任務限定的， 所以你開發出來的所有人工智慧的硬體或軟體全是專用的，跟資訊產業完全不同， 資訊產業的所有硬體和軟體全是通用的，市場非常之大，而資訊產業的硬體或軟 件通常是專用的，都是跟領域緊密結合的，資訊產業不跟領域結合根本不可能有 這個產業，但是拿電腦來講，完全不跟應用結合，它生產出來的電腦什麼地方都能用。
但是有了 Chat GPT 之後，告訴大家人工智慧有可能建立一個跟領域無關的模型和算法，只有這個算法和模型擺脫了領域的限制，你將來生產出來的硬體和 軟體才會是通用的，或者是一定範圍裡頭通用的，你才有很大的市場。這就是今後資訊產業革命的一個方向。
第三個事情，人工智慧治理。Chat GPT 大家看正面得比較多，其實反面的東西也很成問題，因為我們用的方法是叫預測下一個詞，這種模式的學習，必然帶來兩個大問題： 首先，它的結果不確定，受提示詞的影響極大，這就影響 Chat GPT 輸出有三個不可避免的缺點：
第一個缺點，錯誤是必然的。所以我們說的那個胡說八道是必然的。
第二個缺點，它的輸出非常受輸入的影響，受提示詞的影響，所以它的輸出不主觀的，問同樣的問題改變輸入就會得到一個完全不同的結果。
第三個缺點，它不知道自己錯了，錯了也改不了，必須依靠後面剛剛高院士也提到了 AI 對齊等等。我到現在問 Chat GPT，我問它清華大學校歌的歌詞是什麼？它自己編了一套，我一年多我以前就這麼問它，它到現在還這樣，我說不對，清華大學校歌不是你這樣的，應該是「西山蒼蒼東海茫茫」，我把這個歌詞唱給它，它馬上回覆說對不起我說錯了，清華大學歌詞應該是這個，我退出來再進去， 問它清華大學的校歌是什麼？它又自己編了一套，說明它不知道自己錯了，告訴了它錯誤它也改不過來。
想一想，這些情況說明 Chat GPT 的輸出往往不會符合我們的要求，我們的 道德、倫理、政治的要求。所以 Chat GPT 出現以後，人工智慧的治理是不可避 免的，我認為這三個趨勢一定是這樣的。
我們怎麼辦呢？我覺得我們是主張要發展第三代人工智慧，這個第三代人工 智能包含了三個內容，一個內容就是要建立可解釋魯棒的人工智慧理論。Chat GPT 出現以後建立這個理論才成為可能，過去實際上是不可能建立的。 第二個內容，發展安全、可信、可控、可靠、可拓展的人工智慧技術，只有 建立了這個理論之後，我們才有可能得到一個安全的人工智慧技術。換句話說， 現在的人工智慧技術是不安全的，不可靠的，也是不可信的。特別是利用大數據 的機器學習，結果一定是這樣的。最後才能推動產業化的創新應用和產業發展。 我相信通過國家全國的規劃，通過產學研的結合，我覺得我們這個目標一定會達 到的。 謝謝大家
