從天才作家史蒂芬-霍金到矽谷科技公司，在人工智慧快速發展的當下，許多人們不止一次的對此發出警告：不合理的使用人工智慧（AI）將會對人類造成巨大威脅，甚至有朝一日可能會「毀滅人類」。
資源掠奪
目前，科技巨頭們正競相創造比人類聰明得多的人工智慧，這促使美國總統拜登實施緊急監管，歐盟也在尋求在今年年底前達成重大立法。最近在倫敦舉行的為期兩天的峰會將探討針對人工智慧風險的監管保障措施。
顯而易見的是此前OpenAI的ChatGPT的成功，引發了關於「生成式人工智慧」是否能夠通過日常語言的簡單指令，快速生成文本、圖像和音頻並對人類的工作構成巨大威脅的討論。雖然在工廠、倉庫和田間地頭，人們已經在使用自動化機械從事勞動。但生成式人工智慧可以瞄準白領工作，如律師、醫生、教師、記者，甚至電腦程式設計師、記者，甚至電腦程式設計師。
麥肯錫諮詢公司（McKinsey consulting fi rm）的一份報告估計，到本年末，美國多達30%的工作時間將實現自動化，顯然是生成式人工智慧加速了這一趨勢。有趣的是，這種技術的推動者甚至提出了全民基本收入的概念：機器產生的財富將與擺脫了工作負擔的人們共享。
但是，公司也有可能通過提高效率來獲取利潤，而讓那些沒有工作的人該怎麼辦，如果讓失業者自生自滅，這個社會真的會更加穩定嗎？
模仿與創造
好萊塢的大罷工已經在過去一年為文藝界造成了諸多損失，除此之外，還有不少藝術家對Dall-E、Midjourney和Stable Diffusion等軟體提出了抗議。因為這些軟體幾乎可以按需製作任何風格的圖像，其他行業如電腦編碼員和作家也緊隨其後，批評人工智慧創造者用他們的作品「訓練」軟體，使其能夠複製他們的作品，並且在未經許可或補償的情況下複製他們的風格或技能。
「誠然人工智慧模型是通過網上的海量資訊和圖像學習出來的。」OpenAI聯合創始人山姆-奧特曼（Sam Altman）在九月份的一次會議上說，但他同時強調：「我認為這將是一個放大人類的工具，而不是取代人類的工具。」
造謠與欺詐
假新聞和深度偽造已經存在多年，但使用生成式人工智慧就能輕鬆製造假新聞，這不禁讓人擔心網路欺騙行為的猖獗。認知科學家和人工智慧專家加里-馬克斯（Gary Marc）認為，選舉有可能被那些最擅長傳播虛假資訊的人贏得。「民主取決於能否獲得做出正確決策所需的資訊。」馬庫斯先生說：」如果沒有人知道什麼是真的，什麼是假的，一切都完了。」
同時生成式人工智慧讓騙子們更容易製作出令人信服的網路釣魚電子郵件，或許甚至可以了解到足夠多的目標資訊，從而採取個性化的方法。技術可以讓他們複製一張臉或一個聲音，從而誘使人們上當受騙，例如聲稱親人有危險。
美國總統喬-拜登（Joe Biden）最近簽署了一項旨在打擊人工智慧的行政命令，稱人工智慧模仿人們聲音的能力「令人震驚」，甚至還有專門訓練的語言模型來製作此類惡意內容。
以人類為榜樣
與其他同時具有善惡潛能的技術一樣，究其原因，人工智慧主要的危險來自於掌握這些技術的人類。由於人工智慧是根據人類在網路上發布的數據進行訓練的，因此它可以反映社會的偏見、偏頗和不公正。人工智慧還有可能讓製造生物武器、入侵銀行或電網變得更容易；以及實施壓迫性的政府監控等等。一些業內人士擔心，人工智慧可能會變得非常聰明，從而奪取人類的控制權。
「不難想像，在未來的某個時刻，我們的智能電腦將變得和人一樣聰明，甚至比人更聰明。」Sutskever在最近的TED人工智慧大會上說。」這種人工智慧的影響將是真正巨大的「。OpenAI及其競爭對手堅持認為，人工智慧的目標是造福人類，解決諸如氣候變化等長期棘手的問題。
不過與此同時，人工智慧行業的領導者們也在呼籲制定周到的法規，以防止出現人工智慧風險。
