Alphabet前首席負責任技術戰略官Salima Bhimani表示，IT領導者需要考慮AI如何使他們的組織和整個人類受益。
Salima Bhimani多年來一直提倡以負責任和合乎道德的方式使用AI，她在2017年至2023年期間擔任Alphabet首位首席戰略官兼包容性和負責任技術、業務和領導者總監。
Alphabet前首席負責任技術戰略官Salima Bhimani
在谷歌母公司Alphabet，她和Waymo、Wing以及X等公司合作，塑造可持續業務和全球影響力。她現在是諮詢公司10Xresponsibletech的首席執行官，專注於幫助組織設計、整合和採用符合業務且負責任的AI戰略。
在最近的一次採訪中，Bhimani談到了以有道德的方式採用AI的重要性，以及這將如何造福於人類和個體組織。她說，AI和其他先進技術有可能為全人類創造巨大的利益，包括解決健康和資訊不平等等棘手問題，但廠商和用戶需要以新的方式思考IT。
她說：「我們面前的機會不僅僅是駕馭AI的浪潮，我們還必須考慮我們從未考慮過的那些事情，比如道德，並將其視為幫助我們推動這項技術的機會。」
她認為，在很多情況下，IT領導者和公司專注於創新，包括對用戶和客戶的利益，但他們應該更廣泛地考慮全球影響。
「過去，圍繞技術的動機一直是創新，可能是為了服務人類、造福世界和打造優質產品而進行創新。現在，我們必須將創新視為一種真正重塑世界的方式，讓世界為每個人服務，這不是一項慈善呼籲，而是呼籲利用技術加速人類向積極的方向發展。」
您專注於讓Alphabet和新公司以有道德的方式使用AI，那麼您能定義一下「有道德的AI」嗎？
對我來說，這個定義有三個重要組成部分。首先是消除危害，從而確保我們正在構建和集成的AI系統不會無意中加劇人們可能面臨的現有挑戰或造成新的危害。
第二是擴大利益。我們往往將重點放在危害方面，但擴大利益也是有道德AI中一個重要組成部分。我的意思是，如果我們整合AI，我們是否確保它實際上會成為我們員工的合作夥伴，擴大使用範圍和在公司內的影響力，而不僅僅是消除職位？我們希望這是一個有益的、廣闊的機會。
最後一點是，我們正在與人類建立共生的AI系統。人們說AI是自我構建的東西，這有一定的道理；但實際上，它仍然是由人類構建的。系統與人類的需求和願望之間存在共生關係，我們需要在持續的基礎上有意識地做到這一點。因此，即使我們的AI系統可以使用最初輸入的數據來創建新的數據集，我們也希望確保對此進行了治理，並且人們真正參與到這一過程中。
為什麼CIO、CAIO和其他IT領導者應該為他們的組織追求有道德的AI？對他們和他們的組織有什麼好處？
CIO的角色正在發生變化。過去，CIO的工作重點是保持燈火通明、管理基礎設施、確保系統穩定，或者只是確保集成正在進行。而現在，我們談論的是成為組織內的戰略遠見者。我們是否在制定和業務目標相一致的AI戰略？我們是否在挖掘AI給我們帶來的機會？
CIO和CAIO的角色是把業務與技術聯繫起來，道德部分將變得至關重要。我們如何將這項技術的好處擴展到我們作為企業試圖實現的目標？它會給我們帶來新的商業機會嗎？它會降低風險嗎？它會推動創新嗎？
另一個問題是，它會吸引頂尖人才嗎？一些研究表明，頂尖的AI人才確實有興趣與考慮道德因素的組織或公司合作。
如果我們正在開發的產品或AI系統會產生偏見，我們可能不得不倒退回去，因為這會造成品牌和聲譽問題。現在CIO或者CAIO的覆蓋範圍非常廣，他們不僅要考慮技術與業務的協調，還要考慮社會風險影響以及社會利益和機會。
您是否擔心最近對多元化、公平和包容性 (DEI)政策的政治阻力？忽視與AI相關的道德和平等問題，會產生什麼影響？
挑戰在於，我們從那些通常處於邊緣的人的角度考慮道德、責任或DEI，但我認為這實際上不僅對這些人有好處，而且對我們所有人都是有好處的。DataRobot在2022年進行的一項調查顯示，算法偏見實際上會導致收入損失62%，客戶流失61%，員工流失43%，更不用說法律費用了，這對業務產生影響，人們希望知道正在構建的東西是否構建得很好。
CIO或者IT領導者如何確保他們正在構建或購買的AI被有道德的方式採用了？
他們需要為組織定義有道德的AI。我們可以採用有道德的AI的一般定義，但也有與業務要實現的目標相關的特定定義。而且，需要和這些組織或公司的領導層共同定義，這就是領導層需要對AI採取戰略方針的時候，需要非常深入地了解我們願意做出哪些權衡以確保我們的產品或服務合乎道德。我們需要創建可以跨職能集成的治理模型。
我還認為，對於那些購買了AI以融入其組織的人來說，了解AI知識非常重要。我們的員工知道這會為他們帶來什麼嗎？我們需要確保作為一家公司，我們已經投入了所需的能力和空間讓員工能夠以最佳方式使用AI。
最後一點是問責制和對現有系統的持續評估。我們需要不斷檢查：它是否實現了我們想要的有道德的AI這一目標，還是產生了我們沒有預料到的結果？
現在似乎有很多關於AI的擔憂，從虛假資訊到失業，再到AI接替人類。您對AI的主要擔憂是什麼？
我想到的是失去的市場。我的意思是，我們仍然處於一個存在數字鴻溝的世界。世界上很多人仍然無法訪問網際網路，這很瘋狂，但卻是事實。
我們使用的數據中有很多是基於數字足跡的，意味著我們設計和開發AI系統的方式是基於有限的數據，這是一個很大的問題。如果AI系統最終應該服務於世界，那麼如果AI系統所基於的數據基本上不包括世界上的大多數地方時，如何服務於世界？
這是我們需要解決的一個大問題，尤其是如果我們真的希望AI對每個人都有用，尤其有很多解決方案仍然來自北美或歐洲。我們這個半球的所有人都肩負著額外的負擔和責任，需要真正思考，我們如何與世界各地的群體一起解決這個問題？
然後就是不同參與者之間的真誠合作和溝通，AI現在為我們做了什麼，未來會為我們做什麼——無論是技術、公司本身、政府、建設者，甚至是用戶和消費者。問題是，我們是否相互理解，是否找到了共同點？
監管部分非常非常重要。如果科技公司以一定的速度發展，而政府以另一種速度發展，那就要令人擔憂了。
