根據外媒TechCrunch近日看到的內部信件顯示,協助改善AI聊天機器人Gemini的外承包商將其答案與競爭對手Anthropic Claude所產生的答案進行比較。
負責對模型輸出準確性進行評估的Gemini外承包商根據多項標準(如真實性和冗長性),對他們看到的每個AI回應進行評分。TechCrunch報道指出,外承包商每次收到文本提示,最多有30分鐘來確認Gemini和Claude的答案誰比較好。
內部對話顯示,外承包商注意到Claude的AI回應似乎比Gemini更強調安全。「Claude的安全設置是最嚴謹的」,一名外包人員說。因為某些情況下,Claude不會回應不安全的提示指令。
Anthropic的商業服務條款禁止客戶在未經同意情況下,訪問Claude來「創建競爭產品或服務」或「訓練競爭AI模型」。但實際上,Google是Anthropic這家創業公司的投資人之一,有了這層關係,Google利用Claude改善自家Gemini似乎說得通。
Google DeepMind發言人被TechCrunch詢問,未透露Google是否已經獲得Anthropic同意來使用Claude,僅表示Google DeepMind確實比較模型輸出來進行評估,但不會以Anthropic模型訓練Gemini。
(首圖來源:Google Blog)