人工智慧（AI）正在深刻改變生命科學領域，為藥物發現、合成生物學和生物工程開闢了全新前沿。然而，同樣這些加速研究與創新的先進AI工具——有時被稱為生物工具（BTs）——也可能被濫用於有害目的。例如，能夠設計蛋白質或預測病毒突變的AI生物工具，可能被惡意行為者利用，用於改造具有免疫逃逸能力或引發大流行病潛力的病原體。
RAND此前與長期韌性中心（CLTR）合作，建立了一個全球風險指數，對具有兩用潛力和危險能力的先進AI生物工具進行系統評估。在57款前沿工具中，有13款被標記為"紅色"，表明存在高度風險，其中數款工具具備預測病原體免疫逃逸突變的功能。此外，還有15款工具被標記為"琥珀色"，需要逐案進行後續評估。
儘管現有評估已為了解AI生物工具的整體格局提供了寶貴數據，但這些評估大多是靜態的、描述性的，缺乏結構化的實時指標，難以滿足決策者評估和管理新興濫用風險的需求。與此同時，各國和各機構對生物工具的監管仍較為分散，缺乏統一協調。目前尚無專門的全球觀測機構來監測AI生物工具的快速演進、日益擴大的可及性及其擴散趨勢，也無法為決策者和開發者提供針對性的風險評估、早期預警信號及實用指導。
在全球風險指數方法的基礎上，RAND正在開發風險指數觀測站（RIO）：這是一個持續更新、由自動化輔助驅動的平台，專門用於評估AI生物工具的濫用能力。RIO將跟蹤和評估新興工具，並將相關洞察轉化為動態儀錶盤、早期預警信號以及面向開發者的實用指導。該觀測站將以公開網站的形式對外開放，提供高層級摘要與可視化內容，而更詳細的儀錶盤和評估報告則僅向經過認證的政府受眾開放。
未來，RIO將整合自動化網路搜索功能，以近實時的方式發現新型AI生物工具。一套由領域專用大語言模型驅動的半自動化分診流程，將對技術描述進行解析，並為專家審查提供初步風險篩查與優先級排序支持。工具將被系統性地評估其能力、可及性及兩用或濫用潛力。評估結果將識別出需要重點關注的工具、行業領域和地理集群，從而支持有針對性的監管與更高效的治理。決策者將從新興高風險能力的早期預警中獲益，降低戰略層面的意外風險，並實現預防性行動。
觀測站還設有第二條工作線，專注於為AI生物工具開發者提供實用資源。RAND將開發一款"RIO計算器"，允許AI生物工具創建者輸入模型特徵和部署選項，從而生成經過校準的自我風險評估，並指引其參考自願性安全保障措施或相關風險管理資源。這一工具將幫助開發者在領域持續發展的過程中理解並降低風險，但並不作為安全認證憑證使用。
Q&A
Q1：風險指數觀測站（RIO）是什麼？它的主要功能是什麼？
A：RIO是由RAND正在開發的一個持續更新、由自動化輔助驅動的平台，專門用於評估AI生物工具的濫用能力。它將跟蹤新興工具並生成動態儀錶盤、早期預警信號和實用指導，公開網站提供高層摘要，詳細報告僅向認證政府受眾開放。未來還將整合近實時自動化網路搜索與大語言模型驅動的半自動分診流程。
Q2：全球風險指數對AI生物工具的評估結果是什麼？
A：RAND與長期韌性中心（CLTR）合作建立的全球風險指數，對57款前沿AI生物工具進行了評估。其中13款被標記為"紅色"（高風險），部分工具具備預測病原體免疫逃逸突變的能力；另有15款被標記為"琥珀色"，需要逐案進行後續評估。
Q3：RIO計算器是什麼？開發者如何使用它？
A：RIO計算器是一款面向AI生物工具開發者的自我評估工具。開發者只需輸入模型特徵和部署選項，即可獲得經過校準的風險自評結果，同時獲得自願性安全保障措施或相關風險管理資源的參考指引。需要注意的是，該計算器不作為安全認證憑證使用，旨在幫助開發者理解並主動降低潛在風險。
