人工智能(AI)正在深刻改变生命科学领域,为药物发现、合成生物学和生物工程开辟了全新前沿。然而,同样这些加速研究与创新的先进AI工具——有时被称为生物工具(BTs)——也可能被滥用于有害目的。例如,能够设计蛋白质或预测病毒突变的AI生物工具,可能被恶意行为者利用,用于改造具有免疫逃逸能力或引发大流行病潜力的病原体。
RAND此前与长期韧性中心(CLTR)合作,建立了一个全球风险指数,对具有两用潜力和危险能力的先进AI生物工具进行系统评估。在57款前沿工具中,有13款被标记为"红色",表明存在高度风险,其中数款工具具备预测病原体免疫逃逸突变的功能。此外,还有15款工具被标记为"琥珀色",需要逐案进行后续评估。
尽管现有评估已为了解AI生物工具的整体格局提供了宝贵数据,但这些评估大多是静态的、描述性的,缺乏结构化的实时指标,难以满足决策者评估和管理新兴滥用风险的需求。与此同时,各国和各机构对生物工具的监管仍较为分散,缺乏统一协调。目前尚无专门的全球观测机构来监测AI生物工具的快速演进、日益扩大的可及性及其扩散趋势,也无法为决策者和开发者提供针对性的风险评估、早期预警信号及实用指导。
在全球风险指数方法的基础上,RAND正在开发风险指数观测站(RIO):这是一个持续更新、由自动化辅助驱动的平台,专门用于评估AI生物工具的滥用能力。RIO将跟踪和评估新兴工具,并将相关洞察转化为动态仪表盘、早期预警信号以及面向开发者的实用指导。该观测站将以公开网站的形式对外开放,提供高层级摘要与可视化内容,而更详细的仪表盘和评估报告则仅向经过认证的政府受众开放。
观测站还设有第二条工作线,专注于为AI生物工具开发者提供实用资源。RAND将开发一款"RIO计算器",允许AI生物工具创建者输入模型特征和部署选项,从而生成经过校准的自我风险评估,并指引其参考自愿性安全保障措施或相关风险管理资源。这一工具将帮助开发者在领域持续发展的过程中理解并降低风险,但并不作为安全认证凭证使用。
Q&A
Q1:风险指数观测站(RIO)是什么?它的主要功能是什么?
A:RIO是由RAND正在开发的一个持续更新、由自动化辅助驱动的平台,专门用于评估AI生物工具的滥用能力。它将跟踪新兴工具并生成动态仪表盘、早期预警信号和实用指导,公开网站提供高层摘要,详细报告仅向认证政府受众开放。未来还将整合近实时自动化网络搜索与大语言模型驱动的半自动分诊流程。
Q2:全球风险指数对AI生物工具的评估结果是什么?
A:RAND与长期韧性中心(CLTR)合作建立的全球风险指数,对57款前沿AI生物工具进行了评估。其中13款被标记为"红色"(高风险),部分工具具备预测病原体免疫逃逸突变的能力;另有15款被标记为"琥珀色",需要逐案进行后续评估。
Q3:RIO计算器是什么?开发者如何使用它?
A:RIO计算器是一款面向AI生物工具开发者的自我评估工具。开发者只需输入模型特征和部署选项,即可获得经过校准的风险自评结果,同时获得自愿性安全保障措施或相关风险管理资源的参考指引。需要注意的是,该计算器不作为安全认证凭证使用,旨在帮助开发者理解并主动降低潜在风险。