面向AI生物工具的风险指数观测站(RIO)
创始人
2026-06-24 18:51:35
0

人工智能(AI)正在深刻改变生命科学领域,为药物发现、合成生物学和生物工程开辟了全新前沿。然而,同样这些加速研究与创新的先进AI工具——有时被称为生物工具(BTs)——也可能被滥用于有害目的。例如,能够设计蛋白质或预测病毒突变的AI生物工具,可能被恶意行为者利用,用于改造具有免疫逃逸能力或引发大流行病潜力的病原体。

RAND此前与长期韧性中心(CLTR)合作,建立了一个全球风险指数,对具有两用潜力和危险能力的先进AI生物工具进行系统评估。在57款前沿工具中,有13款被标记为"红色",表明存在高度风险,其中数款工具具备预测病原体免疫逃逸突变的功能。此外,还有15款工具被标记为"琥珀色",需要逐案进行后续评估。

尽管现有评估已为了解AI生物工具的整体格局提供了宝贵数据,但这些评估大多是静态的、描述性的,缺乏结构化的实时指标,难以满足决策者评估和管理新兴滥用风险的需求。与此同时,各国和各机构对生物工具的监管仍较为分散,缺乏统一协调。目前尚无专门的全球观测机构来监测AI生物工具的快速演进、日益扩大的可及性及其扩散趋势,也无法为决策者和开发者提供针对性的风险评估、早期预警信号及实用指导。

在全球风险指数方法的基础上,RAND正在开发风险指数观测站(RIO):这是一个持续更新、由自动化辅助驱动的平台,专门用于评估AI生物工具的滥用能力。RIO将跟踪和评估新兴工具,并将相关洞察转化为动态仪表盘、早期预警信号以及面向开发者的实用指导。该观测站将以公开网站的形式对外开放,提供高层级摘要与可视化内容,而更详细的仪表盘和评估报告则仅向经过认证的政府受众开放。

观测站还设有第二条工作线,专注于为AI生物工具开发者提供实用资源。RAND将开发一款"RIO计算器",允许AI生物工具创建者输入模型特征和部署选项,从而生成经过校准的自我风险评估,并指引其参考自愿性安全保障措施或相关风险管理资源。这一工具将帮助开发者在领域持续发展的过程中理解并降低风险,但并不作为安全认证凭证使用。

Q&A

Q1:风险指数观测站(RIO)是什么?它的主要功能是什么?

A:RIO是由RAND正在开发的一个持续更新、由自动化辅助驱动的平台,专门用于评估AI生物工具的滥用能力。它将跟踪新兴工具并生成动态仪表盘、早期预警信号和实用指导,公开网站提供高层摘要,详细报告仅向认证政府受众开放。未来还将整合近实时自动化网络搜索与大语言模型驱动的半自动分诊流程。

Q2:全球风险指数对AI生物工具的评估结果是什么?

A:RAND与长期韧性中心(CLTR)合作建立的全球风险指数,对57款前沿AI生物工具进行了评估。其中13款被标记为"红色"(高风险),部分工具具备预测病原体免疫逃逸突变的能力;另有15款被标记为"琥珀色",需要逐案进行后续评估。

Q3:RIO计算器是什么?开发者如何使用它?

A:RIO计算器是一款面向AI生物工具开发者的自我评估工具。开发者只需输入模型特征和部署选项,即可获得经过校准的风险自评结果,同时获得自愿性安全保障措施或相关风险管理资源的参考指引。需要注意的是,该计算器不作为安全认证凭证使用,旨在帮助开发者理解并主动降低潜在风险。

相关内容

热门资讯

伊朗议员:美伊备忘录文本在最高... 据伊朗反对派媒体“伊朗国际电视台”报道,伊朗议员阿卜杜勒侯赛因·鲁霍拉米尼周三表示,美国与伊朗达成的...
荷兰正式加入美方主导的所谓“硅... 据凤凰卫视报道,荷兰外贸与发展合作大臣舍尔茨玛6月23日就美国《硬件技术多边协调管制法案》表达担忧,...
国网河南电力强化充电设施精益管... 截至6月23日,国网河南省电力公司运营新能源汽车充电设施本年度充电量达1.04亿千瓦时,同比增长51...
郭振甫被查 原东风本田发动机有限公司党委委员、执行副总经理郭振甫涉嫌严重违纪违法,目前正接受中央纪委国家监委驻东...
退休两年半后,淮北矿业原副总经... 【大河财立方消息】 安徽纪检监察网6月24日消息,淮北矿业集团原现代服务公司党委书记、总经理孟德军涉...
小鹏物理AI全品类产品亮相链博... 来源:滚动播报 (来源:北京商报) 北京商报讯(记者 蔺雨葳)6月24日,北京商报记者从小鹏集团获悉...
小米智能存储来了!2299元起... 毕竟NAS这个品类,说白了就是个人使用的「实体网盘」。但问题是,传统NAS要么太贵,要么搭建步骤太复...
学会动态丨云南省通信学会举办“... 6月12日下午,由云南省通信学会主办,云南省通信学会人工智能专委会、昆明高新区党群服务中心联合承办的...
原创 吵... 近期数码供应链消息透露,小米、iQOO 旗下新一代数字旗舰正在内部硬件测试原生防窥显示屏幕,区别于市...
量子计算重要突破!全球首款百万... 解放日报·上观新闻记者昨天从市科委获悉,上海企业璇相科技研制出全球首款可产生百万级原子光镊阵列的超表...