从乌克兰上空到俄罗斯的网络攻击,再到五角大楼内部的官僚斗争,人工智能已经从一项实验或小众产品发展成为军事组织日益常规的工具。
一个军事指挥中心密切监控雷达数据和情报信息,以跟踪和分析敌军在广袤沙漠战场上的动向。
OpenAI推出ChatGPT将一种新型人工智能带入千家万户仅仅三年后,人工智能就经历了从默默无闻到司空见惯、从新奇玩具到日常工具的飞速发展。如今,就连世界各地的士兵、军事策划人员和国家支持的黑客也都在使用人工智能。
在此过程中,人工智能不仅变得常规化,而且制度化了。今年1月,新任总统特朗普在椭圆形办公室接待了OpenAI及其合作伙伴,宣布了名为“星门计划”(Stargate)的项目,该计划将投资5000亿美元建设新的数据中心,美国军方是其主要潜在客户。到了8月,五角大楼独立的首席数字与人工智能办公室(CDI)已被并入传统的研究与工程部(R&E)副部长办公室。
12 月,国防部长皮特·赫格塞斯和研发副部长埃米尔·迈克尔宣布推出新网站 GenAI.mil,旨在向国防部所有 300 万军事和文职人员提供商业大型语言模型工具。
在所有这些令人眼花缭乱的发展中,我们今年报道的五个故事显得尤为重要——或者说,令人担忧。
1.机密战场数据训练的人工智能提升无人机的作战效能
今年 3 月,乌克兰前国防官员卡捷琳娜·邦达尔分享了她的最新研究成果,该报告介绍了乌克兰如何利用人工智能来提高其攻击无人机的杀伤力。
乌克兰国防部门极富创新精神,他们不仅将精简版的人工智能算法塞进无人机相对较小的“大脑”中,帮助无人机在最后几百米内精准命中人为指定目标,还利用广泛应用的开源人工智能模型来训练目标锁定算法,处理前线传感器采集的大量数据。
这种算法组合拳——总部后端使用大型模型处理大数据,前线使用精简的小型模型在有限的计算机能力上运行——也日益成为美国军方正在探索的模式。
2. “没有人手”:NGA利用人工智能生成的情报
美国国家地理空间影像局(NGA)一直走在人工智能大规模应用的前沿。它拥有海量数据——几乎涵盖地球表面每一寸土地的影像——因此,它不可能不采用这种强大的工具来驾驭这些数据。
就在 OpenAI 于 2022 年底推出 ChatGPT 的同时,美国国家地理空间情报局 (NGA)悄然接管了五角大楼开创性项目“Maven”的地理空间部分。“Maven”是一种截然不同的人工智能,旨在检测监控视频中的潜在目标。“NGA Maven”很快成为该机构最受欢迎的产品之一,以至于需求量之大令该机构的计算资源捉襟见肘。
为了简化情报提供流程并减轻人力负担,美国国家地理空间情报局(NGA)尝试利用人工智能(AI)不仅分析数据,还生成报告。到今年6月,这一自动化流程已发展成熟并趋于规范化,以至于该机构局长公开宣布,NGA正在使用一种新的标准化报告模板,以区分纯粹由人工智能生成的报告和人工撰写的报告。“在这个特定的模板和报告发布过程中,完全没有人为干预,”弗兰克·惠特沃思海军中将表示,“这是全新的,与众不同的。”
3.联合火力网络:将完成从研发到采购项目的过渡
有时候,重大新闻并非来自战场上的轰鸣,而是来自官僚机构缓慢运转的齿轮。
在9月份举行的空军协会年会上,空军指挥、控制、通信和作战管理(C3BM)采购主管卢克·克罗普西少将告诉记者,他将正式接管名为“联合火力网络” (Joint Fires Network,简称JFN)的项目。这一看似平常的举措意味着,此前一直处于试验阶段、运行约三年的JFN项目,如今已被认为足够成熟和主流,可以成为一个传统的联合采购项目。
对于JFN而言,这是一个意义非凡的里程碑。JFN利用人工智能大规模地为美军武器分配敌方目标,其应用范围不仅限于单个战场,甚至可能覆盖未来与中国战争中的整个太平洋战区。虽然JFN算法本身并不扣动扳机,但它的目标是简化复杂繁琐的计划流程,即在数百种不同的武器和目标之间确定“谁应该攻击谁”。一支能够自动化完成这种生死攸关的繁琐工作的军队,可以更快地将更多弹头投放到更多目标上,同时减少效率低下和错误。这有可能成为赢得战争的关键优势——前提是你能真正信任人工智能的计划。
4.空军用人工智能拟制作战计划
然而,在同一场空军协会会议上,另一个故事揭示了人工智能辅助战争计划令人不安的一面。美军一直在试验利用人工智能将军事情报转化为推荐的“行动方案”(COA),结果发现,与使用传统软件工具的人类参谋人员相比,这些算法可以显著提高工作效率。罗伯特·克劳德少将(与Anthropico聊天机器人无关)表示,在一项名为DASH-2的演习中,人类花了16分钟生成了3个行动方案,而人工智能在“大约8秒”内就生成了10个。
这意味着人工智能的平均速度是人类的400倍。但克劳德继续说道,问题在于一些人工智能方案不仅糟糕,而且根本行不通:它们忽略了一些关键的细节,例如哪些传感器在哪些天气条件下有效,而这些细节注定了任务的失败。这比民用聊天机器人那些显而易见的幻觉问题要隐蔽得多,但后果也严重得多。美国军方面临的问题是,他们能否在交火开始前就根除这些错误。
5.人工智能进行黑客攻击将推动对人工智能网络防御的需求
美国和乌克兰等民主国家并非唯一在人工智能领域进行创新的国家,与西方国家不同,只要能达到目的,其他国家对附带损害(无论是物质上的还是数字上的)的容忍度更高。因此,一个黑客组织成为我们所知的第一个利用生成式人工智能进行网络攻击的组织,也就不足为奇了。据 Anthropic 公司称,黑客们有效地对 Anthropic 公司的Claude Code进行了精神操控,使其误以为自己是合法的网络安全研究人员,并使其入侵了大约 30 个政府机构和私营公司。
这并非人工智能首次被用于网络攻击。此次事件的新颖之处在于,人工智能并非仅仅是人类手中的工具,而是实际执行攻击的主体,或者至少承担了网络攻击所需步骤的80%。(为了迷惑克劳德,攻击者将攻击分解成许多看似无害的小步骤,使他未能意识到整个行动的险恶本质。)
更重要的是,这并非某个秘密机构中技术高超的政府特工专门开发的定制访问工具:而是一款现成的商用人工智能,任何拥有互联网连接和信用卡的人都可以使用。就像汽车炸弹和半自动步枪一样,人工智能如今随处可得。