2024年9月，美国智库“特别竞争研究计划”（SCSP）和澳大利亚战略政策研究所（ASPI）联合发布《情报分析的未来：人工智能增强情报分析的潜力》报告，报告旨在阐明人工智能在加强所有来源情报分析方面的潜力。元战略编译报告主要内容，以期为读者提供参考。
一、前言
机器学习（ML）和自然语言处理（NLP）领域的进步，以及Gemini和ChatGPT等工具的迅速崛起（这些工具的用户数量已超过1亿），都凸显了人工智能的快速发展。专业的人工智能模型现在可以执行金融、科学、营销、数据管理、研究、游戏开发和医疗保健等领域的任务。2022年11月，OpenAI发布了ChatGPT，随后，OpenAI（2024年5月发布了ChatGPT-4o）、谷歌（2023年3月发布了Bard，2023年12月发布了Gemini）和Anthropic（2023年3月发布了Claude）也相继发布了自家的人工智能模型，这预示着新一代人工智能的到来，为用户查询和海量信息交互提供了前所未有的机会。本报告将重点讨论由大语言模型驱动的生成式人工智能（GenAI）。
想象一下，一位情报分析师利用GenAI来帮助预测对手的下一步行动。这名情报分析师将不再被数据压得喘不过气来，相反，他将使用多种人工智能驱动的工具高效地提取关键见解。这一愿景是“增强智能”承诺的缩影，即将人类的知识和创造力与机器的规模和精度无缝结合，创造出一个大于其各部分总和的系统。美国和澳大利亚的情报公司认为，人工智能最具潜在影响的途径是人机协作（HMT），它可以彻底改变见解分析的效率、规模、深度和速度。人工智能-人机协作有望通过建立反馈回路，让分析师和算法从中获益，从而提升分析能力。在国家情报领域，相关试点项目为定制分析功能、实验和其他离散任务部署了人工智能，但尚未形成规模，也未整合到整个分析工作流程中。
随着不断取得突破，将广泛的人工智能能力整合到更广泛的情报分析中似乎指日可待，但将这些工具整合到情报行动中却带来了一系列的挑战。在高风险环境中，情报机构必须对其所做评估的质量和准确性保持极高的要求，因此，他们对新工具、不准确信息或与法律或道德准则相冲突的建议的容忍度很低。此外，在部署和整合人工智能工具时，情报机构之间必须进行一定程度的合作与协调。如果情报机构以不同的速度部署这些工具，甚至部署不同类型的工具，可能会使未来的合作更加复杂化。
二、情报分析任务与对生成式人工智能
的期望
报告认为，人工智能有机会增强情报分析师的能力，在某些情况下，还能自动完成情报分析工作中的部分任务。报告指出，情报机构使用人工智能（以机器学习算法的形式）作为其信息技术堆栈的重要要素由来已久。它们还在积极测试和试验新一代GenAI和其他人工智能模型。
报告预计，在未来12到18个月内，情报机构将进一步部署更复杂的人工智能系统。在同一时期内，大语言模型将不断增长，人工智能也将变得更加复杂。鉴于这些工具和能力将以指数级速度增长，情报机构始终存在难以跟上步伐的风险。因此，从中期来看，情报机构必须制定重点突出但又灵活的战略来实施这些工具和能力。
简单来说，情报分析的目的是通过警告和告知决策者地缘战略环境中可能影响本国利益的变化，来辨别外国行为体的意图和行动。情报分析还能说明这些变化在近期、中期和长期可能意味着什么，这些变化可以是一次性事件（如双边或多边外交峰会、选举、军事采购决策），也可以是趋势（如两国或多国之间的紧张局势加剧、政治议程的实施和完善、军事行动）。
为了提供这些见解，情报分析师通过一个循环过程来分析情报工作流程。在这个过程中，新信息被综合并整合到为客户提供的分析产品中，而客户反过来又提供反馈，以指导需要哪些新信息和见解。人工智能有可能使这一工作流程的许多部分实现自动化。虽然分析师通常是推动这一周期每个阶段的关键驱动力，但还有其他相关的利益攸关方。分析师必须与数据收集者保持联系，包括那些负责公开来源和秘密获取信息的人。同样，向客户和消费者传播分析结果也需要通过一系列系统和人员。因此，在分析工作流程中引入大语言模型，可能会对更大范围的情报和决策机构产生溢出效应。
使用人工智能工具的核心要求包括透明度、可解释性和问责制。在典型的分析产品中，一个中心论点会得到少数有力证据的支持。在目前的系统下，人工分析师主要负责人工整理和权衡证据，这就增加了遗漏关键证据的可能性，这些证据要么增加了重要的细微差别，要么与中心论点相冲突。大语言模型能够保存更多数据并改变数据的权重，这意味着与人工智能合作的分析师能够毫不费力地获取最新、最相关、最有声誉的辅助信息。
然而，在情报分析中部署大语言模型所面临的一个关键挑战是大语言模型输出的不透明性。大语言模型本质上是一个“黑盒子”，它掩盖了导致模型输出的一些详细推理，这给分析人员和决策者都带来了问题。因此，强有力的问责制以及保持决策者和公众的信任对这情报机构来说至关重要。如果决策者无法理解某些证据是如何以及为何被使用的，分析就会失去可信度。因此，情报机构必须确保在部署大语言模型的同时制定透明度和可解释性的基本标准。
可解释的人工智能（XAI）是一种可确保大语言模型输出符合这些标准的工具。XAI有助于产生有理有据、值得信赖的见解，并促进对人工智能在情报领域应用的信任。XAI旨在通过提供两个层面的解释来揭示人工智能决策：描述系统整体运作的全局解释和详细说明具体决策背后原理的局部解释。一些研究计划，如美国情报高级研究计划局（IARPA）的REASON、BENGAL、BETTER和HIATUS计划，以及美国国防部高级研究计划局（DARPA）的XAI计划已经启动，以帮助在智能领域开发和实施XAI。这些项目旨在开发新型技术，使情报分析师能够改进分析报告中的证据和推理，识别和减轻生成式人工智能系统中的偏差，提高从非结构化文本数据中提取信息的准确性和可解释性，并开发可解释模型用于将作者归属于匿名或假名文本数据。然而，在缺乏完全可解释性的情况下，情报机构可能需要重新构建问题，将人工智能本身作为一个来源来考虑和理解。
三、探索人工智能在整个情报分析
工作流程中的应用
情报机构对人工智能工具的尝试应侧重于在整个分析工作流程中实现增强、自动化和知识共享：分流新信息、开展研究和组织数据、构思分析产品、起草分析产品、执行情报检查以及与政策客户接触。自然语言处理可用于从大量非结构化文本数据中提取相关实体和关系，而计算机视觉技术则可用于识别图像和视频数据中感兴趣的对象和活动。
对于主要处理非结构化文本的情报分析师来说，GenAI有可能成为整个情报分析工作流程中的重要支持。然而，报告认为，目前GenAI不会取代人类分析师。模型目前有能力接受琐碎、低价值任务，但人类分析师在识别不同信息之间的新联系并解释这些联系的意义和潜在影响方面的“专家直觉”被认为超出了人工智能的现有能力。不过，随着模型变得越来越复杂并达到越来越难的性能基准，它们将有能力接受情报分析工作流程中更密集的任务。
将人工智能融入情报分析的首要目标应该是提高分析过程的效率和效力，使分析人员能够更迅速、更全面地提出高质量、可操作的见解。这一目标包括两个关键目标：加快洞察时间和增强分析深度与广度。加快洞察时间利用人工智能技术帮助分析师从大量不同的数据源中快速识别、优先排序和综合相关信息。例如，自然语言处理可以大大减少分析师手动处理数据的时间，使他们能够专注于更高层次的分析和解读。人工智能还可以提高分析的深度和广度，对复杂的多维数据集进行更全面的探索，发现人类难以发现的隐藏模式、趋势和异常情况。例如，图分析技术可用于识别大规模社交网络中的关键影响人物、社区和信息流模式，为了解和预测社会动态和潜在安全威胁提供宝贵的背景资料。
四、未来的人工智能对情报分析的影响
未来3-5年GenAI可能取得的几项技术进步，这些进步将影响到情报的分析任务：
更大的大语言模型。大语言模型通常以其拥有的参数数量（即在训练过程中学习到的权重数量）来衡量。
更长的上下文长度。正在进行的创新不断扩大为大语言模型提供信息的可行上下文长度，一些实验室宣布可提供数百页的容量。
外部存储器和外部信息访问。纳入可靠的外部信息源可以通过链接到任何独立模型所包含的扩展证据，从而极大地加强内部评估。
基础搜索系统。有朝一日，将内部记忆与实时访问经整理的外部数据库和可靠的互联网资料来源联系起来的基础搜索系统，可使情报分析师能够查询和综合内部数据集以外的各种补充信息。
协同合作。通过将情报分析师的判断与分析成品的自动起草相结合，人工智能助手的配置有可能在未来显著提高情报分析师的工作效率。
建模和模拟。未来，综合建模和模拟能力可使情报分析师快速、轻松地探索各种假设情景，更好地了解可能的结果的影响。
复合系统。复合系统的定义是使用多个相互作用的组件，通过添加规划、检测和数据标记等组件，将单一模型扩展为可执行多种任务的模型。
人工智能代理。人工智能开发人员正在创建能与环境互动、收集数据并利用数据执行自定任务以实现预定目标的人工智能系统。人类设定目标，但人工智能代理可独立选择实现目标所需的最佳行动。
五、情报机构可采取的5大行动
强大的GenAI很可能在未来3年内发展起来，情报机构的领导人现在就需要为这一新现实做好准备。各情报机构应采取更具战略性的方法来采用人工智能，其更广泛的目标是利用人工智能来转变情报机构的分析文化，从传统的、被动的方法转变为更快、更有预见性、数据驱动的方法。除了已经试用的大语言模型之外，跨国情报机构之间还应对其情报分析工作流程进行评估，通过使用人工智能来提高情报分析流程每个阶段的效率。
为避免永远落后于人工智能技术发展的步伐，情报分析和管理人员应将注意力从GenAI目前能做什么转移到GenAI在未来3-5年内能提供什么上，并做出合理的预测。除了敦促本国机构获取和整合人工智能相关的基础设施（特别是先进的计算能力、获取最前沿的商用GenAI模型和算法以及安全的数据存储）之外，报告还建议跨国情报机构采取以下5大行动：
1. 设计并持续改进人工智能模型；
2. 现在就开始实现情报分析工作流程的自动化；
3. 建立人机分析团队；
4. 为情报分析人员创建适应人工智能的培训和激励结构；
5. 合作制定共享的人工智能使用标准和评估指标。
报告认为，如果没有来自工业和学术界的合作伙伴的全力投入，并且这些合作伙伴又高度适应智能化运行环境、了解情报机构的使命、战略方向和行动目标，那么情报机构将无法充分利用人工智能技术。此外，跨国情报机构的领导人应促进双方的私营部门之间持续的合作探索并共同建设人工智能能力。跨国情报机构的专家可建立一个私营部门合作伙伴论坛，定期向情报机构领导人通报最新的人工智能创新成果，提供技术咨询，交流人工智能测试和评估项目的发现，并分享人机团队管理方面的最佳实践。如果跨国情报机构发现在人工智能能力方面存在关键差距，私营部门论坛可以提出具体的解决方案，或作为向需要帮助的情报机构提供技术专长的渠道。