玉泉 砺道智库 2023-10-26 20:02 发表于吉林

美国国防部成立了一个新的工作组，研究使用生成式人工智能（例如大型语言模型）执行军事任务的可能性。

利马特遣部队于8月10日由国防部副部长凯瑟琳·希克斯(Kathleen Hicks)通过国防部首席数字和人工智能办公室成立，“将开发、评估、建议和监控生成式人工智能能力在国防部的实施情况，以确保国防部做好准备采用并适当防止生成人工智能技术，”一份情况说明书指出。

美国国防部几十年来一直在研究和开发人工智能系统利马特遣部队指挥官曼努埃尔·卢戈在接受采访时表示，“正如ChatGPT和Bard等公开的大型语言模型中所见，生成式人工智能以非常快的速度向世界推出……它与传统人工智能有点不同。”他补充说，该工作组的成立是为了帮助集中国防部的生成式人工智能研究，并“指导整个部门正在进行的有关这项技术的所有单独调查”。

利马工作组已收到来自整个部门的160多个生成式人工智能用例，其中大部分都围绕管理问题集，例如信息汇总、后勤、规划角色等问题。卢戈表示，“在某些情况下，您有空白表格，并且根据工具在几秒钟内生成的初稿进行工作要容易得多。……另一个实用程序还能够将技术指向大量数据，并将其总结为段落或页面，这些工作需要分析师或专家花费大量时间才能完成。我们可以在几秒钟内完成此操作，并且可以很快地迭代这些响应。”

生成式人工智能的一个潜在缺点是“幻觉”，即大型语言模型本质上是在编造一些东西。该工作组正在要求业界通过程序、技术或系统概念来帮助该部门减少幻觉，并正在构建指南和工具，例如“可以插入工作流程和模型本身的测试和评估工具，为我们提供有关指标质量和……特定模型输出质量的输出，”他说。

利马特遣部队拥有400多名人员，租期为18个月，并有许多可交付成果。该工作组已经编写了临时指南，目前正在进行人员配置，为国防部提供有关如何使用这项技术的左右限制。

该工作组还在分析生成式人工智能用例，以便对它们进行分组，并找到该技术的实际应用领域，然后开始为那些特定的应用程序编写特定的框架和护栏。

一旦模型足够成熟可以使用，工作组将收集数据来评估模型的性能，并提出如何衡量该性能的框架，以便可以在全球范围内应用于模型和工作流程。

其他工作包括调查模型如何呈现安全风险，以及如何确保整个技术中负责任的人工智能。

利马特别工作组有望在18个月的时间内完成所有可交付成果。该工作组章程的一部分是确定将部分工作移交给谁，并制定国防部在整个部门实施生成式人工智能的战略。该部门最终采用生成式人工智能的一个关键因素是成本。

曼努埃尔·卢戈表示，“这项技术非常昂贵，而且有很多假设我们可以用它插入我们的系统中。如果我们想拥有自己的模型，就会需要大量的费用，并且需要大量的专业知识。”