砺道智库 2024-06-19 09:00 北京

据防务快报网6月18日报道，美国陆军计划于7月在其采购、后勤和技术(ASA(ALT))部门试行生成式人工智能项目。这是其500天计划的一部分，旨在降低实施人工智能算法的风险。如果正确实施，试点将利用生成式人工智能完成通常费力且耗时的任务，例如撰写合同。

试点项目将利用大型语言模型(LLM)，并在影响级别(IL)5的安全云环境中运行，该系统具有最高级别的授权来存储和处理受控的非机密信息。试点项目还将根据自己的权限来操作流程。

美国陆军负责数据、工程和软件的副助理部长詹妮弗·斯旺森表示，“试点项目不仅是为了提高我们的生产力，这当然很棒，而且我们还可以做其他什么？我们可以利用或添加哪些其他行业工具……比如我们的车辆或武器系统。”

斯旺森表示，与ChatGPT等其他LLM模型不同，陆军的LLM将使用陆军的数据进行训练。

今年3月，美国陆军启动了一项为期100天的计划，该计划将于6月30日结束，旨在研究减轻与人工智能算法相关的风险的方法，随后的500天项目将于今年夏天晚些时候开始。

ASA(ALT)办公室首席副手Young Bang早些时候表示，ASA(ALT)内部采用多层次人工智能实施方法是“防御人工智能”计划的一部分。Bang进一步指出，防御人工智能计划必须与工业界合作，开发可实施到陆军和国防部系统中的算法，从而构成更大的国防网络。

推动LLM试点的是陆军副助理部长(DASA)数据、工程和软件办公室、DASA采购办公室以及DASA战略和收购改革办公室，其中后者负责该项目的政策方面。

为了确保LLM提供的信息准确无误，斯旺森表示，它将提供信息来源的引文。此外，她表示，作为该服务100天计划的一部分，它为ASA(ALT)制定了一项“事实调查生成式AI政策”，目前需要人工参与，因为“我们现在不知道我们得到的是什么”，斯旺森说。

这些步骤还将有助于引导人类了解LLM的运作方式，本质上模仿其内部运作的黑匣子。

生成式人工智能经常出现的另一个问题是偏见。当被问及新的法学硕士计划如何消除偏见时，斯旺森表示，“偏见很难解决，因为有时人们会有偏见，对吧？所以，我认为这只是那些非常模糊的事情之一，需要监督、批判性思维和人为参与，以确保我们不会让工具失控。”

虽然她没有透露哪家公司将开发LLM，但斯旺森强调它不会由ChatGPT运营。