蒋华 砺道智库 2023-11-16 18:05 发表于北京

据DefenseScoo网11月14日报道，美国中央司令部首席技术官斯凯勒·摩尔表示：“我们有时很难预测真实用户与技术交互的方式。”

斯凯勒·摩尔表示，美国中央司令部领导层正在采取行动，让新人工智能功能的最终用户尽早参与这些新兴工具的开发。

“你越早让真实的人类接近现实环境，你就越有能力以真实和定量的方式谈论人工智能如何以负责任和道德的方式集成，”她周二在英特尔公司表示。公共部门峰会。

从广义上讲，负责美国在中东军事行动的中央司令部被认为是国防部早期人工智能采用者之一。该中心部署了高科技人工智能，可为情报、侦察和其他任务提供计算机视觉、模式检测和决策支持。

五角大楼已经制定并发布了指南和资源，以告知其在所有组件中如何使用“负责任的人工智能”，并着眼于未来部署更多此类工具。

“我们设定了很多期望——‘对于负责任和道德的人工智能，你将以XYZ方式表现。’但是，衡量模型或功能是否以XYZ方式执行的唯一方法是将其交到实际使用它的人手中。有时我们很难预测真实用户与技术交互的方式，”摩尔说。

她补充说，她的团队在努力中了解到，军事用户在测试阶段与新功能交互的方式“非常重要”。

有时在软件领域，开发人员会尝试通过剥夺用户解决已发现问题的权限来降低新产品中发现的风险。

但摩尔认为，“通过在开发的早期阶段向用户引入尽可能真实的环境，实际上可以降低假设的风险。”她说，“不这样做可能会导致构建的高级模型不考虑用户如何使用技术或网络容量以及他们拥有的其他数据。因此，通过删除用户并说‘我们将在向你们提供之前解决所有问题’，实际上会带来更多风险。”

“作为一个作战司令部，我们举手表示，‘我们将成为该部门的整合测试平台。你可以把东西推给我们，我们将拥有现实的数据，我们将拥有现实的用户和现实的环境，这将提高质量并实际上降低整个部门的风险，否则在它真正被转移之前可能仍然是一个野生产品对用户来说，”她解释道。