玉泉 砺道智库 2023-10-18 13:49 发表于北京

美国兰德智库日前发布的一份报告称，引导ChatGPT和Meta的人工智能可以用来制造新的生物武器。

该报告的作者认为，人工智能不一定能提供如何制造生物武器的说明，但可以弥补过去阻止成功制造这些武器的知识差距。此外，报告称，由于人工智能正在迅速逃避政府缓慢的监管，监管缺口可能会成为恐怖组织可能使用生物武器发动袭击的权力真空。

报告中写道：“我们正在进行的研究强调了滥用人工智能（特别是法学硕士）进行生物攻击的复杂性。初步结果表明，法学硕士可以产生令人担忧的成果，可能有助于策划生物攻击。然而，现有法学硕士的能力是否代表了超越网上容易获得的有害信息的新威胁水平，这仍然是一个悬而未决的问题。”

研究人员没有透露他们在报告中使用了哪些大型语言模型。在一个测试场景中，一位法学硕士显然提到了获取和传播鼠疫耶尔森氏菌（一种与引起鼠疫有关的细菌）的情况，同时讨论了可能导致特定死亡人数的变量。同样，人工智能报告的主题包括生物武器的预算、识别潜在的传播媒介，以及其他更模糊的成功因素。

随着科技行业继续迫使人工智能聊天机器人和艺术生成器进入我们生活的几乎每个角落，生物武器并不是创新可能产生的唯一挥之不去的威胁。兰德公司此前曾于2018年发布过一份类似的报告，内容涉及人工智能在核战争中的作用。该报告称，人工智能有“巨大的潜力”侵蚀地缘政治核安全，该技术增加了到2040年发生核末日的可能性。