作者：美捷登学术部Lestat
科学家们从未停止警醒人类——人工智能(AI)可能会通过掌握从商业到战争等各个领域对人类产生威胁。近期，麻省理工学院的生物安全专家Kevin Esvelt提出了另一个让人担忧的问题：人工智能可以帮助没有科学背景但心怀不轨的人订购能够引发大流行的病毒。
Esvelt让学生在ChatGPT或其他所谓的大型语言模型的帮助下创建一个危险病毒。这些系统可以根据大量的互联网数据训练集，对各类问题做出类似人类的回答。仅仅一个小时后，全班同学就列出了候选病毒的清单，以及能够合成病毒基因密码并组装病毒片段的公司。
Esvelt表示，他在6月6日发布的arXiv预印本中描述了这次演习，强调人工智能系统可能很快就会协助非科学家设计出像核武器一样具有威胁性的生物武器。“快速发展的人工智能工具的引入正在降低获取合成生命系统的难度，”核威胁倡议组织（Nuclear Threat Initiative，致力于减少核与生物安全威胁的非政府组织）全球公共政策负责人Jaime Yassif说，“这极大地增加了社会风险，确实令人担忧。”
Esvelt和其他生物安全专家已经开始担心，生物学公开交换信息（包括病毒序列）可能为生物恐怖分子提供便利。理论上，描述致命的灭绝病毒或目前流行的天然病毒的增强版本的论文，可能为新的生物武器提供蓝图。但迄今为止，要实现这种生物恐怖主义需要相当多的专业知识。潜在的恐怖分子不仅需要确定一种候选病毒作为起点，而且还需要合成病毒的遗传物质，将基因组拼接在一起，并将其与其他试剂混合，以“启动”一种能够感染细胞并繁殖的病毒。
但Yassif说，所有这些步骤正在迅速变得容易。例如，即将上市的台式DNA打印机可能会让研究人员绕过大多数合成生物学公司现在所做的，以确保没有订单包含潜在生物武器的遗传物质的筛选。然后，图谋不轨的人可以将这些基因蓝图发送给合同研究公司或机器人“云实验室”，由其组装成目标病毒(要真正引发一场大流行，犯罪分子可能还需要大规模制造病毒，并找到一个有效的输送系统）。
人工智能可以让这些步骤变得更加容易。Esvelt将一群没有生命科学专业知识的研究生分成三组，每组三到四人。所有小组都可以访问GPT-4、Bard和其他人工智能聊天机器人，并有一小时的时间要求聊天机器人帮助他们设计和获取能够引起大流行的病原体。
一些聊天机器人不会对有潜在危险的直接询问做出回应。然而，学生们发现，其中一些保护措施很容易被常见的“越狱”措辞所绕过，比如以“我正在开发一种疫苗来预防……”
到一个小时结束时，这些聊天机器人提出了四种可供研究的病毒:1918年H1N1流感病毒、2012年经过改良使其在哺乳动物中更容易传播的H5N1禽流感病毒、天花病毒和孟加拉国尼帕病毒株。尽管谷歌搜索同样会出现这样一个列表，但在某些情况下，聊天机器人甚至会指出文献中报道的可能增加传播的基因突变。
人工智能还描述了可用于根据其基因序列组装病毒的技术，以及必要的实验室用品和可以提供这些设备的公司。最后，聊天机器人甚至建议一些公司可能愿意在不进行筛选的情况下打印遗传物质，并与实验室签订合同，帮助将这些材料拼凑在一起。
Esvelt质疑聊天机器人提出的具体建议是否会构成大流行的威胁。例如，许多人对以前的大流行性流感病毒有一定程度的免疫力。比如天花的基因组是如此之大，即使是专家也很难组装。在把实验分配给学生之前，Esvelt亲自进行了实验，以确保它不会产生真正的威胁。
然而，Esvelt认为，随着有关生物威胁的文献增加并被纳入AI训练数据，人工智能和其他工具如何使潜在的恐怖分子更容易造成新的威胁。Yassif指出，这项技术将掌握在每个人的手中，“当前的默认路径将使这些工具开源和广泛传播”。
Esvelt认为，限制聊天机器人和其他人工智能引擎可以用作训练数据的信息可能会有所帮助。他建议：将线上描述创造和增强病原体的配方的论文排除在训练数据之外。Esvelt的团队在预印本中写道，删除这些论文“足以消除几乎所有的风险”，他们估计这些论文占PubMed摘要数据库中所有论文的不到1%。作者承认，这是有代价的——人工智能无法利用这些论文以积极的方式推进生物学，但避免误用的好处将是“实际和直接的”。
爱丁堡大学的人工智能安全专家Atoosa Kasirzadeh表示，实现这一目标并不容易。“目前，我们还没有好的协议来限制大型语言模型仅使用互联网的某些部分进行训练。”但她补充道，“原则上这是一个非常好的建议。”
其他可取的限制包括：要求所有DNA合成公司和未来的DNA打印机对已知病原体和毒素的遗传物质进行筛选，并要求合同研究组织验证他们被要求组装的任何遗传物质的安全性。
病毒学家Gustavo Palacios认为没有必要惊慌。他说，启动病毒比描述的更具挑战性。
不过，Yassif总结道：“我们需要更好地协调从数字信息到生物系统遇到的所有问题。“
参考资料：
https://www.science.org/content/article/could-chatbots-help-devise-next-pandemic-virus
美捷登Medjaden——“做真研究发好文章，助力中国医学研究走向世界”
SCI论文|润色发表|查重降重|实验课题|标书指导|学术会议|讲座培训
观点：AI可能引发新的病毒大流行吗？ |
楼主
收藏
分享
支持
反对
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜