继越狱、撒谎之后AI又「进化」了：生成新病毒

作者：Georgia Wells、Alex Janin；编译：BitpushNews

凌晨3点，斯坦福实验室的培养皿里，一个AI设计的新病毒第一次“活”了过来——它成功入侵细菌细胞，杀死宿主，自我复制。

近几周来，人工智能系统频频展现出令人瞠目结舌的新能力：突破自身围栏、入侵其他公司系统、对人类撒谎。

而现在，一个AI模型首次创造出了全新病毒。事实上，是一整个病毒家族。

在发表于《科学》期刊的一项研究中，斯坦福大学及其他机构的研究人员表示，他们成功引导一个AI模型创造出了一系列仅感染细菌、对人类无害的简单病毒。

该研究的两名作者在接受采访时表示，这项研究有助于开发定制病毒，用于消灭耐药细菌。

根据世界卫生组织(World Health Organization)的数据，这类细菌每年导致数百万人死亡。

“只要我们负责任地进行开发，我认为这能为人类健康带来巨大的福祉，”斯坦福大学计算生物学家、该研究的作者之一布莱恩·海耶(Brian Hie)说。

这项研究记录的实验大约在一年前就已结束，其发表正值人们对日益强大的AI模型所带来的危险感到高度焦虑的时刻。

自7月中旬以来，OpenAI、Anthropic和Meta Platforms相继披露了多起事件：他们的模型逃出了受控环境，不仅连上了互联网，还黑入了其他公司的计算机；Anthropic的Mythos实施了欺骗行为，OpenAI的模型甚至在一个秘密留言板上交流心得。

利用聊天机器人或智能体来开发致命病原体的潜在风险，长期以来一直是AI安全专家的一大隐忧。

《华尔街日报》此前报道，去年，在ChatGPT升级版发布后，数百人向该聊天机器人询问如何制造生物武器和毒药，而它给出的操作指南经生物学和反恐专家鉴定具有准确性。

专家表示，斯坦福团队的研究不会构成即时的安全风险。该技术不太可能立即应用于感染人类的病毒，因为那些病毒比实验中合成的病毒要大得多、复杂得多。

“一听到病毒是AI生成的，很多人都会感到恐惧，”Cold Spring Harbor Laboratory计算生物学家Peter Koo说。“但人类病毒是完全不同的。”

斯坦福大学研究生、该研究的作者之一塞缪尔·金(Samuel King)表示，该团队旨在更深入地了解构成地球上所有生命的DNA序列。“正是这些序列造就了我们周围所有美丽的生物多样性，”金说。

科学家们与位于加利福尼亚州帕洛阿尔托的研究机构Arc Institute合作，共同开发了用于这项研究的AI模型。

像ChatGPT这样面向消费者的聊天机器人基于大语言模型，通过分析文本中单词之间的数学关系来生成新的文本串。与此类似，他们名为Evo 1和Evo 2的模型则是通过对基因序列进行训练，从而预测下一个DNA碱基。出于安全考虑，他们只使用无法感染人类的病毒DNA对这些模型进行了训练。

金说，他们想看看AI对DNA的理解是否足够深入，从而捕捉到基因组中需要协同运作的所有复杂组成部分。结果发现，AI确实能做到。

研究人员利用他们的模型基于模板病毒生成基因组，随后合成DNA并将AI生成的病毒导入细菌细胞。如果细菌细胞死亡，说明病毒起作用了。他们测试了约300种设计。

某天凌晨3点左右，他们观察到其中一个病毒成功复制，并感染和杀死了细菌细胞。“我们非常高兴，”金说。最终，他们生成了16种功能性病毒。

计算生物学和生物安全领域的独立专家表示，这项研究标志着该领域的一项重大突破。麻省理工学院副教授凯文·埃斯维尔特表示，这是首次有人使用生成式AI重新设计病毒。

他说，未来某天，可能会有人用类似方法制造出能感染人类、逃避疫苗保护或天然免疫反应的病毒蛋白或病毒本身。

“这种工具将让人们制造出类似新冠的新变种，能够传播并感染大多数人，”埃斯维尔特说，“那将是很糟糕的局面。我们不应该这样做。”

希伊则表示，就目前而言，对于一个潜在的生物恐怖分子来说，生产一种早已被100%确认为致命的现成病原体要容易得多。“如果我是一个试图设计病原体或制造危害的坏人，我不会使用AI，”他说。