上海市生物工程学会：2024年工程生物学与人工智能交叉领域的安保考虑发展报告（12页）.pdf

1、 美国工程生物学研究联盟 工程生物学与人工智能交叉融合的安保考虑 中国科学院上海营养与健康研究所 上海生命科学信息中心 上海市生物工程学会 2024 年 4 月 工程生物学与人工智能交叉融合的安保考虑 合成生物学信息参考 2024 年 4 月（总期 146 期）2 美国工程生物学研究联盟 工程生物学与人工智能交叉融合的安保考虑 编编者按：者按：美国工程生物学研究联盟（EBRC）于 2023 年 11 月发布题为工程生物学与人工智能交叉融合的安保考虑（Security Considerations at the Intersection of Engineering Biology and Ar

2、tificial Intelligence）的白皮书。白皮书指出，研究人员正借助人工智能推动工程生物学的发展，但利益相关者也必须意识到人工智能可能带来的潜在风险。为此，白皮书通过对 3 个技术领域（从头开始的生物设计、闭环自主实验室系统、处理自然语言的大语言模型）的分析，探讨了这些技术的交叉可能引发的重大安保问题。针对每项技术，白皮书均详细描述了技术内容、相关安保挑战其应对策略。工程生物学和人工智能（AI）的特点都是快速增长，有望大幅加速应对紧迫挑战的技术解决方案，但同时也可能引发的新的安保问题。随着这些技术的交叉融合，新能力正在不断被探索和认识。因此，现在应该及时识别和考虑潜在的安保影响，并

3、探索应对策略的重要时。工程生物学将工程设计框架应用于基因水平上生物系统的构建与修饰。研究通常以迭代的“设计-构建-测试-学习”（DBTL）循环为指导，其中基因线路、途径、生物体，甚至细胞或微生物群落是由分子成分（如 DNA、RNA、蛋白质）构建并根据设计的功能来进行测试，以测量相关的性能。该性能用于指导下一轮设计，并且循环重复，直到达到理想情况下优化的目标功能。人工智能对蛋白质、途径、系统、甚至细胞或生物群落设计起到了增强的作用，减少了 DBTL 的迭代次数，提高了每次循环的效率。此外，正在开发闭环自主的研究系统，并且可能在未来几年实现。在这样的系统中，可编程机器人将构建和测试生物元件或系统。

4、人工智能将从这些测试中学习并迭代原始生物设计。因此，将大幅减少人力投入。此外，像 ChatGPT 这样的自然语言大型语言模型（LLM）正在广泛使用，这些实验已经超出国家资助和国家监管研究机构的视野，工程生物学与人工智能交叉融合的安保考虑 合成生物学信息参考 2024 年 4 月（总期 146 期）3 使传统的安保监管能力变得更加复杂。分子生物学、工程生物学和生物信息学的技术和能力在 21 世纪得到迅速发展，而人工智能的加入将会显著提高这些技术的发展速度。这些技术的单独或协同应用都可能会带来安保问题1。人工智能的能力可以帮助恶意行为者构思方法，收集执行计划的信息；设计可能造成伤害的生物元件或系统

5、；制定避免被发现的策略；承担旨在造成伤害的生物系统的构建、测试和武器化的过程；以及开发最终产品的分销流程。由此产生的有害产品可能包括人类、植物、动物，甚至微生物病原体，这些产品具有可能增强的疾病特征。此外，还可能出现逃避当前检测或治疗机制的新型毒素，例如，对人类有害但对当前抗毒素不敏感的肉毒杆菌毒素，或利用微生物合成非法的阿片类药物，甚至降解或削弱重要材料的微生物等。袭击的规模可能从小规模的有针对性的生物犯罪，到影响重大但规模有限的生物恐怖主义行为，再到具有高度地区、国家和/或全球发病率和死亡率的生物战争行为。各种行为体，从个人到意识形态团体，再到独立国家，都可能受到个人、意识形态、经济、政治

6、或其他动机的驱使而尝试此类袭击。正是认识到这种滥用的可能性，EBRC 发布了这份白皮书，旨在识别和交流工程生物学与人工智能交叉领域安保考虑的关键领域。尽管在某些主题上尚未达成共识，但 EBRC 确定了 3 个关键领域，这些领域的融合可能会带来重大的安保问题：从头开始的生物设计、闭环自主实验室系统，以及处理自然语言的大语言模型。通过讨论每个领域的预期用途和进展、引发的安保问题，以及防止和/或减轻滥用的机会，白皮书建议建立一个关于工程生物学与人工智能交叉领域的国际论坛，以识别潜在安保问题、制定缓解措施，并推动国际社会就负责任地开发和使用这些工具达成共识。1 本报告的讨论范围仅限于安保（securi