山姆·阿尔特曼（Sam Altman），OpenAI首席执行官，于2025年7月8日出席在爱达荷州太阳谷举行的艾伦公司媒体与科技会议。| 大卫·保罗·莫里斯/彭博社通过盖蒂图片社供图
通用人工智能——即具备全方位人类水平智能的人工智能——的探索迎来重大进展。OpenAI将其使命描述为"确保通用人工智能造福全人类"，昨日正式敲定酝酿已久的公司重组计划，此举可能彻底改变我们应对人工智能风险（尤其是生物风险）的方式。
首先简要回顾：OpenAI最初于2015年作为非营利组织成立，四年后增设营利部门。非营利部门现更名为OpenAI基金会，营利子公司则转型为名为OpenAI集团的公益公司（公益公司具有平衡使命与利润的法律义务，区别于其他企业结构）。基金会仍控制OpenAI集团并持有26%股份，在资本重组完成时估值约1300亿美元。（披露：Vox媒体是与OpenAI签署合作协议的多家出版商之一，本报导保持编辑独立性。）
OpenAI在博客文章中写道："我们相信，世界上最强大的技术必须以反映全球集体利益的方式开发。"
除与微软达成重大协议外，OpenAI的首要举措是基金会拨款250亿美元，用于加速健康研究并支持"AI韧性实用技术解决方案"，其核心在于最大化人工智能收益并最小化风险。
最大化收益与最小化风险是开发先进人工智能的根本挑战，而生命科学领域最能体现这种微妙平衡。在生物学和医学中应用AI可强化疾病检测、改善应急响应并推进新疗法与疫苗的研发。但许多专家认为，先进AI的最大风险之一在于其可能协助制造危险生物制剂，降低发动致命生物武器攻击的门槛。OpenAI深知其工具可能被滥用制造生物武器。
这家前沿AI公司已为ChatGPT代理建立防护措施，但AI-生物能力所能实现的潜力仍处于早期阶段。正因如此，另一则近期新闻——OpenAI初创基金联合Lux资本与创始人基金，向纽约生物防御初创公司Valthos提供3000万美元种子资金——其重要性可能不亚于复杂的公司重组。
Valthos旨在快速构建新一代生物防御"技术栈"。该公司上周五结束隐秘运营后在介绍性博客中写道："随着AI进步，生命本身已可编程。世界正接近普遍获取强大双用途生物技术的时代，这些技术既能消除疾病也能制造疾病。"
你或许在思考：面对这些具有灾难性破坏潜力的工具，是否该全面踩下刹车？但在AI发展与投资以越来越快速度推进的当下，这并不现实。归根结底，关键赌注在于：我们开发的AI能否化解其自身发展引发的风险？随着OpenAI等公司向通用人工智能迈进，这一问题变得愈发重要。
AI能否保护我们免受AI风险的威胁？
Valthos设想的未来中，任何人类生物威胁都能"被即时识别并中和，无论源头来自外部还是人体内部。我们构建的AI系统可快速解析生物序列并实时更新药物。"
这将使我们更迅速应对疫情爆发，可能阻止流行病演变为大流行病。我们能以破纪录速度改造疗法并设计新药，帮助大量难以有效治疗的患者。
我们尚未实现生物学领域的通用人工智能（甚至其他领域也没有），但AI-生物能力已存在重大风险——例如故意制造比自然界更致命的新病原体，并可能被蓄意或意外释放。Valthos等努力是正确方向的第一步，但AI公司仍需切实履行承诺。
核威胁倡议组织全球生物政策与项目副总裁杰米·亚西夫（Jaime Yassif）表示："我对AI-生物能力带来的社会收益潜力持高度乐观态度。但与此同时，负责任地开发和部署这些工具至关重要。"（披露：我曾任职于核威胁倡议组织。）
但亚西夫强调，提升AI工具在生物学领域的预测能力仍需大量工作。
目前AI无法独立实现其收益——必须持续投资于推动变革的配套体系。AI是更广泛生物技术创新生态的一部分。研究人员仍需进行大量湿实验室工作、开展临床试验，并评估新疗法或疫苗的安全性与有效性。他们还需将这些医疗对策分发给最需要的人群，而这一过程因官僚主义和资金问题而异常困难。
另一方面，恶意行为者可立即行动，其影响速度远超AI收益的实现进程，尤其当缺乏智能干预手段时。正因如此，防范有益工具被滥用的防护措施能否部署到位并跟上技术飞速发展至关重要。SaferAI对前沿AI公司风险管理实践的评级显示，OpenAI仅次于Anthropic公司位列第二。但所有人都需加倍努力。"关键不在于谁排名靠前，"亚西夫说，"我认为各方都应做得更多。"
随着OpenAI等公司日益接近超越人类智能的AI，如何从生物学角度最大化收益并最小化风险的问题从未如此紧迫。当重设计生命本身的工具日益精进，我们必须全面加大AI生物防御与生物安全投资。因此，我期望利用AI应对AI风险的策略终将取得成功。
【全文结束】
