如何在为时已晚之前暂停人工智能

Time Magazine5月17日报道，尽管距离2022年11月ChatGPT的发布仅过去了16个月，但这段时间已经让人感觉像是古老的人工智能历史。数千亿美元的公共和私人资金正源源不断地流入人工智能领域，数千种AI驱动的产品已经问世，包括本周新推出的GPT-4o。从学生到科学家，所有人现在都在使用这些大型语言模型。我们的世界，尤其是人工智能的世界，已经发生了翻天覆地的变化。

但实现人类水平的人工智能——或称通用人工智能（AGI）——的真正目标尚未达到。这一突破意味着一种AI能够完成大多数经济上有生产力的工作、与他人互动、进行科学研究、建立和维护社交网络、从事政治活动以及进行现代战争。如今，这些任务的主要限制是认知能力。一旦移除这一限制，将会改变世界。然而，全球领先的人工智能实验室中的许多人认为，这项技术可能在本十年结束前成为现实。

这可能对人类带来巨大的好处。但人工智能也可能极其危险，尤其是在我们无法控制它的情况下。不受控制的AI可能会侵入支撑世界运作的在线系统，并利用这些系统实现其目标。它可能访问我们的社交媒体账户，为大量人群定制操纵信息。更糟糕的是，负责核武器的军人可能被AI操控，泄露他们的凭证，从而对人类构成巨大的威胁。通过加强世界对恶意在线行为者的防御，使这些事情发生的可能性尽可能变小，这将是一个建设性的步骤。但当AI能够说服人类时，它在这方面已经比我们更出色了，目前还没有已知的防御措施。

出于这些原因，许多AI实验室如OpenAI、谷歌DeepMind和Anthropic，以及关注安全的非营利组织的AI安全研究人员，已经放弃了试图限制未来AI行动的努力。他们转而专注于创建“对齐的”或本质上安全的AI。对齐的AI可能会变得足够强大，可以灭绝人类，但它不应该有这样的意愿。

关于对齐AI存在很大的疑问。首先，对齐的技术部分是一个尚未解决的科学问题。最近，一些在对齐超人类AI方面工作的顶尖研究人员因不满而离开了OpenAI，这一举动并未带来信心。其次，不清楚超智能AI会与什么对齐。如果是学术价值体系，如功利主义，我们可能很快会发现大多数人类的价值观实际上与这些高高在上的理念不符，然后这种不可阻挡的超智能可能会永远违背大多数人的意愿行事。如果对齐的是人们的实际意图，我们需要某种方法来汇总这些非常不同的意图。虽然理想化的解决方案如联合国理事会或AI驱动的决策汇总算法是可能的，但令人担忧的是，超智能的绝对权力会集中在极少数政客或CEO手中。这对所有其他人类来说当然是不可接受的，也是直接的危险。

拆除定时炸弹

如果我们找不到至少保证人类免于灭绝的办法，更不用说避免对齐的反乌托邦，那么就不应该创造可能变得不可控的AI。这一解决方案，即推迟实现人类水平或超智能AI，直到我们解决了安全问题为止，其缺点是AI的宏大承诺——从治愈疾病到创造巨大的经济增长——将需要等待。

暂停AI对某些人来说可能看起来是一个激进的想法，但如果AI继续改进，而我们没有达到令人满意的对齐计划，这将是必要的。当AI的能力达到接近接管的水平时，唯一现实的选择是政府强制要求实验室暂停开发。否则就是自杀行为。

暂停AI可能并不像一些人所说的那样困难。目前，只有相对少数的大公司有能力进行领先的训练，因此暂停的执行主要取决于政治意愿，至少在短期内是这样。然而，从长期来看，硬件和算法的改进意味着暂停可能被认为难以执行。在国家之间需要执行，例如通过条约，国内也需要执行，通过严格的硬件控制等步骤。

与此同时，科学家需要更好地了解风险。尽管学术界普遍关注，但尚未达成共识。科学家们应在新的国际高级AI安全报告中正式提出他们的共识点，并展示其观点偏离的地方和原因，这应发展为“政府间气候变化专门委员会”的AI风险版本。领先的科学期刊应进一步开放对存在风险研究的讨论，即使这些研究看起来是推测性的。未来没有数据点，但前瞻性思考对AI来说与对气候变化一样重要。

政府在AI的发展中起着巨大的作用。这首先要正式承认AI的生存风险，如美国、英国和欧盟已经做的那样，并设立AI安全机构。政府还应草拟应对最重要的、可预见场景的计划，以及如何处理AGI的许多非生存问题，如大规模失业、失控的不平等和能源消耗。政府应公开其AGI战略，允许科学界、行业和公众进行评估。

在主要AI国家在每半年一次的AI安全峰会上进行建设性讨论是一个重大进展，包括5月21日至22日在首尔举行的一次会议。然而，这一过程需要得到保护和扩展。在所有28个受邀国家表达共同关切的基础上，共同就AI的存在风险达成共识已经是朝这个方向迈出的重大进展。除此之外，还需要达成一些相对容易的措施，例如创建许可制度、模型评估、跟踪AI硬件、扩大AI实验室的责任，并将受版权保护的内容排除在训练之外。需要设立一个国际AI机构来监督执行。预测科学进步本质上是困难的。然而，超人类AI可能比本世纪的其他任何事物对我们的文明产生更大的影响。简单地等待定时炸弹爆炸不是一个可行的策略。让我们尽可能明智地利用我们拥有的时间。

新闻来源：Time Magazine          作者：OTTO BARTEN

编辑：Audrey

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）