加州州长有机会在人工智能领域创造历史

Vox9月2日报道，倡导者称这是一项适度的法律，为人工智能设定了“清晰、可预测、常识性的安全标准”。反对者则认为这是一个危险且傲慢的举措，将“扼杀创新”。

无论如何，加州州长斯科特·维纳（Scott Wiener）提议的SB 1047——一项旨在规范在加州运营的公司提供的先进AI模型的提案——已在加州众议院以48票对16票的差距通过。今年5月，该提案在参议院以32票对1票获得通过。一旦参议院同意对该法案的修订（预计很快会达成），该法案将提交给加州州长加文·纽森（Gavin Newsom）签署。

该法案将使AI公司对其“前沿”模型可能造成的灾难性伤害负责，得到了广泛的AI安全组织的支持，以及像杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）和斯图尔特·拉塞尔（Stuart Russell）等领域知名人士的支持，他们曾警告过这种技术可能对人类造成巨大甚至存在性威胁。意外的是，埃隆·马斯克（Elon Musk）也在最后时刻给予了支持，他除了其他业务外，还经营着AI公司xAI。

反对SB 1047的几乎是整个科技行业，包括OpenAI、Facebook、强大的投资者Y Combinator和Andreessen Horowitz，以及一些担心其威胁开源AI模型的学术研究者。另一家AI巨头Anthropic则游说削弱该法案。在8月采纳了其许多提案后，该公司表示，法案的“好处可能大于成本”。

尽管行业反对声浪不断，该法案似乎在加州民众中颇受欢迎，尽管所有关于该法案的调查都是由相关方资助的。支持法案的AI政策研究所最近的一项民意调查显示，70%的居民支持该法案，其中在科技行业工作的加州人支持率更高。加州商会委托的一项调查发现，反对该法案的加州人占多数，但该调查的措辞至少可以说是有偏向性的，将法案描述为要求开发者“如果不遵守州官员的指令，就需支付数千万美元的罚款”。AI政策研究所的调查展示了支持和反对的论点，而加州商会只提供了反对的论点。

法案在众议院和参议院通过的广泛两党支持，以及（在没有偏见的情况下）公众的普遍支持，可能表明州长纽森有可能签署该法案。但情况并非如此简单。Andreessen Horowitz，这家拥有430亿美元的风险投资巨头，已聘请纽森的密友和民主党活动家杰森·金尼（Jason Kinney）来游说反对该法案。包括八名加州的美国众议员和前众议院议长南希·佩洛西在内的一些有权势的民主党人士也呼吁否决该法案，反映了科技行业的立场。

因此，纽森有很大的可能性会否决该法案，这将使加州——AI行业的中心——无法成为第一个拥有严格AI责任规则的州。争夺的不仅仅是加州的AI安全，还可能是美国乃至全球的AI安全。

SB 1047的内容

为了吸引如此激烈的游说活动，人们可能会认为SB 1047是一项激进的、强硬的法案——但特别是在经历了几轮修订后，实际的法律内容相对较少。

该法案将为科技工作者提供举报保护，并建立一个程序，允许掌握AI实验室风险行为机密信息的人在没有惩罚担忧的情况下将投诉提交给州检察长。它还要求那些花费超过1亿美元用于训练AI模型的公司制定安全计划。（这一要求的异常高门槛旨在保护加州的创业公司，因其认为遵守这一要求的负担对小公司来说过于沉重。）

那么，这项法案到底有什么内容可能引发数月的恐慌、加州商业界的强烈游说和加州联邦代表的前所未有的干预呢？部分原因在于，该法案曾经更加强硬。法案最初的版本以计算能力为合规门槛，这意味着随着计算机成本的降低（以及计算能力的提高），越来越多的公司将会受此法律约束。它还将设立一个名为“前沿模型部”的州政府机构来审查安全计划；行业对此被认为是权力扩张表示反对。

另一部分原因在于，很多人被错误地告知该法案做了更多的事情。一位知名批评者错误地声称，AI开发者可能会因为涉及有害事件而被控重罪，但实际上该法案只有在开发者明知作伪证时才会涉及刑事责任。（这些条款后来已被删除）。国会代表佐伊·洛夫格伦（Zoe Lofgren）在反对信中虚假地声称该法案要求遵守尚不存在的指导方针。

但这些标准实际上确实存在（完整标准可以在这里查看），而该法案并不要求公司遵守这些标准。法案仅要求“开发者应考虑行业最佳实践和来自美国人工智能安全研究所、国家标准与技术研究院、政府运营局和其他权威组织的相关指导”。

关于SB 1047的大量讨论不幸地集中在了这些直接错误的主张上，许多提出这些主张的人本应更为了解事实。

SB 1047的核心思想是，未来的AI系统可能极其强大，因而可能带来危险，需要一些监管。这一核心命题在AI研究者中极具争议。最能体现这种分歧的是被称为“机器学习教父”的三位Turing奖得主——约书亚·本吉奥（Yoshua Bengio）、杰弗里·辛顿（Geoffrey Hinton）和扬·勒昆（Yann LeCun）。本吉奥和辛顿近年来都坚信他们创造的技术可能会危及人类，并呼吁对AI进行监管和监督。辛顿在2023年辞去了谷歌的职务，以公开表达他的担忧。

相反，Meta的首席AI科学家勒昆则采取了相反的立场，宣称这些担忧是无稽之谈的科幻小说，并认为任何监管都会扼杀创新。正因为本吉奥和辛顿支持该法案，而勒昆则反对它，尤其是反对AI公司在大规模伤亡事件中承担责任的想法，这使得SB 1047成为象征性的拉锯战的中心：政府是否认真对待AI安全问题？尽管法案的实际内容有限，但它在某种程度上表明政府正在倾听那些认为AI可能极其危险的一半专家，这意味着其潜在影响巨大。

正是这种情绪可能驱动了一些对该法案的最激烈的游说，像Marc Andreessen和Ben Horowitz这样的风险投资家，他们的公司a16z在不断努力阻止该法案，并对联邦立法者进行了一些非常规的外联，要求他们反对这项州法案。更平常的政治因素也可能发挥了作用：Politico报道说，佩洛西反对该法案是因为她试图争取科技风险投资者的支持，为她女儿竞选众议院席位铺路，她的女儿可能会与Scott Wiener竞选。

SB 1047的重要性

也许会觉得，仅仅一个州的立法为何引发如此多的关注。但请记住：加州不是普通的州。它是世界上几个领先AI公司的所在地。

发生在加州的事情尤其重要，因为在联邦层面，立法者在监管AI方面进展缓慢。由于华盛顿的犹豫和即将到来的选举，州级立法变得尤为关键。如果纽森批准该法案，加州的这项法案将成为美国整体监管方向的一块重要拼图。

全球也在关注这一进展。商务软件联盟首席执行官Victoria Espinel在6月对《纽约时报》表示：“世界各国都在关注这些草案，以获取对其AI法律决策的影响。”

即使中国——在美国关于AI发展的讨论中常被提及（因为“我们不想在与中国的军备竞赛中失败”）——也表现出对安全的关注，而不仅仅是想要跑在前面。像SB 1047这样的法案可以向其他国家传达出美国也关心安全的信息。

坦白说，看到立法者意识到科技界最爱用的伎俩——声称自己可以自我监管——是令人耳目一新的。这一主张可能在社交媒体时代曾经有效，但现在已经变得越来越站不住脚。我们需要监管大型科技公司，这不仅仅需要胡萝卜，还需要大棒。

纽森有机会做出历史性的一步。如果他不这样做？他也将面临一些制裁。AI政策研究所的民调显示，如果他否决SB 1047，60%的选民准备将未来AI相关事件的责任归咎于他。事实上，如果他参选更高的职位，40%的加州选民表示，如果他否决该法案，他们在未来的总统初选中投票支持他的可能性会降低。

新闻来源：Vox              作者：Swati Sharma

编辑：Audrey

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）