加州要亲手扼杀AI创新？硅谷为此吵翻了天

　　AI是否应该监管，应该怎样监管？是能避免灾难，还是扼杀创新？围绕着加利福尼亚州议会的一项AI监管法案，硅谷已经为此吵翻了天。

　　泰斗专家力挺监管立法

　　上周三，一群在计算机领域声名显赫的功勋学者教授们联名签署了一封公开信，支持加州议会一项AI安全监管法案。他们将这封信分别送至加州政府的三个机构负责人：加州州长纽森（Garvin Newsom）、加州参议院与众议院的两位议长。

　　签署这封联名信的学者教授都在人工智能领域作出了奠基性的研究，尤其是在神经网络和深度学习方面作出了杰出贡献，在计算机科学领域享有极高的地位。他们的意见会受到美国政府以及整个AI行业的重视与尊重。

　　他们包括被誉为“人工智能之父”的加拿大科学家杰弗里·辛顿（Geoffrey Hinton）、被誉为“深度学习之父”的加拿大蒙特利尔大学计算机科学教授约书亚·本吉奥（Yoshua Bengio）、撰写最早AI教材的加州伯克利大学计算机科学教授斯图亚特·罗塞尔（Stuart Russell）以及互联网立法专家、哈佛大学法学教授劳伦斯·赖斯格（Lawrence Lessig）。

　　一项加州的法案为什么会让这些泰斗级人物如此关注和担忧？这项《前沿人工智能模型安全可靠创新法》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，又称SB 1047）目前已经通过了加州参议院和众议院相关委员会的表决，即将送至两院正式表决。如果投票通过，交由加州州长纽森签字，就会成为正式法律。

　　这些大名鼎鼎的教授们表示，如果缺乏足够的重视与监管，下一代AI系统的研发可能会存在严重风险，他们认为加州这一法案是有效监管这一技术的最基本要求。“目前缺乏对AI系统的监管，这可能会产生严重的灾难风险”。

　　“作为最了解AI系统的专家，我们可以自信地说，（AI带来灾难）的风险是很可能存在的，而且足够严重，有必要制定相关安全检测和预防措施。我们担心科技公司在追求市场份额和利润最大化的过程中，无法自己化解这些系统性风险。因此需要对这些处于AI赛道前沿的公司制定规则”，他们在公开信中写道。

　　这已经不是辛顿和本吉奥这两位AI行业的泰斗第一次公开支持SB 1047法案了。此前他们就曾经站出来支持加州立法监管AI。此次发表公开信的背景是，加州AI监管法案SB 1047遭受了诸多AI行业人士以及学者专家的反对，这两位图灵奖获得者认为自己有必要再次公开表态，立场鲜明地支持加州政府这一立法。

　　李飞飞吴恩达反对过度监管

　　的确，有不少计算机科学的专家公开反对目前的AI监管法案，尤其是与硅谷科技公司关系密切的学者。斯坦福计算机教授、视觉识别专家李飞飞上周在《财富》杂志发表评论文章，立场鲜明地反对加州这一监管法案；认为这一法案会带来意想不到的后果，扼杀AI领域的创新。

　　她表示，如果SB 1047成为法律，将伤害到新生的AI生态系统，尤其是目前那些与科技巨头相比已经处于不利地位的部分：公众领域、学术以及小科技。“SB 1047会毫无必要地惩罚开发者，扼杀我们开源社区，阻碍学术AI研究，而无法真正解决原先想要解决的问题。”

　　李飞飞称自己并不反对AI治理，但AI监管政策必须支持开源开发，提出统一与合理的规则，而SB 1047并未达到这一标准。李飞飞表示，希望可以与加州议员们携手合作，共同制定AI监管立法。“加州是AI的心脏，加州的发展决定了整个美国的未来。”

　　李飞飞的同事、斯坦福计算机科学教授吴恩达虽然没有言辞激烈的表达反对意见。他也委婉地表示，作为AI研发者，这个法案的很多条款会让自己无所适从。

　　在计算机科学领域，许多专家学者都和产业公司有着诸多交集和关联。李飞飞曾经在谷歌云担任首席科学家，而辛顿也曾经在Google Brain部门任职长达十年。吴恩达更曾在谷歌和百度工作多年，是谷歌深度学习部门的创办者之一。

　　AI监管立法势在必行

　　自从今年2月加州议会正式提出这个法案之后，硅谷就围绕着AI监管的问题吵翻了天。站在不同的立场与利益上，学者专家、政府要员、行业巨头们都有着截然不同的意见。

　　这个法案是由代表旧金山地区的加州参议员斯科特·维纳（Scott Wiener）提出。法案要求加州的AI公司在训练大模型时要进行严格的安全测试，以避免可能存在危险的功能，并且实施完善的安全措施，以降低造成灾难的风险。

　　SB 1047在加州立法讨论过程中进展顺利，并没有多少议员站出来表示反对。因为此前David Binder的民意调查显示，高达77%的加州选民支持对AI进行立法，更有55%的选民强烈支持对AI公司进行强制安全检测。

　　需要指出的是，这一法案只面向那些在AI大模型研发投入超过1亿美元的公司，这差不多也是热门企业和小创业公司的研发投入分水岭，正好就是GPT-4o的训练成本。按照这个标准，谷歌、Meta、Open和Anthropic等AI领域的知名公司都在监管范围之内。

　　而且，无论这些AI公司总部在不在加州，只要他们在加州有业务，就会受到监管。因此，马斯克的xAI就算未来搬家到德州，也一样会受到这个法案的束缚，因为他们几乎不可能在研发和业务方面完全脱离加州。

　　此前数据公司Collibra委托市场调查公司Harris Poll对美国300名数据管理与网络隐私方面的从业人员进行了调查。结果显示，几乎所有的受访者（99%）都认可政府应该对AI技术可能带来的威胁进行监管。

　　在AI可能带来的风险中，64%的受访者强调了隐私问题和安全性，57%的受访者提到了虚假信息问题。81%的受访者认为，很多互联网服务公司都把用户当成有价值的商品，科技公司应该为使用用户信息训练AI大模型付费。

　　虽然美国国会以及拜登政府从去年就开始研究如何对AI进行监管，负责反垄断的联邦贸易委员会（FTC）已经更是多次调查OpenAI、微软和谷歌等公司在AI领域的操作；不过，因为目前正值美国大选最激烈的阶段，两党已经无暇顾及国会立法上，AI监管立法或许只能交给明年上台的新一届政府和国会了。

　　据数据行业机构透明联合会（Transparency Coalition）统计，美国各地已经有400多个与AI相关的法案正在拟定。在加州，除了SB 1047法案之外，还有30个与AI相关的法案正在立法初期讨论阶段，主要涉及保护知识产权、阻止AI色情内容、保护儿童数据等相关方面。

　　加州并不是美国第一个立法监管AI的州。此前科罗拉多州和犹他州通过了相关的监管法律，但是他们的监管范围都明显弱于加州的SB 1047法案。更为重要的是，大多数AI公司都设在加州，因此加州这一法案将对AI行业带来深远的影响。

　　硅谷AI行业强烈反对

　　在SB 1047的监管对象层面，大多数硅谷AI公司和创投行业都对这一法案提出了反对意见和担忧情绪，Meta、谷歌、微软等巨头也在通过自己的游说能力，希望促使维纳修改法案或是阻止法案在加州议会通过。

　　微软在公开信中表示，支撑这个法案监管架构的根基都尚未到位，（贸然通过法律）可能会让AI领域错失投资、带来误导性的结果，还会让行业失去专注资源进行研发的机会。

　　硅谷最有影响力的风投机构安德森·霍洛维茨（Andreessen Horowitz）则指出，这法案设置了一个不可能完成的要求，（如果这一法案通过），大多数创业公司都只能选择搬迁到对AI行业更为友善的州。安德森·霍洛维茨的两位创始人在今年美国大选中都立场鲜明地支持共和党候选人特朗普，批评民主党政府的诸多政策损害了美国经济。

　　知名AI创业公司Anthropic上个月底致函维纳，表明他们不支持目前的监管法案，并提出了诸多改进意见，希望与维纳进行对话。Anthropic希望法案可以缩小范围，专注于让AI公司为造成的灾难承担责任，而不是强行规定AI公司应该采取哪些措施来阻止灾难。

　　Anthropic认为，监管部门应该让AI行业自己决定安全措施，惩罚那些造成严重后果的企业，而不该从一开始就出台各种繁琐安全措施，让AI公司在创新研发时束手束脚。

　　AI行业对SB 1047法案的反对意见主要集中在强制要求开发者必须提供合理可靠的保证，确保AI大模型不会带来不合理的风险，造成严重的损害，例如会被滥用打造大规模杀伤性武器，或是给关键基础设施带来损害。

　　按照目前法案规定，加州司法部可以起诉那些没有制定合适的安全措施并且造成灾难后果的AI公司。在法案提到的灾难后果中，包括了开发可以帮助打造或使用“生化辐射或核武器”的技术，以及给关键基础设施带来超过5亿美元的损失。

　　旧金山担忧AI公司逃离

　　有趣的是，旧金山是美国AI领域的创新地，Open和Anthropic等诸多AI创业公司都集中在这里，而且还在不断扩张增长。结果反而是来自旧金山的议员率先提出法案，要求立法监管限制自己选取的这些AI公司。

　　维纳的这一法案提出之后就引发了旧金山的热议，支持者和反对者各持一词，而且各有说法。很多人担心AI监管法案会打压正在高速增长的AI行业，进一步损害到本就处于低谷的旧金山经济。

　　旧金山经济严重依赖于科技行业。2021年的统计数据显示，旧金山有将近五分之一的（18.7%）雇员都工作于科技行业。然而，过去几年由于日益糟糕的治安状况，越来越多的科技公司选择搬离旧金山，还带走了大型会展活动，给旧金山经济带来了严重打击。最近一个选择搬走的科技公司是马斯克的X（此前的推特）。商业地产公司CBRE的数据显示，今年第二季度旧金山市区的写字楼空置率已经高达36.8%，创下了历史新高。

　　在这样的整体萧条景象下，AI却是旧金山为数不多还在增长的亮点行业。OpenAI、Anthropic等大多数AI创业公司的总部都在旧金山。在AI大潮的推动下，今年第一季度AI行业新租赁了旧金山超过100万平方英尺（9.9万平方米）的写字楼，让整个行业的租赁面积超过了340万平方英尺（31.6万平方米）。

　　曾在2018年担任旧金山市长、并在今年再次参选市长的法瑞尔（Mark Farrell）公开表示，这个法案可能会扼杀新兴的AI产业，杀死旧金山脆弱科技行业经济的希望。他呼吁应该把AI监管的职责交给联邦政府，让旧金山专注于AI等科技创新，而不是给科技公司继续离开旧金山的理由。

　　硅谷最具影响力的创业训练营Y Combinator的CEO陈嘉兴（Garry Tan）一直鼓励创业公司落户旧金山，但他也在不断批评旧金山乃至加州政府的诸多政策。陈嘉兴表示，SB 1047法案可能会严重损害加州留住AI人才、吸引AI公司的能力。

　　营造恐慌和危言耸听？

　　虽然遭到硅谷AI行业的强烈抵制，但看起来，SB 1074在加州立法通过的可能性越来越大，而且很多支持者并不相信这个法案会扼杀AI行业的创新。

　　非盈利网络权益保护机构Encode Justice表示，硅谷科技行业认为监管会迫使创新离开加州，这种说法是误导性和危险的，SB 1047法案只面向那些投入上亿美元用于AI模型研发的公司，大多数创业公司都不会受到影响。

　　SB 1074法案的提出者维纳称，认为AI监管法案会杀死AI行业的说法是在营造恐慌和危言耸听。他表示，自己是AI的拥护者，也为旧金山成为AI创新中心而深感骄傲。

　　今年7月底，维纳专门来到YC旧金山总部，面对诸多AI创业者和研发人员解释法案。他表示，外界对AI监管法案有着太多传言和夸张之处，包括“如果AI技术被滥用，研发者可能会因此坐牢”的说法都是谣言。但是他并没有得到听众的多少认同。

　　显然，维纳并不相信为科技公司会因为监管离开硅谷。他还提到，目前科技公司对AI监管法案的抵制态度，让他想到了2018年加州出台互联网数据隐私法案的状况。

　　“当时科技公司也是说，那个法案会迫使互联网公司离开加州，但现在科技公司还在加州，而且正在强劲增长，而我们现在有了更加保护消费者的数据隐私法律。”

　　维纳对硅谷的科技创新地位充满信心。此前马斯克宣布要把X搬离旧金山的时候，维纳就站出来公开嘲讽马斯克是“装模作样”罢了。因为特斯拉就算总部搬到了德州，也离不开硅谷的科技人才，不得不在硅谷设立了“工程总部”，而且在整体裁员的同时，还在硅谷不断招聘。