一项旨在规范强大的生成式人工智能模型的法案正在加利福尼亚州取得进展，尽管遭到了一些公司和民选代表的反对，他们担心这种规范可能会扼杀这项新生技术。ChatGPT的创建者OpenAI率先表示反对SB1047法案，认为在人工智能革命刚刚开始之际，该法案有可能将创新者赶出美国加州及其著名的硅谷。
OpenAI本周致信该法案的发起人、民主党人斯科特-维纳，信中补充说，OpenAI认为全国性立法要优于零敲碎打的法规。加利福尼亚州议会将在本月底前对该提案进行表决，如果提案获得通过，将由州长加文-纽森做出决定。
他尚未公开表态，但民主党阵营在这个问题上并不团结。民主党最有影响力的发言人之一南希-佩洛西在一份声明中说，我们在国会中的许多人都认为，SB1047的初衷是好的，但却不明智。这位女议员补充说，我们希望加州以保护消费者、数据、知识产权等的方式走在人工智能的前沿SB1047对这一目标的伤害大于帮助。
该提案名为人工智能先驱模型安全创新法案，旨在防止大型模型引发重大灾难，导致大量人员死亡或随之而来的网络安全事件。不过，斯科特-维纳还是采纳了OpenAI的竞争对手、同样位于旧金山的初创公司Anthropic的建议，软化了原始文本。
与最初计划相比，当前版本赋予加州当局的权力较小，无法追究人工智能公司的责任或将其送上法庭。大规模人工智能模型的开发者必须测试他们的系统并模拟网络攻击，否则将被处以罚款，但不会有刑事后果的威胁。设立新监管机构的计划已被取消，但法律仍将设立一个委员会来确定最先进模型的标准。
斯科特-维纳在一份声明中说，由于国会在人工智能监管方面停滞不前，加州必须采取行动，在鼓励创新的同时，预见人工智能快速发展带来的可预见风险。生成式人工智能目前可以根据日常语言的简单查询生成精心制作的内容（文本、图像等）。但根据相关工程师的说法，它有可能走得更远，从而解决重大问题，但同时也会引发问题。
Anthropic周三在给加文-纽森的一封信中说，修订后的法案有了很大的改进，我们认为其效益可能超过了成本。被誉为人工智能教父的计算机科学家杰弗里-辛顿在为《财富》杂志撰写的一篇文章中强调说，功能强大的人工智能系统前景令人难以置信，但它们也带来了需要认真对待的现实风险。
他继续说，SB1047是平衡这些问题的一种非常合理的方法，他认为加州是开始监管这项技术的理想之地。然而，代表谷歌和Meta（Facebook、Instagram）的组织、斯坦福大学的著名研究人员李飞飞以及加州理工学院的教授和学生都对该法案表示反对。
加州理工学院教授阿尼玛-阿南德库马尔在X上说，它对人工智能的发展施加了繁重且不切实际的规定，因此对我们推进研究的能力构成了重大威胁。她认为，很难甚至不可能预见人工智能模型所有可能的有害用途，尤其是用户可以修改代码的所谓开源版本。该法案忽视了关注下游开发应用的重要性，也没有考虑到当前对人工智能模型固有问题的研究，如偏见和幻觉。
