加州州长否决有争议的人工智能安全法案

　　加州州长加文·纽森否决了有争议的《前沿人工智能模型安全创新法案》（简称 SB 1047）。

　　该法案将是首批要求人工智能开发人员对其技术造成的任何严重损害负责的法案之一，引起了一些知名民主党人和主要科技公司的激烈批评，包括ChatGPT的开发者OpenAI和风险投资公司安德森·霍洛维茨（Andreessen Horowitz），他们警告说，这可能会阻碍加州的创新。

　　纽森在一份声明中表示，这项立法是“善意的”，但将“对最基本的功能实施严格的标准”。他说，监管应该基于“经验证据和科学”，指出他自己关于人工智能的行政命令和他签署的其他法案，这些法案围绕已知风险（如深度造假）对技术进行监管。

　　围绕加州SB 1047法案的辩论突显出，世界各地的立法者在控制人工智能风险的同时，也在支持这项新兴技术方面面临着挑战。自两年前ChatGPT的发布引发全球生成式AI热潮以来，美国政策制定者尚未就这项技术通过任何全面的立法。

　　提出该法案的加州民主党参议员斯科特·维纳（Scott Wiener）称，纽森的否决“对所有相信监管大公司的人来说都是一个挫折”。在社交平台X上发布的一份声明中，维纳说：“结果是我们都不那么安全了。”

　　SB 1047法案将要求开发强大AI模型的公司采取合理的措施，确保他们的技术不会造成“严重伤害”，比如大规模伤亡或5亿美元以上的财产损失。企业将不得不采取具体的预防措施，包括维护一个可以关闭其技术的开关。人工智能模型也将接受第三方测试，以确保它们将严重风险降至最低。

　　该法案还将为希望分享安全担忧的AI公司的员工提供举报人保护，不遵守该法案的公司可能会被加州司法部长起诉。

　　该立法的支持者表示，将创造常识性的法律标准。但风险投资者、初创企业领袖和OpenAI等公司警告称，这将减缓创新，并将人工智能公司赶出该州。

　　“人工智能革命才刚刚开始，加州作为全球人工智能领导者的独特地位正在推动该州的经济活力，”OpenAI首席战略官詹森·权（Jason Kwon）上个月在一封反对该立法的信中写道。“SB1047法案将威胁到这种增长，减缓创新的步伐，并导致加州世界级的工程师和企业家离开加州，到其他地方寻找更大的机会。”

　　纽森在宣布否决该法案时表示，他将咨询包括人工智能学者和企业家李飞飞在内的外部专家，为这项技术“制定可行的护栏”，并继续与州立法机构就这一主题进行合作。

　　纽森周日还签署了SB 896法案，该法案规定了州政府机构如何使用人工智能。