美聯社沙加緬度電
州議會月前通過立法，要求建立全國首批安全措施規範大型人工智能(AI)模型，但29日遭州長紐森否決，被認為對加州以至全國試圖控制近年急速發展的AI產業是一大打擊。
紐森本月初出席軟件企業Salesforce年度大會Dreamforce時表明，由於聯邦對AI的放任，加州必須領導規範AI的工作，但SB 1047法案「對產業會產生寒蟬效應」，且透過建立硬性要求來傷害這個出自加州的產業。
紐森指出，SB 1047「未考慮AI系統是否部署在高風險環境、涉及重要決策或敏感資料的使用」，反而「對大多數基本功能採取嚴苛標準」，不認為是保護公眾免受AI威脅的最佳方法。
法案由代表三藩市的州參議員威善高(Scott Weiner)提出，引發不少批評，包括來自AI新創公司、科企和普洛西等多名民主黨國會眾議員，認為法案恐「扼殺加州科技和創新」，妨礙AI開發人員投資大型AI模型或分享開源軟件。
包括電動車特斯拉創辦人馬斯克和AI新創公司Anthropic等支持者認為，法案可為大型AI模型注入一定程度的透明度和問責，因為開發人員與專家表示尚未完全掌握AI模型的行為方式。
法案要求公司測試它們的AI模型和對外公布其安全措施，以免AI模型對公共基建構成威脅或成為生化武器。有專家認為，隨著AI產業持續急速發展，這些情況都有可能發生。法案還保護舉發AI問題的員工。法案針對建造成本1億元以上的AI模型。雖然目前尚無AI模型達到這門檻，但專家認為明年就有可能。
對於法案被否決，威善高形容對每位相信對大企業進行監督的人來說是一種挫折。他認為，即使大型AI實驗室在監控和減輕AI相關風險上做出承諾，「事實上這些承諾無法執行，且對公眾缺乏良好效果」。
威善高認為，圍繞法案的討論已大幅推進AI安全相關議題，他將繼續強調這一點。
紐森同時宣布，加州將與反對SB1047的李飛飛等多名AI專家合作，為強大的AI模型建立防護措施。
