據彭博社報道，面對人工智能(AI)發展迅速，州參議員威善高(Scott Wiener)提出法案，擬對大型AI公司的運作進行規範。但法案觸發政治角力戰，引起矽谷風投家、科技企業創辦人和基層員工的憂慮，關注AI風險的紐森也警告小心對AI規範過多。
威善高提出的SB1047法案，旨在對有一定規模的AI公司執行其辦公室所形容的「符合邏輯的安全標準」。這份上月獲州參院通過的法案，將規定AI公司採取步驟，避免其模型造成「嚴重傷害」，確保AI系統可以被停止，又會在州科技局下增設「前沿模型部」(Frontier Model Division)，AI公司需向新部門申報相關其合規工作。若公司沒有遵守規定，可被起訴和處以民事罰款。
由於聯邦層面缺乏AI法規，越來越多州自行立法規範。鑑於加州是OpenAI和Anthropic等不少大型AI公司總部所在地，加州立法可謂舉足輕重，對這些企業和全國相關政策的制定或許帶來即時影響。
法案獲兩名一直對AI對人類生存威脅直言不諱的AI先驅辛頓(Geoffrey Hinton)和本吉奧(Yoshua Bengio)背書。辛頓認為，這份法案「採取了非常明智的方法來平衡這些憂慮」。但法案也遇上重大阻力，預示了若國會對AI推動更嚴格立法，恐在全國舞台上出現反撲。
反對者憂慮法案可能會給開發人員帶來難以承受的負擔，特別是對編寫代碼讓任何人審查和修改的開源開發人員，以保證他們的服務不會被不法分子誤用。他們也對新成立的「前沿模型部」可能的越權行為表示警惕。
20名工程師、創辦人和研究員早前參與三藩市一場名為「為開源奮鬥」(Fight for Open Source)的活動，許多人對法案感到擔憂。三藩市科技公司GitHub日前一場針對法案、威善高也有參加的市民大會上，也有不少科技業員工提出許多尖銳問題。多個科技產業組織對法案也表達反對。
威善高重申他支持AI，透露他已修改法案以回應部份外界疑慮，例如釐清開源開發人員對AI任何不當應用毋須負責等，強調立法目的是「安全和保持創新」。
紐森日前出席活動時談及AI風險，同時警告不要過度規範AI，「否則我們可能把自己置於危險境況」。
法案將於8月底交付州眾院全院表決。本報訊
