
據TechCrunch報道,州參議員威善高(Scott Wiener)周三對其SB 53法案提出修正案,要求全球大型AI公司公佈安全協議,並在發生安全事故時發佈報告。
如果該法案簽署成為法律,加州將成為第一個在實質上對AI開發商提出透明度要求的州。這些AI公司很可能包括OpenAI、Google、Anthropic和xAI。
州參議員威善高之前的AI法案SB 1047也要求AI模型開發商公佈安全報告。然而,矽谷對該法案進行了猛烈的反擊,提案最終被州長紐森否決。州長隨後呼籲一群AI領袖成立一個政策小組,為加州的AI安全工作設定目標。小組成員包括史丹福大學的頂尖研究人員兼World Labs的共同創辦人李飛飛。
加州的AI政策小組最近公佈了其最終建議,指出需要「要求產業公佈其系統的相關資訊」,以建立「健全且透明的證據環境」。威善高辦公室在新聞稿中表示,SB 53的修正案深受這份報告的影響。
威善高在新聞稿中表示:「法案仍在推進中,我期待在未來州與所有利害關係人合作,完善這項提案臻於最科學、最公平的法律。」
SB 53旨在達到州長紐森稱SB 1047未能實現的平衡,即在理想情況下,對大型AI開發商提出有意義的透明度要求,同時不阻礙加州AI產業的快速發展。
非牟利的AI安全組織Encode的州事務副總裁凱爾文(Nathan Calvin)受訪時表示,「這是我的組織和其他組織一直在討論的問題。讓公司向公眾和政府解釋他們正在採取哪些措施來應對這些風險,是最起碼的、合理的舉措。」本報訊