it之家 6 月 14 日消息，當地時間周四，紐約州議會通過一項旨在防範 ai 災難的法案，要求 openai、谷歌和 anthropic 等前沿 ai 模型的開發者，必須避免出現造成百人以上傷亡或超過 10 億美元損失的風險。
該法案名為 raise 法案，標誌着 ai 安全陣營的一次勝利，更有傑弗里・辛頓和約書亞・本吉奧等重量級學者為法案背書。若最終成為法律，raise 將開創全美首部強制前沿 ai 實驗室公開信息的法規。
raise 法案與加州曾被否決的 sb 1047 法案存在相似內容，但紐約州參議員 andrew gounardes 表示，raise 的設計更謹慎，避免打壓初創企業或學術研究者，而這是 sb 1047 飽受批評的一點。“技術發展太快，我們設立防護機制的時間不多了。許多頂尖專家都指出 ai 風險極高…… 這不得不引起警覺。”
法案現已送交紐約州長 kathy hochul，等待其簽署、修改或否決。
一旦生效，raise 法案將要求全球頭部 ai 實驗室必須披露其前沿模型的安全和保障措施，並在發生異常或被盜事件時及時上報。若企業未按規定執行，紐約州總檢察長有權處以最高 3000 萬美元（it之家註：現匯率約合 2.16 億元人民幣）罰款。
raise 法案的目標是對超大規模公司設限，無論總部在加州還是中國。法規適用於訓練耗資超過 1 億美元、並向紐約州用戶開放模型的企業。
encode 高管 nathan calvin 表示，raise 法案更注重回應外界質疑。例如，它不要求設“緊急終止開關”，也不追責後期訓練模型的公司。
