it之家 6 月 14 日消息，当地时间周四，纽约州议会通过一项旨在防范 ai 灾难的法案，要求 openai、谷歌和 anthropic 等前沿 ai 模型的开发者，必须避免出现造成百人以上伤亡或超过 10 亿美元损失的风险。
该法案名为 raise 法案，标志着 ai 安全阵营的一次胜利，更有杰弗里・辛顿和约书亚・本吉奥等重量级学者为法案背书。若最终成为法律，raise 将开创全美首部强制前沿 ai 实验室公开信息的法规。
raise 法案与加州曾被否决的 sb 1047 法案存在相似内容，但纽约州参议员 andrew gounardes 表示，raise 的设计更谨慎，避免打压初创企业或学术研究者，而这是 sb 1047 饱受批评的一点。“技术发展太快，我们设立防护机制的时间不多了。许多顶尖专家都指出 ai 风险极高…… 这不得不引起警觉。”
法案现已送交纽约州长 kathy hochul，等待其签署、修改或否决。
一旦生效，raise 法案将要求全球头部 ai 实验室必须披露其前沿模型的安全和保障措施，并在发生异常或被盗事件时及时上报。若企业未按规定执行，纽约州总检察长有权处以最高 3000 万美元（it之家注：现汇率约合 2.16 亿元人民币）罚款。
raise 法案的目标是对超大规模公司设限，无论总部在加州还是中国。法规适用于训练耗资超过 1 亿美元、并向纽约州用户开放模型的企业。
encode 高管 nathan calvin 表示，raise 法案更注重回应外界质疑。例如，它不要求设“紧急终止开关”，也不追责后期训练模型的公司。
