英國在舊金山設立辦公室以應對 AI 風險

劃重點:

⭐️ 英國成立人工智慧安全研究所，旨在評估和解決人工智慧平台的風險。

⭐️ 人工智慧安全研究所將在舊金山設立第二個辦公地點，以加強與人工智慧公司的合作。

⭐️ 人工智慧安全研究所發布首個工具集 inspect，用於測試基礎人工智慧模型的安全性。

站長之家（chinaz.com）5月20日 消息:英國將在本周晚些時候於首爾舉辦的人工智慧安全峰會之前擴大自己在該領域的努力。設立了一個雄心勃勃的目標，即評估和解決人工智慧平台的風險的英國人工智慧安全研究所表示，將在舊金山開設第二個辦公地點。

圖源備註:圖片由ai生成，圖片授權服務商midjourney

該舉措旨在讓英國更加接近當前人工智慧開發的中心地帶。英科學、創新和技術國務大臣米歇爾・多納倫在接受 採訪時表示:「在舊金山設立辦公室，將使他們能夠接觸到許多人工智慧公司的總部。其中許多公司在英國也設有基地，但我們認為在那裡設立一個基地也將非常有用，可以接觸到更多的人才，並能夠更加緊密地與美國合作。」

人工智慧安全研究所是一個相對規模較小的機構，目前僅有32名員工。該組織最引人注目的進展之一是本月早些時候發布的 inspect，這是用於測試基礎人工智慧模型安全性的第一個工具集。

多納倫表示，人工智慧安全研究所仍在努力制定最佳的方式與人工智慧公司合作進行評估。她說:「我們的評估過程本身就是一門新興科學。因此，對每一個評估，我們將不斷改進這個過程。」

此外，英國首相里希・蘇納克表示，英國將在未來制定更多的人工智慧立法，但在更好地理解人工智慧風險的範圍之前，將抵制立法。多納倫表示:「我們認為在制定法律之前，我們必須完全理解情況。而且法律在英國大約需要一年的時間。如果我們在開始人工智慧安全峰會時剛開始制定法律，那麼現在我們仍在制定法律，而我們實際上並沒有任何結果可以展示出來。」

伊恩・霍加斯表示:「自研究所成立的第一天起，我們一直強調採取國際化的方式對待人工智慧安全問題，分享研究成果，並與其他國家合作測試模型並預見前沿人工智慧的風險。」