北京前瞻人工智慧安全與治理研究院近日成立。該研究院是一家新型研發機構，將聯合相關創新主體，共同開展人工智慧安全研究與治理實踐，積極構築全球化交流平台，建立健全覆蓋技術研發、風險評估、倫理審查、應急處置的全鏈條安全治理體系。
「人工智慧的發展給全社會帶來前所未有的機遇與變革。我們在經歷、體驗與感受的同時，對於人類、智能與智慧也進行著更深刻的反思。」北京前瞻人工智慧安全與治理研究院院長曾毅表示，當下，人工智慧技術帶來的隱私侵犯、虛假信息、人工智慧幻覺、偏見歧視、自主系統風險等隱患，讓人工智慧安全與治理問題與社會中的每一個人息息相關，「社會無法接受缺乏方向盤和韁繩的人工智慧無序野蠻狂奔，安全、倫理與治理將促進人工智慧的穩健發展。」
在此視角的基礎上，北京人工智慧安全與治理實驗室、人工智慧安全與超級對齊北京市重點實驗室、人工智慧安全與標準北京市重點實驗室等實驗室、研究機構，共同推進著北京市人工智慧安全與治理前沿研究的協同創新。
其中，作為研究院的前身，北京人工智慧安全與治理實驗室於2024年9月揭牌。該實驗室經過半年多的籌建與運行，近日，經北京市民政局批複，北京市經信局作為主管單位，北京前瞻人工智慧安全與治理研究院成立，落戶於中關村門頭溝園「京西智谷」。曾毅介紹，該研究院將服務於人工智慧產業發展和安全治理的近期與長遠需求，通過開展人工智慧安全與治理相關前沿基礎理論研究、關鍵技術研發、標準規範制定、平台工具構建與服務，有效監測和防範人工智慧的技術和社會風險，為企業、社會和政府提供人工智慧安全護欄與安全人工智慧模型與服務。
來源：北京日報客戶端
記者：劉蘇雅
