歐洲議會通過《人工智能法案》：禁止AI利用人類弱點

it之家 3 月 13 日消息，歐洲議會今日以 523 票贊成、46 票反對、49 票棄權的壓倒性多數支持通過了《人工智能法案》，據悉，這項法案將會「具有里程碑意義」。

歐洲議會表示，該法案旨在保護基本權利、環境可持續性等方面免受「高風險人工智能」的影響，同時促進創新，以將歐洲「打造成為該領域的領導者」。

綜合界面新聞、bbc 報道，該法案將禁止一部分「威脅公民權利」的人工智能應用，包括基於敏感特徵的生物識別分類系統，以及從互聯網或閉路電視錄像中無目標地抓取面部圖像，以創建面部識別數據庫。此外，操縱人類行為或利用人類弱點的人工智能也將被禁止。

該法案將根據風險對產品進行分類並相應調整審查，其主要思想是根據人工智能對社會造成危害的能力對其進行監管：風險越高，規則就越嚴格。

「對基本權利構成明顯風險」的 ai 應用程序將被禁止，例如一些涉及生物識別數據處理的應用程序。

被視為「高風險」的 ai 系統，例如用於關鍵基礎設施、教育、醫療保健、執法、邊境管理等領域的人工智能系統，必須遵守嚴格的要求。

垃圾郵件過濾器等低風險服務將面臨「最寬鬆」的監管（it之家註：歐盟預計大多數服務都屬於此類）。

該法案還制定了一系列條款，以應對支持生成式 ai 工具和聊天機械人（例如 openai 的 chatgpt）的系統所帶來的風險：要求「所謂的通用人工智能系統」生產者對用於訓練模型的材料保持透明，並遵守歐盟《版權法》。