據外媒4月1日報道，openai公司已在義大利下線其人工智慧（ai）聊天機器人chatgpt。此前，義大利數據保護局garante已暫時禁用chatgpt，並對其涉嫌違反隱私規定展開調查。這讓義大利成為首個對chatgpt採取行動的西方國家。近日，ai技術的飛速發展已引發巨大爭議。分析認為，由於ai對安全、就業和教育的潛在影響，政府部門迅速介入並加強監管已成為當務之急。
義大利：暫時禁用
據報道，義大利暫時禁用chatgpt的直接原因是此前發生的一起數據泄露事件。
openai此前稱，他們不得不在3月20日讓chatgpt離線，修復一個允許查看其他用戶聊天記錄的程序錯誤。該公司還稱，調查發現，1.2% 的chatgpt plus用戶的個人信息可能泄露。
對此，義大利數據保護局garante3月31日稱，chatgpt平台已出現用戶對話數據和支付信息泄露的情況。該平台也缺乏法律依據，證明收集和存儲大量個人數據來訓練聊天機器人是正當的。
garante還稱，儘管openai聲稱chatgpt只面向13歲以上用戶，但平台缺乏能夠驗證用戶年齡的機制，讓未成年人接觸與自身發育程度和意識不匹配的答案。
garante要求openai必須在20天內回應並採取補救措施，否則將面臨最高2000萬歐元或公司全球年營業額4%的罰款。
對此，openai回應稱，目前已在網站設置限制，阻止義大利用戶訪問。openai還稱，公司正致力於在訓練ai系統時減少個人數據，他們希望讓ai系統更了解世界，而不是了解個人。在與garante密切合作後，公司期待很快在義大利再次推出chatgpt。
監管機構採取行動
輿論指出，義大利已成為首個對ai聊天機器人採取限制行動的西方國家。在其他國家和地區，ai技術的迅速發展也已引起監管機構的注意。
歐盟委員會發言人近日就表示，希望所有在歐盟活躍的企業都能遵守歐盟的數據保護規定，執行《通用數據保護條例》（gdpr）是歐盟數據保護當局的責任。
歐盟委員會執行副主席韋斯塔格則在社交媒體上稱，歐盟委員會正在討論ai法案，可能不會傾向于禁止ai，但無論使用何種技術，都必須以保護人們的權利為先。她認為，不應監管ai技術，而是應監管ai的使用，不要「在幾年內將花了幾十年才建立的東西扔掉」。
另據英國廣播公司（bbc）報道，愛爾蘭數據保護委員會也表示，正就後續行動與義大利數據保護局溝通，了解他們採取行動的相關依據，並將與歐盟其他數據保護機構就禁令進行協調。
英國獨立數據監管機構英國信息專員辦公室(ico)也表示，將支持ai的發展，但也準備挑戰那些不遵守數據保護條例的行為。3月29日，英國公布關於建立ai監管框架的提議，但稱將「避免可能扼殺創新的嚴厲立法」。
此外，包括摩根大通、高盛集團、花旗集團、德意志銀行、埃森哲在內的一批金融機構、諮詢公司和律師事務所也對員工使用chatgpt加以限制。這些公司擔心，員工將客戶信息上傳到chatgpt時，很可能會暴露敏感數據和信息。
「ai熱」擔憂加劇
自去年年底chatgpt在全球掀起一股ai「軍備競賽」以來，微軟、谷歌、meta、百度等科技公司均已加入賽道，試圖成為該領域的領跑者。
瑞銀此前發布的一項研究顯示，在推出僅兩個月後，chatgpt在今年1月的月活躍用戶就已達到1億，成為史上用戶增長最快的消費者應用。
然而，隨著ai技術的發展和應用，背後的風險也已浮出水面。在義大利叫停chatgpt之際，人們對「ai熱」的擔憂正日益加劇。
近日，包括特斯拉創始人馬斯克、圖靈獎得主約書亞·本吉奧(yoshua bengio)在內的1000多名科技界大佬和ai業內人士簽署聯名信，呼籲立即暫停研究比openai開發的gpt-4更強大的ai系統。
聯名信在業內外引發巨大爭議。有業內人士指出，ai的風險正在被誇大，說服各公司和研究人員一起按下「暫停鍵」也不現實。
但也有輿論指出，ai被濫用的趨勢值得警惕。ai很可能被惡意使用，被用來作弊、傳播錯誤信息或實施犯罪。
歐盟執法機構歐洲刑警組織此前就警告稱，chatgpt可能被用於網路釣魚、虛假信息和網路犯罪，引發對法律和道德問題的擔憂。
對此，分析認為，由於ai對國家安全、就業和教育的潛在影響，制定新的法規來監管ai已成為當務之急。
歐洲消費者組織（beuc）就呼籲歐盟和各國政府的數據保護機構迅速調查chatgpt和其他聊天機器人。
歐洲消費者組織稱，儘管歐盟目前正在制定全球首個ai法案，但這可能需要多年時間才能落地，這將讓消費者因監管不力面臨風險，受到ai技術的傷害。
瑞典于默奧大學ai研究員約翰娜·比約克隆德（johanna björklund）則指出，openai等公司並未提供有關如何訓練ai模型的細節，但缺乏透明度是真正的問題所在，「如果你進行ai研究，應該對如何做到這一點非常透明」。
（編輯郵箱：[email protected]）
