据外媒4月1日报道，openai公司已在意大利下线其人工智能（ai）聊天机器人chatgpt。此前，意大利数据保护局garante已暂时禁用chatgpt，并对其涉嫌违反隐私规定展开调查。这让意大利成为首个对chatgpt采取行动的西方国家。近日，ai技术的飞速发展已引发巨大争议。分析认为，由于ai对安全、就业和教育的潜在影响，政府部门迅速介入并加强监管已成为当务之急。
意大利：暂时禁用
据报道，意大利暂时禁用chatgpt的直接原因是此前发生的一起数据泄露事件。
openai此前称，他们不得不在3月20日让chatgpt离线，修复一个允许查看其他用户聊天记录的程序错误。该公司还称，调查发现，1.2% 的chatgpt plus用户的个人信息可能泄露。
对此，意大利数据保护局garante3月31日称，chatgpt平台已出现用户对话数据和支付信息泄露的情况。该平台也缺乏法律依据，证明收集和存储大量个人数据来训练聊天机器人是正当的。
garante还称，尽管openai声称chatgpt只面向13岁以上用户，但平台缺乏能够验证用户年龄的机制，让未成年人接触与自身发育程度和意识不匹配的答案。
garante要求openai必须在20天内回应并采取补救措施，否则将面临最高2000万欧元或公司全球年营业额4%的罚款。
对此，openai回应称，目前已在网站设置限制，阻止意大利用户访问。openai还称，公司正致力于在训练ai系统时减少个人数据，他们希望让ai系统更了解世界，而不是了解个人。在与garante密切合作后，公司期待很快在意大利再次推出chatgpt。
监管机构采取行动
舆论指出，意大利已成为首个对ai聊天机器人采取限制行动的西方国家。在其他国家和地区，ai技术的迅速发展也已引起监管机构的注意。
欧盟委员会发言人近日就表示，希望所有在欧盟活跃的企业都能遵守欧盟的数据保护规定，执行《通用数据保护条例》（gdpr）是欧盟数据保护当局的责任。
欧盟委员会执行副主席韦斯塔格则在社交媒体上称，欧盟委员会正在讨论ai法案，可能不会倾向于禁止ai，但无论使用何种技术，都必须以保护人们的权利为先。她认为，不应监管ai技术，而是应监管ai的使用，不要“在几年内将花了几十年才建立的东西扔掉”。
另据英国广播公司（bbc）报道，爱尔兰数据保护委员会也表示，正就后续行动与意大利数据保护局沟通，了解他们采取行动的相关依据，并将与欧盟其他数据保护机构就禁令进行协调。
英国独立数据监管机构英国信息专员办公室(ico)也表示，将支持ai的发展，但也准备挑战那些不遵守数据保护条例的行为。3月29日，英国公布关于建立ai监管框架的提议，但称将“避免可能扼杀创新的严厉立法”。
此外，包括摩根大通、高盛集团、花旗集团、德意志银行、埃森哲在内的一批金融机构、咨询公司和律师事务所也对员工使用chatgpt加以限制。这些公司担心，员工将客户信息上传到chatgpt时，很可能会暴露敏感数据和信息。
“ai热”担忧加剧
自去年年底chatgpt在全球掀起一股ai“军备竞赛”以来，微软、谷歌、meta、百度等科技公司均已加入赛道，试图成为该领域的领跑者。
瑞银此前发布的一项研究显示，在推出仅两个月后，chatgpt在今年1月的月活跃用户就已达到1亿，成为史上用户增长最快的消费者应用。
然而，随着ai技术的发展和应用，背后的风险也已浮出水面。在意大利叫停chatgpt之际，人们对“ai热”的担忧正日益加剧。
近日，包括特斯拉创始人马斯克、图灵奖得主约书亚·本吉奥(yoshua bengio)在内的1000多名科技界大佬和ai业内人士签署联名信，呼吁立即暂停研究比openai开发的gpt-4更强大的ai系统。
联名信在业内外引发巨大争议。有业内人士指出，ai的风险正在被夸大，说服各公司和研究人员一起按下“暂停键”也不现实。
但也有舆论指出，ai被滥用的趋势值得警惕。ai很可能被恶意使用，被用来作弊、传播错误信息或实施犯罪。
欧盟执法机构欧洲刑警组织此前就警告称，chatgpt可能被用于网络钓鱼、虚假信息和网络犯罪，引发对法律和道德问题的担忧。
对此，分析认为，由于ai对国家安全、就业和教育的潜在影响，制定新的法规来监管ai已成为当务之急。
欧洲消费者组织（beuc）就呼吁欧盟和各国政府的数据保护机构迅速调查chatgpt和其他聊天机器人。
欧洲消费者组织称，尽管欧盟目前正在制定全球首个ai法案，但这可能需要多年时间才能落地，这将让消费者因监管不力面临风险，受到ai技术的伤害。
瑞典于默奥大学ai研究员约翰娜·比约克隆德（johanna björklund）则指出，openai等公司并未提供有关如何训练ai模型的细节，但缺乏透明度是真正的问题所在，“如果你进行ai研究，应该对如何做到这一点非常透明”。
（编辑邮箱：[email protected]）
