输入一段你想要的问题，生成式人工智能就可以根据你的需求从海量的数据中检索分析生成你想要的文字、图像甚至视频，在方便快捷的同时，其潜在的个人信息泄露风险也引发担忧。
如何在生成式人工智能时代筑牢个人信息安全防线？在这两天举行的2025年中国网络文明大会各分论坛上，与会嘉宾围绕这一焦点议题展开深入探讨。
中国科学技术大学网络空间安全学院执行院长 俞能海：生成式人工智能技术，说到底它是基于数据的。现在的问题是我们的数据本身，现在各种大模型它都是要有数据、语料进来，这些语料从个人信息保护角度，哪些语料给、哪些语料不给，源头数据怎么管控，尤其在个人信息保护中间起的作用非常大。
专家提示，在人工智能收集海量数据进行训练的过程中，普通用户有时难以理解数据收集的合规边界，以及系统配置策略，盲目向生成式人工智能平台输入敏感隐私信息，一旦敏感数据被用于所谓“改善服务”“优化模型”，甚至用于训练，其上传存储、后续使用场景、二次传播都可能存在隐私数据泄露的风险。
国家信息技术安全研究中心技术研究部部长 杨韬：大家在和生成式人工智能交互的时候，往往会一问一答，在这种问答的过程中尽量避免输入个人信息，甚至敏感个人信息以及相关工作秘密信息，这个是需要大家注意的。
与此同时，基于强大的数据搜集和逻辑能力，人工智能可以综合公开数据、个人数据，结合行为分析挖掘出更深层的数据。
中国科学技术大学网络空间安全学院执行院长 俞能海：信息化给我们带来非常好的一面，但确确实实也给我们留下了新的问题。你只要用了系统，一定会留痕，自己很多的信息，可能是敏感信息，你自己认为已经把它去掉了，但是通过整合、信息关联，可能在输出的点，它会就被泄露出来。
针对深度伪造技术 发展主动防御技术
如何在保护数据安全和推动人工智能发展中寻找新的平衡点，实现更广泛的公共利益？与会嘉宾认为，需要从技术管控和相关法律法规完善落实中，进一步筑牢人工智能时代的数据安全防线。
在2025年中国网络文明大会个人信息保护分论坛上，来自中国科技大学的研发团队介绍了针对当前人工智能深度伪造的主动防御技术，如通过对待保护的人脸图片添加特定的扰动噪声，让篡改伪造图片从而生成虚假图片或视频的模型失效。
中国科学技术大学网络空间安全学院执行院长 俞能海：我现在有一种手段，我让人看没有问题，但加上一个不可见的因子，可以理解为“噪声”，到这个图像里去，人看不出来，但是机器可以看出来。如果说把这样的一些照片作为源头进去，别人拿去做实验，想合成一个新的数据，新的一个为他所用的影像，那就不可能实现，或者你实现了我就知道你是假的。
数据安全和隐私保护技术迭代更新也进一步促进个人信息保护相关制度法规的落地见效，与会嘉宾表示，目前我国已出台《个人信息保护合规审计管理办法》《网络数据安全管理条例》《生成式人工智能服务管理暂行办法》等重要法律法规保障数据安全，并着重压实了信息处理相关企业承担保障数据安全的社会责任，如强调相关企业收集个人信息需遵循“最小必要”“告知同意”“合法正当”等原则。
国家信息技术安全研究中心技术研究部部长 杨韬：我举个例子，个人信息处理者需要去仔细研判，比如说我某些字段不采集，我的这项业务是否就真的进行不下去了，同时对于已经采集或者是准备采集的一些信息，应该是需要去考虑有没有替代的方案，既能够完成业务要求，也能够充分减轻降低或者规避可能存在的违法违规收集使用个人信息的安全风险。
北京师范大学法学院博士生导师 吴沈括：在面对新技术新应用的演进过程当中，特别是面对人工智能等一系列新的技术样态和技术应用的时候，我们国家的规则的演进应当说速度其实非常快的。涉及到人工智能语境下的个人信息处理的透明，又比如说关于各项业务的可溯源可审计的问题，我们还需要进一步地去迭代，去更新法律法规，使得规则要求，价值的保障和实际的技术应用之间能够保持一个同步的进展。
还原受害人生活轨迹 警惕“私人定制”骗局
个人信息一旦被不法分子获取，可能引发一系列严重后果，针对个人信息泄露而进行的精准电信网络诈骗是如何实现的，我们在日常生活中应该如何防范此类诈骗？
针对目前高发的电信网络诈骗案件，与会专家、民警表示，许多此类骗局之所以能够得逞，往往是基于受害人个人信息的泄露。诈骗分子通过这些个人信息还原受害人生活轨迹，精准完成骗局的“私人定制”。
合肥市公安局刑警支队五大队副大队长 杨础：比如马上快到暑假了，有很多学生朋友会出去玩，旅行的信息一旦被骗子掌握，他很有可能就给你发送机票退款的，或者说机票有延误或者取消了，需要你怎么操作。这种很明显就是掌握到了你的个人信息，尤其是订票信息旅程的信息，所以对你实施精准诈骗。
反诈民警提示，在社交软件上进行信息和图片视频发布时，需要尽量避免暴露个人关联信息。
合肥市公安局刑警支队五大队副大队长 杨础：现在图片所包含的信息可能会比较多，有可能晒自己的孩子，孩子的校服暴露了孩子在哪里读书，暴露了所生活的城市，比如发家窗户外的一个美景，而这张美景图很有可能暴露了所在城市的具体区域，哪个小区等等。因为这些信息都很有可能会被坏人拿去利用，他能够因此去定制针对你的个人骗局的时候，就很容易防不胜防了。
除此以外，深度伪造技术借助人工智能，能对人脸和声音信息进行高度逼真的伪造，被不法分子用于诈骗时，往往具有极强的迷惑性。
中国科学技术大学网络空间安全学院执行院长 俞能海：我们现在家人看到了我的影像，这个影像是真是假不一定，可能是处理过了。尤其是像现在很多老百姓，我建议只要谈到钱，请各位一定要重新复核，从另外的渠道复核，而不要简单地相信他。
（总台央视记者 李可婧 吴经伟 刘军 邵鑫扬 宁可珂）
