极目新闻评论员 屈旌
近日，知名模特叶凯薇发视频公开控诉，称其被人利用ai换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警，引发关注。记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。（据3月14日大皖新闻）
相关新闻视频截图
这一事件再次凸显了ai技术滥用问题的严峻性。ai换脸技术本是令人惊艳的新科技，旨在为影视制作、虚拟现实等领域提供无限可能性。然而，当新奇的技术被用于制作虚假的淫秽视频并传播时，人为之恶就被放大且失控。
这种恶俗“换脸”，实质就是新型的“造黄谣”，严重侵犯了女性的人格尊严，侵犯受害者肖像权，更对其名誉权、隐私权造成了难以估量的损害。尤其是像模特这样的站在聚光灯下的职业，个人形象被污蔑，名誉被泼脏水，精神世界遭受重击，可能就会直接带来经济上的损失，生活上的困扰。
这种虚假视频一旦传播开来，往往会在短时间内引发广泛关注，给受害者带来巨大的心理压力和社会压力。即使事后澄清，受害者的名誉也难以完全恢复。叶凯薇的遭遇并非个例，近年来，类似事件屡见不鲜，许多女性因此陷入舆论旋涡，甚至被迫承受来自舆论的二次伤害。
用ai换脸技术制造淫秽视频，具有明显的违法性。根据民法典相关规定，任何组织或个人不得以丑化、污损等方式侵害他人的肖像权，也不得利用信息技术手段伪造他人形象进行侮辱、诽谤，此外，刑法也规定，制作、传播淫秽物品属于犯罪行为，情节严重的可被追究刑事责任。
叶凯薇在视频中呼吁大家不要听信谣言，也不要胡乱传播，必须强调的是，即使这些视频是通过ai技术生成的虚假内容，但只要其内容涉及淫秽信息，盲目传播转发同样是违法行为。
当前，各种ai制造的谣言，在网络空间里如飞絮一般迷人眼目。就在3月14日，公安部网安局通报，近日传得沸沸扬扬的“顶流明星在澳门输了10亿”，就是一名36岁的男子徐某强为博取流量、谋取非法利益用ai炮制的，他也因此被拘留处罚。可见，ai谣言比普通谣言的传播更加隐蔽和迅速，更具有迷惑性，因此危害自然也就更大。
技术的进步本应为人类带来福祉，但当技术被用于作恶时，其破坏力也是惊人的。ai换脸技术的低门槛和易操作性，让普通人也能轻易制作出以假乱真的虚假视频，为不法分子提供了可乘之机。这种技术滥用加剧了网络暴力现象，可能引发公众对ai技术的恐慌和误解，影响技术的健康发展。与此同时，目前整个社会对技术滥用的防范意识和法律监管相对滞后，导致黑手频频作乱，乱象屡禁不止。
斩断用技术作恶的黑手，已经是刻不容缓，要尽快有所行动。对相关法律法规的完善应该尽早提上日程，要明确界定ai换脸等技术的使用边界和法律责任，加大对违法行为的打击和惩处力度，形成威慑，以儆效尤。司法机关也应积极应对新技术带来的挑战，提高办案效率和准确性。
只有法律完善了，才能依法督促科技企业承担起社会责任，从技术层面去遏制滥用现象，尤其是对于淫秽、暴力、低俗等不良信息，应该让ai有识别和屏蔽的能力。
同时，也要加强对公众的网络安全教育和伦理道德教育，提高公众对ai技术的认知水平和风险防范意识，不要在不知不觉中，成为利用技术作恶的“帮凶”。
（来源：极目新闻）
更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。24小时报料热线027-86777777。
