近年来，随着人工智能技术的不断发展，AI换脸技术已经日渐成熟。这项技术能够让任何人都能成为视频中的主角，而且表情和动作都能被准确地模仿，几乎以假乱真。然而，这一新技术的出现也为一些人带来了不良的思想，他们利用这一技术制作大量淫秽视频并进行传播。
最近，杭州市萧山警方在网上巡查中发现了一条线索：有人利用AI技术制作淫秽视频并在网上广泛传播。警方迅速展开调查，最终锁定了犯罪嫌疑人虞某，并将其抓获。经调查发现，虞某自2020年开始接触AI换脸软件，起初是想通过推广该技术和相关软件来谋取利益。然而，由于关注度不高，虞某便转而利用这一技术制作淫秽视频以吸引关注。
为了扩大影响力，虞某在社交软件上创建了“浏览群”和“私人定制群”，前者用于传播淫秽视频吸引观众，后者则提供定制换脸视频的服务。虞某会收取入群费用，并提供人脸视频定制服务，费用根据视频时长和难度而定。
此次案件暴露了AI换脸技术被滥用的严重性，也揭示了涉黄犯罪网络的存在。警方呼吁公众警惕此类犯罪行为，共同维护社会秩序和网络环境的清朗。
截至案发时，公安机关在虞某所组建的公开群内查获了1200余部淫秽视频和1600余张淫秽图片。虞某组建的聊天群内，传播着由他合成的淫秽视频。
根据检察机关的调查，虞某利用传播合成的换脸淫秽视频来吸引更多的关注和流量，同时也通过销售“AI换脸”软件和提供个性化的换脸服务来获取利润，仅短短半年的时间里就获利数万元。这些淫秽视频涉及的受害者不仅包括一些知名公众人物，还有许多普通人。
虞某根据换脸视频的长度、清晰度等条件，按照不同的标准收取定制费用，比如5分钟视频收费300元，10分钟视频收费500元等。他声称，“只要能看到脸的都能换”。
检察机关指出，虞某设定的价格是根据视频的难易程度和完成度来定的。他为客户提供了初级、中级和高级的定制选项，根据客户的需求和预算进行个性化定制。
除了提供固定的换脸服务外，虞某还提供VIP定制服务，即根据客户的特定需求进行个性化定制，客户可以指定想要换脸的对象，无论是公众人物还是普通人，只要支付相应的报酬，虞某就会满足客户的要求。
根据检察机关的了解，虞某的客户要求进行“定制”换脸的对象不仅包括一些知名的公众人物，还包括生活中的普通人。有些客户甚至提出想要定制自己暗恋女生的换脸视频，而虞某对于这种未经同意就擅自侵犯他人敏感信息的违法行为也毫不拒绝。
此外，虞某不仅提供定制化的换脸服务，还将“AI换脸”软件分为初级、中级和高级三个等级进行销售，并向客户传授使用教程。同时，他还提供了在网上非法收集的他人人脸素材。
根据杭州市萧山区人民检察院第七检察部检察官助理陈禹尧的介绍，这种软件的入门门槛相对较低，操作简单。用户只需按照预先设定好的步骤进行操作，将需要换脸的视频或照片放入指定文件夹，软件会自动提取人脸信息并进行学习和合成。
据检察机关收集的证据显示，虞某创建的众多社交群组成员数量从最少的95人到最多的2053人不等。通过销售换脸淫秽视频和定制换脸淫秽视频等违法行为，虞某先后收取了口令红包200余次，总金额达到6万余元。
除了追究刑事责任外，检察机关还提起了民事公益诉讼，以维护公共利益和社会秩序。
根据检察机关的调查，虞某作为“AI换脸”技术的使用者，通过传播侵犯公民个人信息的手段，进一步扩大了社会的不特定主体个人信息被侵害的风险。因此，杭州市萧山区人民检察院在依法追究虞某刑事责任的同时，还提起了民事公益诉讼。这一案件于2023年7月在杭州互联网法院进行了审理，这也是我国首例关于“AI换脸”侵犯公民个人信息公益诉讼案的审理判决。
2023年4月14日，杭州萧山区人民检察院决定立案对虞某的“AI换脸”侵犯公民个人信息公益诉讼案进行处理。随后进行了公告程序，公告期满后未有适格主体提起诉讼。6月9日，检察机关依法对虞某提起了民事公益诉讼。7月28日，该案在杭州互联网法院进行了一审公开审理。
在庭审中，检察机关出示了虞某侵犯公民个人信息、损害社会公共利益的详细证据，包括公安机关的讯问笔录、询问记录、勘验记录、检查记录、鉴定意见，以及淫秽视频1200多部、图片1600多张等电子数据。
杭州互联网法院互联网审判第一庭庭长肖芄指出，在过去，人们常常认为眼见为实，耳听为虚，但随着深度合成技术的应用，眼见也不一定为实。不当使用新技术可能破坏社会公众之间的信任关系，尤其在互联网空间。这种侵害信任关系和社会关系的行为实际上是对社会秩序的一种破坏。
杭州互联网法院经审理认为，虞某利用“AI换脸”技术侵犯公民个人信息的事实确凿，因此支持检察机关作为公益诉讼起诉人的全部诉讼请求。法院判决虞某删除非法获取的个人信息，并公开赔礼道歉、消除影响并赔偿损失共计60000元。这些款项将专门用于个人信息保护和人脸深度合成技术不当应用的治理等公益事项。
杭州互联网法院常务副院长朱敏明表示，任何一项新技术都应该持有中立的态度，但技术的开发和应用必须符合全人类的公益利益。一旦技术被用于个人非法牟利，并侵犯其他公民、集体、国家和社会的合法权益，就必须承担相应的责任。检察院提起公益诉讼，法院依法审判，充分发挥了司法职能对新技术的规范作用。
技术本身并无善恶之分，但其应用必须在法律规制的范围内进行。2023年11月，杭州市萧山区人民法院宣判，对被告人虞某因制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。
“AI换脸”技术近年来被滥用，从网络主播将自己的面孔替换成女明星以直播带货，再到将脸部替换到淫秽视频中，这些行为在灰色地带甚至违法领域频频发生。然而，“AI换脸”技术的法律边界何在？如何加以规范和治理？
杭州互联网法院互联网审判第一庭庭长肖芄指出，我国民法典对于利用深度伪造方式侵犯他人人身权益有明确规定，禁止利用深度合成方式侵害公民的人身财产权益。同时，个人信息保护法也对深度合成进行了相关规定，因为这些技术需要收集个人敏感信息，例如面部替换或声音替换等。
除了《民法典》和《个人信息保护法》，2023年正式实施的《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》也明确规定，强调使用者不得利用深度合成服务从事法律、行政法规禁止的活动，并要求服务提供者落实信息安全责任。
但需注意，“AI换脸”技术即便只是用于搞笑或恶搞照片，也可能触犯肖像权、名誉权，甚至构成侮辱罪或诽谤罪。滥用这项技术不仅是对个人权益的侵害，更是对社会公序良俗的挑战。
杭州互联网法院常务副院长朱敏明表示，虽然新技术的法律法规可能滞后，但我国法治体系已相当完善。每个人都应该判断其行为是否符合法律规定，是否造福整个人类，提升人民生活水平和福祉，而不是谋取个人不当利益。必须把握好使用新技术的界限，以确保其为社会服务。
网友评论
最新评论