“AI换脸”以假乱真！当AI“复活”成为一门生意

　　近日，一条李玟被AI“复活”的视频登上微博热搜，科比、高以翔、乔任梁等逝世明星也在网上被AI“复活”。

在生成式AI发展浪潮下，通过收集逝者生前的图片、音视频等资料，数字“复活”他们的音容笑貌已不罕见，但“复活”去世明星或合成当红明星的AI视频可能违法违规。

　　数字“复活”生意

　　“李玟”坐在镜头前和观众打招呼，视频和声音却由AI生成，去世八个月的她突然被数字永生，对着粉丝说：“在我离开这个世界的那一刻起，我一直能感受到你们无尽的爱和支持。”视频在网络引发侵权争议后，一些账号陆续下架了AI复活视频。

　　同时被数字还原的还有张国荣、高以翔、乔任梁等离我们远去的公众人物。他们身着各异，面向镜头却几近统一地都是先问好，再诉说对粉丝的思念等暖心话语。

　　发布者自称，这是一种情感抚慰方式，利用高科技，给活着的人提供情绪价值。但是在视频评论区，很多网友却质疑：这种行为打着温情的名义，实则是在消费已经离去的人。

著名音乐人包小柏用AI“复活”爱女。图源：网络

　　据媒体采访发现，这些号称用高科技治愈人心的AI复活类账号，背后不少成立有专业团队，有一些还在朋友圈招学徒、招代理。自称科技暖人心，实则打着一通精明的“算盘”，用AI换脸逝世明星，引流，收费。

　　3月16日，针对儿子肖像被侵权使用一事，乔任梁父亲发声，他已经看到网上传播开来的“儿子被复活”影像，不能接受，感到不舒适，希望对方尽快下架，“他们未征求我们同意，是我侄女刷到视频发给我的，这是在揭伤疤。”

　　“AI换脸换声”以假乱真

　　近年来，AI技术被广泛应用于短视频的二次创作。越来越多的名人“AI换脸换声”视频出现在网络上。这类视频嘴型、手势都对得上，十分自然。

　　据专家介绍，“AI换脸”技术是一项基于人工智能的图像处理技术，这种技术能够识别出目标人物的面部特征并对其进行精准分析。也就是说，只需要目标人物的几张照片或视频，AI就能从中提取出他的面部五官和声音特征，通过和另一个人进行匹配，最终实现换脸，达到以假乱真的效果。

　　中国信通院人工智能中心安全与元宇宙部主任石霖表示，前几年，实现AI换脸存在一定的门槛，通常需要高质量的数据集对模型进行训练和微调，让模型能够准确地识别和提取面部特征；在制作换脸视频的过程中，需要足够的算力资源来支撑模型的运行。然而当前，已经有很多相对成熟的深度合成的开源项目或者工具。“可以说AI换脸的成本正在逐步降低，速度和拟真度正在不断提升，已经达到了快速制作一段肉眼难以辨别的换脸视频的程度。”

　　除了 利用名人效应，AI 换脸视频还被很多营销号用来导流、带货。为了抓住流量密码，许多营销号不惜侵犯个人肖像权。

　　此外，在“AI换脸”类诈骗案件中，那些让人真假难辨的杀熟视频和视频通话也是技术合成的。

　　那么，面对这些以假乱真的“AI换脸”数字人，该如何进行辨别和自我防范呢？网络上曾流行一种判断方法，就是通过遮挡面部来看面部是否会变形，但技术人员表示，随着技术的更迭，这样的技术缺陷已逐渐被修复。建议大家跟亲友之间设计一些特定的“暗号”，来应对特殊情况。

AI换脸诈骗套路。图源：央视新闻

　　备受争议的AI换脸技术

　　AI换脸技术自诞生起就备受争议，用AI换脸侵害他人权益的案件并不少见。2023年8月10日，公安部通报全国公安机关打击整治侵犯公民个人信息违法犯罪行为举措成效，数据显示，自2020年“净网”专项行动以来，破获涉“AI换脸”案件79起，抓获犯罪嫌疑人515名。

　　监管部门近年来已出台相关规定。2022年12月11日，《互联网信息服务深度合成管理规定》发布，强调深度合成服务提供者需要对深度合成内容进行显著标识。

　　2023年7月10日，《生成式人工智能服务管理暂行办法》（下称《暂行办法》）出台，其中明确提出，提供和使用生成式人工智能服务时，应当尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

　　《暂行办法》中还强调，生成式人工智能服务提供者应当使用具有合法来源的数据和基础模型，不得侵害他人依法享有的知识产权，涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

　　河南泽槿律师事务所主任付建表示，虽然AI技术应用到“复活”亲人是科技向善的一种体现，但也存在一系列隐患亟待监管。付建表示，所有AI服务都可能面临隐私泄露的风险，由隐私泄露衍生出的遗产权、知识产权、财产权等问题都需要被重视。

　　相关专家学者表示，目前来说，AI复活更多是用在亲人与家属身上，属于个体范围内的行为，仅仅是慰藉相思之苦，这在一般情况下是没有伦理争议的，但如果跨过个人与家庭范围，就可能会产生问题。

　　科技一定是要向善的，一定是要为普通群众去服务的，针对数据隐私、AI诈骗、伦理争议等问题，一方面要不断完善相应的法律法规，另一方面，行业内也要足够自律，每一个从业者都应该守住底线。

　　（中国小康网综合央视新闻、南方都市报、潇湘晨报、红星新闻、新闻晨报、极目新闻等）