名医被AI“克隆”带货，画面和声音让本人后背发凉……
近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。那么，这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？
名医现身科普视频
当事人全然不知
一条AI仿冒视频中，侃侃而谈的专家，商家称是北京协和医院临床营养科主任于康教授，他是我国营养与健康领域的权威专家。
记者在社交平台上刷到了不少以于康教授形象出镜的科普视频，介绍和推销减肥食谱。记者随后联系北京协和医院调查核实。于康教授明确表示，他本人从未参与录制此类视频。
北京协和医院临床营养科主任 于康：我几乎天天收到好朋友和各种有我联系方式的人给我发来的消息，有质疑，还有提醒，经常有的一句话就是“这是你吗？”“这是于康吗？”我一看这完全是我的形象，声音相似度完全超乎了我的想象。现在技术能达到这个层级，一方面觉得不可思议，另外一方面觉得有一点后背发凉，挺可怕的。
科普视频中，商家不仅盗用于康教授的形象，其介绍的营养知识，也是毫无依据，没有得到科学验证。
于康教授更为担忧的是，视频里的错误信息，会让营养学界长期以来的科普努力，付诸东流。
利用AI技术生成假视频
医院医生深受其害
记者注意到，这些短视频都来自一些自媒体账号，除了出现于康教授形象，还有一个共同特点是使用虚拟背景。
不仅于康教授有这样的困扰，北京协和医院临床营养科马方教授也遭遇了同样的情况。在一个平台网店的链接里，视频里的“马教授”分享了自己的减肥经历。
据北京协和医院介绍，不少知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至还有不法商家利用AI生成假医生，打着北京协和医院的旗号，销售各类商品，误导消费者。医院、医生深受其害。
AI仿冒著名主持人
直播间虚假营销
随着AI仿冒视频的泛滥，司法部门和监管部门已查处多起案件。记者在调查中了解到，多位公众人物的形象被擅自用于商业推广。
今年年初，北京市海淀区市场监管局接到消费者举报，一直播间宣称一款鱼油产品具有医疗功效。该账号发布的短视频中，出现了中央广播电视总台主持人李梓萌的形象。
记者注意到，发布仿冒主持人李梓萌短视频的账号名为“广州白云深海鱼油工厂”，拥有粉丝80多万。进入直播间后记者看到，这款鱼油售价59.9元三瓶，页面显示已售出17.7万单。
北京市海淀区市场监管局海淀街道市监所科员 李欣容：最后当事人承认，这个短视频当中的李梓萌形象，是他们的员工在网络上搜集李梓萌播报过的新闻片段，通过AI技术擅自把这些新闻片段进行剪辑加工，最终合成了这个虚构的推荐视频。
记者实测：
30秒就生成女医生短视频
记者调查发现，利用AI技术违规营销现象越来越多，关键原因是相关工具非常容易获取。而且，无论是换脸还是拟声，操作起来都十分简便。
记者发现，各大手机应用商店均充斥着大量换脸App或小程序，大都可以免费使用。记者随机选取了一个App，仅需上传自己几张人脸照片，就能将目标视频中的知名专家换成自己的面容。
除了换脸、拟声，有的App还能提供AI对口型、AI文生视频、AI电商等各种功能。记者体验了其中的“文生视频”功能：在对话框中输入关键词：北京协和医院，女医生，在诊室坐在桌子前，向患者介绍病情，不到30秒时间就生成了一段女医生形象的短视频，还可以选择“不添加AI生成字样”。随后记者输入减肥产品效果文案，选择“主播配音”，就生成了一条“北京协和医院女医生推广减肥产品的”营销视频。
目前，AI仿冒相关维权难度极大，技术鉴定、证据固定以及溯源追责等环节，面临不小的阻力。
北京市海淀区市场监管局海淀街道市监所副所长 史建颖：AI深度伪造视频鉴别难度大，成本高，肉眼难以识别，需要专业技术支持，而此类侵权违法行为造假成本低。另一方面是大量AI合成伪造视频涌现在电商平台，权利人自身不知情或知情后维权周期长，程序复杂，部分权利人选择放弃维权或配合度较低。
监管新规
AI内容必须加标识
《人工智能生成合成内容标识办法》在9月1日已经正式实施，明确要求：利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，必须依法添加相应的声明标识。
记者调查发现，部分人工AI合成视频当中，发布者要么使用不显眼的字体，要么隐藏在画面边角，有的二次发布者甚至隐匿标识。
专家表示，各社交平台作为AI生成视频发布主要渠道，应在平台规则、内容审查等方面进一步完善相关措施。
来源：央视新闻