利用AI合成行骗如何追责？
本刊记者 崔晓萌
“同一演员同时出现在三个直播间，一个红衣颈膜推荐官，一个白衣美妆顾问，还有一个素颜生活博主。一个主播同一时间用相似的话术推荐着不同品牌的产品……”北京消费者钟女士称，这个演员挺出名的，最近经常刷到她带货，当时觉得这演员怎么什么广告都接。
没想到，因为多个直播间出现她的带货形象，该演员也很无奈。她还曾在假冒自己的直播间质问：“你是我，那我是谁？”没想到立马被拉黑……
据了解，目前不少商家截取明星过往素材，经抠图换脸合成虚假直播，却无任何AI生成标注，这类内容在直播平台不算少见。
今年4月，上述演员就曾发布打假视频，称自己“仅一个官方直播账号”，引发粉丝举报潮，有粉丝一天之内就举报了18个伪造直播间。
如今这类利用AI深度合成技术行骗的案例越来越多。此前有江西老人要贷款200万元给AI合成的“靳东”拍戏，港星黄百鸣的AI“分身”被用来推销药膏。央视此前曝光的仿冒全红婵带货事件中，虚假视频销量超4.7万件，虽然其家人早已声明未授权，侵权内容仍屡禁不止。
“无论从什么方面来讲，这都是一个违法侵权的行为。”中国政法大学传播法研究中心副主任朱巍接受本刊记者采访时表示，使用AI换脸技术进行直播带货是典型的深度合成行为。从被编辑者的角度讲，这种行为侵犯了被编辑者的人格权，属于违法和违规行为；从广告法和消费者权益保护法等角度来看，这种行为还涉及虚假宣传和欺诈消费者的问题，可能触发退一赔三的法律责任；从市场公平竞争的角度来看，这种行为违反了《反不正当竞争法》的相关规定。
他还提示，“平台方在发现此类侵权行为后应及时下架相关内容，并对发布者采取禁言、封禁等措施，否则可能承担连带责任。”
确实不少网友认为，这类AI骗术在直播平台大行其道，平台有不可推卸的责任。据悉，抖音今年已封禁千余个AI仿冒账号，并将线索移交监管部门。但业内人士指出，部分平台仍存在“审核滞后”问题。
朱巍表示，平台对发布的内容负有审核责任，但具体审核标准因内容形式（如短视频、广告、直播）而异。侵权行为可能涉及多个主体（如MCN机构、商家），需从账号注册者到实际控制人全面追责。
具有迷惑性的新骗局屡禁不止，普通消费者该如何鉴别？业内人士也给出了一些方法：基于AI技术去识别AI内容是最快的方式。也有消费者也在蹲直播间的过程总结出一些经验：“真实直播能实时互动，AI分身只会循环话术。”
北京中银律师事务所陈川川律师接受本刊记者采访时介绍，消费者首先要注意看平台标识和发布者信息，其次观看直播过程中要观察视频细节、核实商品信息，并警惕“全网最低价”等话术。发现疑似AI侵权或诈骗时，立即保存证据（截图、录屏），向平台投诉举报，必要时寻求法律援助。
实际上，对于此类乱象，监管层也在加快补位。9月1日施行的《人工智能生成合成内容标识办法》要求，AI生成内容必须主动标注，恶意隐匿将受严惩。多地市场监管部门已展开专项行动。
朱巍认为，目前对AI深度学习的相关法律已经制定，关键在于多方协同落实。
在强化法律执行方面，他提出了三点建议：首先，要建立起信用监管机制，对频繁违规的MCN机构及其关联账号实施连带责任追究。其次，主体责任应延伸至AI技术提供方平台，从源头控制未标记内容的生成。第三，社交平台需提升技术防控能力，主动拦截违规信息发布。
“AI时代要有火眼金睛，但不能把火眼金睛的责任交给老百姓。”朱巍称。