因为大量用户在APP上与AI智能体“聊黄”,APP的主要开发和运营者被追究了刑责。2025年9月,上海市徐汇区人民法院一审判决,两名被告人犯制作淫秽物品牟利罪,分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。
案涉APP Alien Chat(以下简称AC)是一款AI伴侣聊天应用,定位是为年轻群体提供亲密陪伴和情感支持。用户在AC注册会员后,可与AI聊天。判决书披露,AC App手机注册用户11.6万人,其中付费用户2.4万人。截至案发,共收取会员充值费363万余元。用户注册会员后,可以自行创建虚拟角色或者使用他人创建并公开的虚拟角色,通过软件与大语言模型进行交互聊天。
在AC某官方社交账号评论区,不少用户评价这款AI产品“聪明”“限制少”,也有用户表示,其他用户和角色聊黄,“教坏”了AI模型,从而影响了自己的聊天体验。
一审法院认为,AC产生了“大量具体描绘性行为或露骨宣扬色情的内容”,属于淫秽物品。
记者获悉,两名被告人不服判决提出上诉,案件二审将于1月14日在上海市第一中级人民法院开庭。
(来源:新京报)