小红书治理“AI制作探店、住宿、就医等虚假内容”，今年6-8月清理AI虚假内容近12万条
9月3日，小红书薯管家发布“关于AI制作医美、民宿等虚假内容治理公告”：
AI技术的发展，让普通人也能创作出一条制作精良的内容，但也让编一段没发生过的经历变得容易。
近期平台发现，部分账号利用AI生成虚假体验笔记，用AI生成或拼接的图片伪造实景，杜撰探店、住宿、就医、美容等使用体验等内容，误导用户决策。
小红书积极响应主管部门相关管理要求，切实履行平台主体责任，已将AI制作发布虚假内容纳入常态化治理。平台从三方面加大治理力度：
一是细化管控重点，以AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别，文旅住宿、医疗医美、教育、房产等品类优先覆盖；
二是聚焦存量清理，从笔记、评论、账号等多环节清理历史虚假内容；
三是增补策略严控新增，同步强化未标识AI内容的识别能力，对同一图片或视频跨地域、跨账号重复使用的情形加强检测。
今年6-8月，平台清理处置AI制作发布的虚假笔记近12万条。典型案例如下：
1.用户泥*吧，发布AI虚假医美体验，平台已下架相关内容，并对违规账号予以封禁处置。
2.用户吹*风，发布AI虚假民宿图文，虚构住宿体验，平台已下架相关内容，并对违规账号予以禁言处置。
3.用户心*阁，发布AI虚构家庭背景及教育经验，销售教辅材料，平台已下架相关内容，并对违规账号予以封禁处置。
平台鼓励创作者使用 AI 辅助创作；也请在发布涉及 AI 生成内容时，使用平台AI内容声明功能予以标注。
真诚分享源于真实体验。希望各位小红薯们合理使用AI，不虚构未曾到访的地点、未实际使用的产品或未亲身经历的事件，一起守护社区的真实与信任。
平台将持续优化AI治理工作，与每一位真诚的创作者携手，打造用户分享真实生活的清朗空间。薯管家也在此呼吁：如发现疑似AI编造的虚假内容，欢迎通过笔记右上角的"举报"入口反馈。
编辑：吴祈
审核：林夕合
【来源：小红书薯管家】
上一篇：开屏观察｜当AI落地昆明：产业重构、文化活化，一座城市的AI现实考题
下一篇：没有了