推动AI应用持续向上向善
文丨王庆峰
近期，中央网信办组织开展“清朗・整治AI应用乱象”专项行动第二阶段工作，公布一批典型案例。不少AI造假、恶搞侵权、侵害未成年人权益的乱象被集中曝光，一批滥用AI技术博流量、谋私利的账号与应用被处置。
资料图。
近年来，人工智能技术飞速发展，在极大提升效率的同时，也衍生出大量违法违规内容。正如典型案例所揭露的，有的滥用AI技术“魔改”《三国演义》《西游记》等经典名著，有的利用AI生成合成虚假灾害现场、救援画面，有的利用AI“换脸”“换声”等技术假冒仿冒公众人物形象，有的利用AI批量制作传播“毒动画”、儿童“虐向”“邪典”视频，还有的制作发布暴力低俗等信息、利用AI“托管”从事网络水军活动……
看似只是个别账号的越界，实则往往批量生产、环环相扣，演化成“流量经济”下的灰色产业链。这不仅严重污染网络生态，也会侵蚀行业发展根基。相关部门重拳出击，在内容端、平台端、生成端、入口端全链条发力，督促网站平台集中清理AI生成各类违法不良信息，依法查处违规账号和移动应用程序，有利于在认识层面正本清源，让更多人明确AI应用的底线和边界，遏制AI生成合成信息内容乱象，推动AI应用服务健康有序发展。
值得注意的是，专项行动还有“上半篇”。今年4月，中央网信办部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，第一阶段聚焦未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等AI应用乱象，第二阶段聚焦利用AI制作发布虚假信息、传播暴力低俗内容等突出问题。把这两阶段的整治放在一起看，政策意图更加清晰：既要守住技术底座，也要守好内容生态。
资料图。
技术底座与内容创作，是人工智能不可分割的一体两面。大模型的训练数据、安全机制、备案合规，决定了AI输出内容的底色；而网络空间海量的AI生成合成内容，又反向检验技术治理的实际成效。管住模型、数据、产品，有利于从上游减少“带病出厂”的工具；加强内容审核、清理有害信息、处置违规账号，瞄准的是传播的下游。此次专项行动分阶段、分重点推进治理，靶向精准、直击要害，彰显了监管部门护航AI良性发展的坚定决心。
推动AI应用持续向上向善，专项整治只是起点。要筑牢网络生态“防火墙”，还须多方发力、久久为功。
一靠制度之严。健全法律法规，落实生成式人工智能服务管理要求，让AI生成合成内容“有标识、可溯源、能追责”，以刚性约束压缩违规空间。二靠平台之责。科技企业要严格落实大模型备案制度，从严审核训练数据集，防范数据投毒风险，网站平台要完善审核和举报机制，把违规内容拦截在“上架前”、处置在“传播中”。三靠社会共治。内容创作者要恪守底线，不哗众取宠、不随波逐流，公众也要提高媒介素养，不为低质博眼球内容提供流量土壤。
当前，我国人工智能正处于从“技术突破”迈向“规模应用”的关键期。发展越是提速，治理越要同步。专项行动既是一次刮骨疗毒式的问题纠偏，也是一场面向全社会的规则宣示——技术可以迭代演进，但必须在法治和伦理的轨道上运行。持续规范治理，才能让人工智能褪去种种乱象，真正成为服务社会、造福大众的强大力量，在向上向善的道路上稳步前行。
下一篇：没有了