提示词隐晦就可能绕过限制多款AI应用存在涉黄生成漏洞_国内资讯_新闻资讯

创始人

2026-04-13 09:40:15

0次

如今，生成式AI广泛应用，迭代迅速，给生活带来了不小的改变。技术普及大幅降低了生成式AI的使用门槛，从AI视频生成到AI聊天陪伴，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气。

根据消费者举报线索，总台《财经调查》记者在多个互联网平台上进行了检索。在测评过程中，记者发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而，这条防线却很脆弱。只要将提示词修改得更加隐晦，便有可能绕过限制。

在一款名为哩布哩布AI的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制，违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。

此外，根据消费者举报的信息，记者找到了网络上一款AI照片生成器。这款软件号称“免下载，快速生成，图片、视频换脸”，购买者可以根据充值金额的不同，通过AI技术一键快速替换原片，生成虚构的色情照片，只要购买者愿意付费，这个软件就可以通过一张图片，生成全裸照片和色情视频。

来源：央视财经

【答疑解惑】不上语言学校，可以... 问：想去日本读高中，日语需要达到什么水平？最低要求N4，建议达到N3或N2。N5远远不够，无法满足...

【随手记2026】4 按照课标的要求，语文课上开展跨学科学习要为语文学习服务。说得清晰一些应该是，为学生阅读理解能力和语言...

中国足球发展基金会：若受资助机... 澎湃新闻记者钟煜豪“近期，个别青少年足球赛事中出现严重违背体育精神、违反赛风赛纪的行为，引发不良社...

高市再提修宪引发广泛反对日本... 中新网4月12日电综合报道，当地时间12日，日本执政党自由民主党在东京召开党大会。自民党总裁高市早...

香江观澜：“双向奔赴”激活香港... 中新社香港4月12日电题：“双向奔赴”激活香港文旅产业新动能中新社记者香卢平 “5天假期，我们...

原创反... 在当今全球局势瞬息万变的背景下，韩国总统李在明一次大胆的发声，给国际社会尤其是中东地区的政治生态带来...

“青苗计划” | 学校2026... ★ 前言 ★ 为进一步加强学生骨干队伍建设，夯实团学工作人才根基，近日，学校 2026 年 “青苗计...

伊朗外长：伊美谈判距离达成协议... 伊朗外交部长阿拉格齐13日在社交媒体上发文说，日前在巴基斯坦首都伊斯兰堡举行的伊朗与美国的谈判，距离...

感统是什么？孩子咋就感统失调了... 孩子走路总摔跤，你提醒了无数遍“看路”，可他还是深一脚浅一脚。上课坐不住，你以为是贪玩，可回家拼乐...

英国本科申请：结构性分化国际生... 根据《2025中国学生留学白皮书——本科篇》最新数据，2024申请季英国本科专业热度呈现结构性分化：...