哩布哩布AI被曝生成涉黄违规视频 境外涉黄AI软件绕过监管流入国内
据央视财经报道,使用AI生成视频,如果输入的提示词表述较为“露骨”,多数AI应用会触发审核机制并拒绝生成内容。

然而,这条防线却很脆弱。只要将提示词修改得更加隐晦,便有可能绕过限制。在一款名为哩布哩布AI的AI应用里,央视记者输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制,违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。
据央视财经报道,使用AI生成视频,如果输入的提示词表述较为“露骨”,多数AI应用会触发审核机制并拒绝生成内容。

然而,这条防线却很脆弱。只要将提示词修改得更加隐晦,便有可能绕过限制。在一款名为哩布哩布AI的AI应用里,央视记者输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制,违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。