多款AI应用存在涉黄生成漏洞 技术伦理遭挑战

多款AI应用存在涉黄生成漏洞 技术伦理遭挑战。生成式AI技术的广泛应用和快速迭代正深刻改变着人们的生活。随着技术普及,使用门槛大幅降低,从AI视频生成到AI聊天陪伴,这些应用丰富了大众的生活。然而,一些商家背弃技术伦理与法律底线,利用生成式AI制作违法内容,污染网络空间,败坏社会风气。

多款AI应用存在涉黄生成漏洞

根据消费者举报线索,在多个互联网平台上进行了检索。在测评过程中发现,如果输入的提示词较为直接,多数AI应用会触发审核机制并拒绝生成内容。但这条防线并不牢固,通过修改提示词使其更加隐晦,便有可能绕过限制。

多款AI应用存在涉黄生成漏洞 技术伦理遭挑战

在一个名为哩布哩布AI的应用中,记者输入网上购买的提示词后,几分钟内就生成了一个半裸女性跳舞的视频。整个过程中没有触发任何限制机制,违规视频顺利生成。同样的问题也出现在其他常见的AI应用平台上。

多款AI应用存在涉黄生成漏洞 技术伦理遭挑战

根据消费者提供的信息,还发现了一款AI照片生成器。这款软件声称“免下载,快速生成,图片、视频换脸”。购买者可以根据充值金额的不同,通过AI技术一键快速替换原片,生成虚构的色情照片。只要愿意付费,该软件甚至可以通过一张图片生成全裸照片和色情视频。

返回顶部