微软工程师向FTC报告AI图像生成器的安全问题

安全问题和有害图像

微软工程师Shane Jones对该公司的AI图像生成器Copilot Designer提出了安全问题，并向联邦贸易委员会（FTC）报告了此问题。Jones发现该工具能够生成有害图像，包括恶魔、怪物、性感女性图像、涉及暴力和未成年人饮酒的场景。他还发现该工具生成了迪士尼角色的图像，比如《冰雪奇缘》中的艾莎，出现在不适当的场景中，比如加沙地带和穿着以色列国防军制服。

反复警告和缺乏行动

Jones自去年12月以来一直试图警告微软有关Copilot Designer的问题。他在LinkedIn上发布了一封公开信，但被微软的法律团队联系并要求删除了该帖子，他也照做了。尽管他多次警告，微软并未下架该工具或实施更好的安全防护措施。Jones给FTC写了一封信，称微软“拒绝”采取行动，并继续在未解决安全问题的情况下推销该产品。

微软的回应

微软尚未就Jones提出的安全问题以及Copilot Designer的报告问题作出回应。该工具使用DALLE-3模型，因生成有害和不当图像而受到批评。Jones将他的关切带给FTC，以解决安全问题并确保实施更好的安全防护措施。