性侵犯者在具有里程碑意义的案例中被禁止使用人工智能工具

快速导读：在英国一起具有开创性的案件中，一名性侵犯者被禁止在未来五年内使用任何“AI创作工具”。安东尼·多弗因制作了1000多张儿童淫秽图片而被定罪，被命令在未经警方许可的情况下不得使用人工智能生成工具。此禁令包括文本转图像生成器和用于创建明确的“深度伪造”网站。此案突显了对人工智能生成的性虐待图像不断增加的担忧以及对更严格监管的需求。

人工智能生成工具与性虐待图像的威胁

对性侵犯者的人工智能工具禁令是一系列起诉中的最新发展，其中人工智能生成成为一个重要问题。慈善机构一直在警告人工智能生成的性虐待图像越来越普遍。政府最近引入了一项新罪名，即未经18岁以上个人同意制作具有性暗示的深度伪造图像是非法的。制作、拥有和分享人工儿童性虐待材料早已是非法的，但使用人工智能生成的内容给执法部门带来了新的挑战。

对人工智能生成的儿童性虐待图像的起诉和担忧

最近的几起案件突显了人工智能生成内容在儿童性虐待罪行中的使用。互联网观察基金会(IWF)将这些起诉描述为一个“里程碑”时刻，强调了犯罪分子使用人工智能工具制作的图像的令人担忧的性质。尽管目前人工智能生成的性虐待图像在报告案件中所占比例相对较小，但其数量在缓慢但持续增加。露西·费斯福尔德基金会(LFF)也对“裸体化”工具的使用和人工智能图像的趋势表示担忧，并敦促科技公司采取行动阻止此类内容的制作。