科技公司承诺审查AI训练数据以防止儿童色情虐待材料

对深度伪造图像和AI生成的CSAM的担忧

生成式AI的使用引发了对深度伪造图像的扩散的担忧，包括在网络上流传的虚假CSAM照片。去年12月，斯坦福大学的研究人员发现一个广泛使用的用于训练AI模型的数据集包含CSAM图像的链接。此外，国家失踪和被剥削儿童中心（NCMEC）的举报热线已经难以处理大量报告的CSAM内容，现在还受到了由AI生成的CSAM图像的压倒性。

AI图像生成对儿童保护工作的影响

与All Tech Is Human合作的反儿童虐待非盈利组织Thorn强调了AI图像生成的负面影响。它阻碍了识别受害者的努力，推动了对CSAM的需求，使对儿童进行新的虐待和再次虐待成为可能，并促进了有问题材料的传播。通过承诺遵守所概述的原则，科技公司旨在解决这些问题，并为保护儿童在线做出贡献。