追踪在线儿童剥削的不堪重负系统与AI生成内容的威胁

快速导读：斯坦福互联网观察所的一份新报告突显了国家追踪和起诉在线儿童剥削者的系统所面临的挑战。报告揭示了当前的系统依赖于CyberTipline处理在线儿童性虐待材料（CSAM）的举报，但面临着不堪重负和无法有效解决问题的困境。由于各种限制，包括资金短缺和法律约束，只有很小一部分举报会导致逮捕。报告警告称，随着AI生成的CSAM的兴起，问题可能会恶化，这可能会分散对真正需要救助的儿童的资源。

当前系统面临的挑战

斯坦福报告指出当前系统在解决在线儿童剥削问题上面临着几个关键挑战。这些挑战包括一些科技公司对CSAM的低质量举报、国家失踪与被剥削儿童中心（NCMEC）的资源匮乏、NCMEC和执法机构的法律限制以及处理越来越多的举报的困难。这些问题导致逮捕犯罪分子和有效解决问题的成功率有限。

AI生成的CSAM的威胁

报告突出了AI生成的CSAM的新威胁，这可能进一步压垮系统。AI图像生成器可以创建与真实照片无法区分的虚拟儿童的逼真图像。这可能导致性意象的泛滥，掩盖了真实虐待案件，分散了救助真实儿童的资源。报告强调，在AI生成的CSAM普及问题加剧之前，迫切需要解决当前系统的限制。

改进建议

报告呼吁采取各种措施加强当前系统，打击在线儿童剥削。这些建议包括增加NCMEC的资金，明确科技公司处理和举报CSAM的法律，以及投资改进科技公司对CSAM的检测和举报。报告还建议改进NCMEC的技术，并对执法人员进行调查CSAM举报的培训。报告敦促国会、科技公司和执法机构采取行动，应对在线儿童剥削和AI生成内容所带来的挑战和威胁。