随着人工智能生成逼真的儿童虐待材料，关切逐渐加深

加密使追踪罪犯变得复杂

执法官员在追踪涉及分发淫秽内容的罪犯方面面临新的挑战，因为作为标记此类材料的主要资源的Meta已经对其消息服务进行了加密。这种加密使得当局更难以确定和逮捕那些负有责任的人。在技术公司应对这些问题时，隐私权和儿童安全之间的平衡变得更加复杂。

利用人工智能创造逼真的描绘儿童遭受性虐待的图像引发了关于这些图像性质和受害者可能寻求的救济措施的法律问题。立法者正在抓住这些关切，并推动更严格的保护措施来保护儿童。最近在社交媒体上由AI生成的大量虚假的、带有性暗示的泰勒·斯威夫特图像进一步凸显了与这项技术相关的风险。

国会议员正在采取措施解决AI生成的儿童虐待材料引发的关切。他们已经传唤技术高管就他们对儿童的保护措施进行证词，并探讨加强保护措施的方法。司法部儿童虐待和淫秽部门负责人史蒂夫·格洛斯基将利用人工智能创造性虐待儿童的图像描述为“一种特别令人发指的网络剥削形式”。