OpenAI考虑允许AI生成的淫秽内容，尽管Deepfake已被禁止

快速导读：OpenAI是ChatGPT和DALL-E背后的公司，正在探索允许用户使用其产品创建人工智能生成的色情和其他淫秽内容的可能性。尽管OpenAI强调禁止深度伪造技术仍适用于成人材料，但批评人士认为这一提议与该公司生产“安全和有益”的人工智能的使命相矛盾。OpenAI正在寻求了解用户和社会对不适宜工作环境（NSFW）内容负责任创作的期望。OpenAI发布的讨论文件引发了关于色情定义和与人工智能生成的淫秽材料相关的潜在风险的争论。

探索在适龄环境中创建NSFW内容

OpenAI允许通过其人工智能工具生成情色文本和裸体图像的提议引发了关于此的担忧和讨论。OpenAI员工Joanne Jang澄清称，公司旨在允许用户在遵守法律并尊重他人权利的前提下对内容创作拥有最大控制权。然而，Jang强调严禁启用深度伪造技术。OpenAI有意在适龄环境中探索涉及性或裸体的内容的创造性案例。公司的目标是促进关于负责任使用人工智能的讨论。

批评者质疑OpenAI的使命和责任

批评人士认为OpenAI考虑AI生成的淫秽内容削弱了其发展安全和有益的人工智能的使命。儿童在线安全活动家Beeban Kidron指责OpenAI迅速削弱了自己的使命宣言。法学教授Clare McGlynn对科技公司负责任地生产成人内容的能力表示怀疑，并质疑他们可能实施的任何限制的有效性。OpenAI的当前政策已经禁止性暗示或暗示的内容，但对科学或教育材料有例外。

围绕AI生成的淫秽内容的风险和限制的争论

AI生成的色情内容的传播已成为一个关注点，因为它可以被用于恶意目的，例如未经个人同意创建深度伪造的裸体图像。互联网观察基金会警告称，恋童癖者正在使用免费提供的AI技术创建儿童的裸体图像。围绕OpenAI提议的讨论引发了关于色情定义和与人工智能生成的淫秽材料相关的潜在危害的讨论。OpenAI的技术目前已经包含了防止创建此类内容的保护措施，但该公司正在探索提供更多控制和灵活性给艺术家和创作者的方式，同时确保负责任的使用。