OpenAI 考虑允许AI生成的不适宜工作场所内容，但排除名人的深度伪造

快速导读：OpenAI是ChatGPT背后的公司，正在探索使用其AI工具允许用户创建不适宜工作场所（NSFW）内容的可能性。然而，OpenAI明确表示，将禁止深度伪造，例如泰勒·斯威夫特的露骨图片。该公司旨在了解用户和社会对生成露骨内容的期望，这可能包括情色作品、极端暴力、侮辱性言论和未经请求的粗俗语言。OpenAI通过这一举措可能会削弱其生产安全和有益AI的使命。

OpenAI AI Chatbot的规则和原则

OpenAI在其“模型规范”文件中概述了其AI Chatbot必须遵守的规则和原则。OpenAI模型负责人Joanne Jang表示，公司有兴趣讨论是否应该始终禁止生成情色文本和裸体图片。然而，Jang强调，将不允许涉及使用某人的肖像来创建虚假露骨图片的深度伪造。OpenAI旨在在法律和道德边界内实现最大用户控制，但深度伪造完全不可接受。

探索情色和创意表达的界限

OpenAI正在考虑扩展AI对涉及性或裸体的提示的回应能力，作为一种创意表达形式。虽然当前的模型规范限制了ChatGPT生成热情四溢的故事或露骨内容，但Jang认为在某些创意案例中，这样的内容对用户很重要。OpenAI希望在适龄的背景下探索这种可能性，确保它不具有虐待性或非法性。该公司坚称，其无意创造AI生成的色情作品，并将保护儿童放在首位。