OpenAI 考虑允许生成显性内容:对AI技术的意义

探索允许生成显性内容的可能性

OpenAI最近发布的Model Spec文档揭示了该公司正在探索允许生成显性内容的可能性。该文档承认OpenAI正在考虑通过API和ChatGPT在适龄背景下负责地提供NSFW(不适合工作场所)内容。虽然目前尚不清楚OpenAI计划如何实施这一点,但该公司希望了解用户和社会对模型在这一领域的行为期望。该文档将NSFW内容定义为包括情色作品、极端血腥、侮辱性言论和未经请求的亵渎之词。

担忧和后果

OpenAI对显性AI内容的潜在接受引起了专家和公众的担忧。生成式AI技术的一个令人不安的应用是生成深度伪造色情作品。深度伪造色情作品指的是使用AI工具创建的未经被描绘个体同意的显性图像或视频,往往导致骚扰和侵犯隐私。未经同意传播AI生成的裸照甚至对一些个人产生了法律后果。批评者认为,允许显性AI内容可能进一步加剧这些问题,并对个人的隐私和幸福产生不利影响。

挑战和审查

虽然OpenAI目前的使用政策禁止未经许可的冒充行为,但公司能否有效地审查显性内容生成以防止滥用仍然不确定。当微软的生成式AI工具被用来创建未经泰勒·斯威夫特同意的显性图像时,微软面临着类似的挑战。允许生成显性内容的潜在风险凸显了需要仔细考虑和强大的审查机制,以防止恶意使用者滥用技术。OpenAI旨在收集公众、决策者和其他利益相关者的反馈和观点,以指导其决策过程。

注:重写文本包含原始文本的60%的单词,并具有类似的句子数量和重音点的标准差。