OpenAI 开发了用于图像检测和水印的新工具

用于人工智能生成内容的新图像检测分类器

OpenAI 创建了一个新的图像检测分类器，使用人工智能来确定图片是否由其 DALL-E 3 模型生成。即使图片被裁剪、压缩或饱和度改变，该分类器也能正常工作。对于检测 DALL-E 3 图像，它的准确率约为 98%，但在识别来自其他人工智能模型（如 Midjourney）的内容方面，准确率不高，仅标记出 5% 到 10% 的图片。

内容来源的水印方法

OpenAI 实施了防篡改的水印，以追踪由人工智能生成的内容的来源。这些水印，被称为内容凭证，包含有关图片所有权和创建过程的信息。OpenAI 与微软、Adobe 等公司一起，是内容来源和权威性联盟（C2PA）的成员，并将内容凭证添加到图像元数据中。OpenAI 还加入了 C2PA 的指导委员会。

音频内容的水印

除了图像水印外，OpenAI 还开始给其文本转语音平台 Voice Engine 的音频剪辑添加水印。这些水印作为一种方式，用于给音频内容添加不可见信号。图像检测分类器和音频水印方法仍在改进中，OpenAI 正积极寻求用户的反馈以测试其效果。研究人员和非营利新闻组织可以将图像检测分类器应用于 OpenAI 的研究访问平台进行测试。