OpenAI允许用户检查图像是否是使用DALLE AI创建的

OpenAI 推出了一种新工具来识别图像是否是使用其 DALL-E 3 AI 图像生成器创建的。该人工智能公司在一篇博客文章中表示，该工具使用人工智能来预测照片是人工智能生成的可能性，并且还采用了新的水印方法来清楚地标记 OpenAI 生成的内容。

这一消息发布之际，人们越来越担心人工智能生成的内容可能被滥用。据 OpenAI 称，其新的图像检测分类器可以识别图像是否是使用 DALL-E 3 AI 图像生成器生成的。该分类器在识别 DALL-E 3 生成的图像时拥有约 98% 的高精度，即使图像已被裁剪、压缩或饱和度调整。

然而，当面对更广泛的图像处理时，该工具的性能似乎会下降。 OpenAI 承认“其他修改”可能会显着降低分类器的有效性。此外，虽然该工具有望识别使用 OpenAI 的 DALL-E 3 制作的图像，但它对其他 AI 模型的图像的性能并不那么强。分类器只能标记来自 Midjourney 等其他图像生成器的大约 5% 到 10% 的图像。 OpenAI 表示，其目标是通过进一步的测试和改进来改进这方面。

OpenAI 希望通过外部测试人员的反馈来增强分类器的有效性。研究人员和非营利新闻团体可以通过 OpenAI 的研究访问平台访问该工具，以评估其在现实场景中的表现。

水印技术

除了图像检测分类器之外，OpenAI 还致力于其他来源方法来跟踪和证明 AI 生成内容的起源。这包括针对音频等内容的防篡改水印技术，OpenAI 正在有限预览中测试该技术。这些方法使用不可见的信号来标记内容并提供所有权和创建数据。

OpenAI 还加入了内容来源和权威联盟 (C2PA)，现在是其指导委员会成员。 C2PA 计划帮助制定内容凭证标准，内容凭证充当水印，包含有关图像所有权和创建的信息。 OpenAI 在博客文章中表示：“当我们的视频生成模型 Sora 广泛推出时，我们将为该模型集成 C2PA 元数据。”

该公司还启动了一项计划，一组选定的测试人员(例如研究实验室和研究型新闻非营利组织)可以申请访问 OpenAI 的图像检测分类器。该计划是研究人员访问计划的一部分，该计划允许测试人员提供有关图像检测分类器的反馈。 OpenAI 正在寻求反馈以改进该工具及其应用。访问最初仅限于第一组测试人员，现在申请已开放。