OpenAI正开发新的AI图像检测工具
-
0
-
0
+1 你赞过了
0
0
+1 你赞过了5月8日消息,OpenAI推出一款工具,用于检测图像是否由其DALL-E AI图像生成器制作,以及新的水印方法来更清楚地标记其生成的内容。
OpenAI方面称,该公司已经开始开发新的来源方法来跟踪内容,并判断是否由人工智能生成。其中包括一个新的图像检测分类器,来确定照片是否是人工智能生成的,以及一个防篡改的水印,可以用不可见的信号标记音频等内容。
OpenAI声称,即使图像被裁剪、压缩或饱和度被改变,分类器也能工作。虽然该工具可以检测图像是否由DALL-E 3制作,准确率约为98%,但其在判断内容是否来自其他AI模型方面的性能并不那么好,仅标记来自其他图像生成器的5%到10%的图片。
除了图像分类器,OpenAI 还开始向其文本到语音平台 Voice Engine 的片段添加水印。这一功能目前处于有限预览阶段。
据了解,OpenAI多年来一直致力于检测人工智能生成的内容。然而,在2023年,该公司不得不结束一个试图识别人工智能编写的文本的程序,因为人工智能文本分类器的准确率一直很低。
最新资讯
新品评测
0
+1 你赞过了0
閻╊喖澧犲鍙夋箒0閺壜ょ槑鐠侊拷