OpenAI将推出工具来检测DALLE3创建的图像

• 2024-06-05 17:12:52

摘要在人们越来越担心人工智能生成的内容将如何影响今年的全球选举之际，这家由微软支持的初创公司周二表示，OpenAI 正在推出一款可以检测其文...

在人们越来越担心人工智能生成的内容将如何影响今年的全球选举之际，这家由微软支持的初创公司周二表示，OpenAI 正在推出一款可以检测其文本转图像生成器 DALL-E 3 创建的图像的工具。

该公司表示，该工具在内部测试中约 98% 的时间正确识别了 DALL-E 3 创建的图像，并且可以以最小的影响处理压缩、裁剪和饱和度变化等常见修改。

ChatGPT 的创建者还计划添加防篡改水印，以使用难以删除的信号标记照片或音频等数字内容。

作为努力的一部分，OpenAI 还加入了包括谷歌、微软和 Adobe 在内的行业组织，并计划提供一项有助于追踪不同媒体来源的标准。

今年 4 月，在印度正在进行的大选期间，两名宝莱坞演员批评总理纳伦德拉·莫迪的虚假视频在网上疯传。

人工智能生成的内容和深度伪造的传播在印度以及世界其他地方的选举中被越来越多地使用，包括美国、巴基斯坦和印度尼西亚。

OpenAI 表示，它将与微软联合推出 200 万美元的“社会复原力”基金，以支持人工智能教育。

标签：