OpenAI最近发布了DALL-E 3图像生成AI的技术报告,揭示了其设置的多重保护机制,以控制其生成内容的风险。报告显示,早期版本的DALL-E 3容易生成令人不适的色情或攻击性图像,新版本通过图像输出分类器进行控制。同时,ChatGPT会自动重写提示词,删除明星姓名等,避免DALL-E 3生成虚假内容。默认只生成西方美学也被纠正。尽管如此,OpenAI承认DALL-E 3生成的图像可能存在版权风险,已设置机制避免模仿艺术家风格。整体来看,OpenAI正在努力与公众讨论如何实现人工智能生成内容的安全与创造性之间的平衡。