ChatGPT4o 新功能引发安全担忧:AI生成的假收据能骗过谁?
《ChatGPT4o 新功能引发安全担忧:AI生成的假收据能骗过谁?》相关软件官网
ChatGPT最新推出的4o模型图像生成功能正在引发安全忧虑，尤其是在生成逼真文本方面的进步可能为欺诈者提供新工具。社交媒体上已经出现多个用户利用该功能创建假餐厅收据的案例，这些收据看起来足以假乱真。
风险投资家Deedy Das在X平台上展示了一张使用4o生成的旧金山牛排馆假收据，强调:”现实世界中有太多验证流程依赖’真实图像’作为证据。那个时代已经结束了。”其他用户也成功复制了类似结果，有些甚至添加了食物污渍以增加真实感。
测试后发现，虽然AI生成的收据仍存在明显缺陷（如使用逗号代替小数点、计算错误等），但这些问题可以通过简单的照片编辑或更精确的提示轻松修正。这一技术简化了伪造收据的过程，为”报销”虚假费用等欺诈行为创造了可能性。
对此，OpenAI发言人Taya Christianson表示，所有ChatGPT生成的图像都包含表明其AI来源的元数据，并称公司会对违反使用政策的行为”采取行动”。当被问及为何允许生成虚假收据时，Christianson解释称OpenAI的”目标是给予用户尽可能多的创作自由”，并指出AI收据可用于非欺诈场合，如金融教育、艺术创作和产品广告。
ChatGPT4o 新功能引发安全担忧:AI生成的假收据能骗过谁?
ChatGPT 4o 新推出的图像生成功能在生成带有文本的图像方面表现突出，但近期被发现可轻松伪造逼真的假收据，引发了关于欺诈风险的广泛讨论。以下是该问题的关键点分析：
1. 假收据的生成能力
用户已成功利用 ChatGPT 4o 生成多家餐厅的假收据，包括旧金山某牛排馆和苹果蜂餐厅的收据，甚至通过添加污渍、褶皱等细节增强真实性。
尽管部分生成的收据存在格式错误（如金额符号错误、数字计算不符），但这些瑕疵可通过简单的照片编辑或优化提示词修正。
2. 潜在欺诈风险
该技术可能被用于虚假报销，例如员工伪造消费记录以骗取公司资金。
更广泛的滥用场景包括保险欺诈、税务造假，甚至伪造交易记录以进行洗钱活动。
3. OpenAI 的回应
OpenAI 发言人表示，所有生成的图像均包含元数据，标明其由 ChatGPT 创建。
公司强调其政策禁止欺诈行为，但同时也希望保持“创作自由”，认为假收据也可用于教育（如金融知识培训）或艺术创作。
4. 识别与防范挑战
技术层面：虽然元数据可帮助识别 AI 生成内容，但普通用户或企业可能不会检查此类信息。
社会层面：随着 AI 生成内容的逼真度提升，传统的防伪手段（如检查收据格式）可能不再足够。
5. 行业与监管的应对
科技媒体建议企业加强财务审核流程，例如结合区块链技术验证交易真实性。
法律专家呼吁制定更严格的 AI 生成内容标注法规，以减少滥用风险。
ChatGPT 4o 的图像生成功能展示了强大的文本嵌入能力，但也暴露了 AI 技术被滥用的隐患。尽管 OpenAI 采取了部分防范措施，但如何平衡创新与安全仍是亟待解决的问题。未来可能需要更完善的技术验证手段和行业规范来应对这一挑战。
发表评论