AI生成的合成图像泛滥且真假难辨，专家呼吁政策监管势在必行

AI生成的合成图像泛滥且真假难辨，专家呼吁政策监管势在必行

4月3日消息，前段世间网上出现了一些美国前总统特朗普被纽约警察逮捕的照片，引起了很多人的关注。然而，这些照片并不是真的，而是由人工智能 (AI) 技术生成的合成图像。



专家们提醒说，这些合成图像显示了一个新的现实：在重大事件发生时，社交媒体上可能会充斥着虚假的图片和视频，进一步混淆事实、误导公众，因此亟须部署相关技术并制订相关政策，对类似技术进行监管。

据4分贝了解，这些“特朗普被捕”的照片是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特・希金斯用AI绘画工具 Midjourney 制作的。值得一提的是，Midjourney 近日以滥用为由暂停了免费试用，Midjourney CEO 和创始人 David Holz 在宣布这一决定时表示免费用户流量过大，试用遭滥用。

希金斯说，他想要把有关特朗普可能被捕的消息可视化，于是用 Midjourney 这款文本到图像模型生成了一些看起来很逼真的照片，并在推特上分享。这条推文在两天内被浏览了近 500 万次，并获得了超过 7.9 万个点赞。

人工智能专家说，虽然制作和生成虚假图片的技术并不新鲜，但该领域技术的进步速度以及人们对技术的滥用值得关注。数字内容分析公司 Truepic 的穆尼尔・易卜拉欣说，“合成内容正在快速发展，真实和虚假内容之间的差距变得越来越难分辨”。

《财富》杂志指出，如今各种AI图像生成工具变得触手可及，它们可在用户发出简单指令后，迅速生成海量栩栩如生的图片。例如，Midjourney 这款文本到图像模型现在可生成模仿新闻机构照片风格的图像，如此一来，这些 AI 生成的图片有望在混乱的新闻环境中“浑水摸鱼”，混淆视听。

希金斯认为，随着合成图像越来越难辨真假，对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育，社交媒体公司可把重点放在开发能够辨别 AI 生成图像的新技术上，并将这种技术融入自己的平台。

“特朗普被捕”虚假图片在互联网泛滥还表明，目前缺乏企业标准或政府法规来解决使用 AI 制造和传播谎言的问题。专家们都认为，特朗普的高知名度让人们很容易识破他的假照片，但是普通人的假照片就不那么好辨别了，而且制作假照片的技术还在不断提高。因此，有必要通过立法来规范深度合成技术的使用。