谷歌和几家事实核查机构的研究人员表示，人工智能生成的虚假图片激增得如此之快，以至于它们现在几乎和那些通过文字或传统编辑工具（如 Photoshop）篡改的图片一样常见。
研究结果表明，这项技术已经迅速被散布虚假信息的人所接受。但研究人员警告说，人工智能仍然只是利用图片误导公众的一种方式--最常见的仍然是断章取义的真实图片。
在本月在线发布但尚未经过同行评审的一篇论文中，研究人员通过分析可追溯到1995年的近13.6万份事实核查报告，追踪了错误信息的趋势，其中大部分报告发表于2016年之后，截止到2023年11月。他们发现，在2023年春季之前，人工智能在基于图像的误导信息中几乎不占优势，而就在这一年，教皇方济各身穿蓬蓬大衣的假照片在网络上疯传。
"研究人员写道："人工智能生成的内容在事实核查虚假信息声明中的突然突出表现，表明了一种快速变化的格局。
主要研究人员和谷歌代表没有及时发表评论。
亚历克西奥斯-曼扎里斯（Alexios Mantzarlis）在他的时事通讯《Faked Up》中首次标出并评论了这项最新研究，他说，人工智能生成工具的民主化使得几乎任何人都可以轻而易举地在网上散布虚假信息。
曼扎里斯是康奈尔大学位于纽约的研究生院康奈尔科技公司（Cornell Tech）"安全、信任与保障计划"（Security, Trust, and Safety Initiative）的负责人，他说："我们经历过技术进步的浪潮，这些技术在操纵和改变现实方面的能力令我们震惊，而我们现在正在经历这样的浪潮。"问题是，我们能多快适应？然后，我们可以采取哪些保障措施来避免其危害？
我们经历了一波又一波的科技进步浪潮，其操纵和改变现实的能力令我们震惊，而我们现在正经历着这样的浪潮
康奈尔理工学院安全、信任与安全倡议主任亚历克西奥斯-曼扎里斯（Alexios Mantzarlis
研究人员发现，约 80% 经事实核查的不实信息涉及图片和视频等媒体，而自 2022 年以来，视频在这些信息中越来越占主导地位。
研究发现，即使有了人工智能，真实的图片配上虚假的描述或暗示也能继续传播，而不需要人工智能，甚至不需要照片编辑。
"研究人员写道："虽然人工智能生成的图像并没有导致内容操纵超过上下文操纵，但我们的数据收集工作已于2023年底结束，此后情况可能会发生变化。"无论如何，人工智能生成的图像现在在所有与错误信息相关的图像中占据了相当大的比例。
在所有基于图片的错误信息中，文字也占了约 80%，最常见的是截图。
"我们惊讶地注意到，这类案例占了语境篡改的大多数，"论文称。"这些图片在社交媒体平台上的分享率很高，因为它们不需要分享者自己复制虚假的语境声称：它们就嵌入在图片中。"
弗吉尼亚理工大学传播学院公共关系教授兼研究生部主任凯斯-迈尔斯（Cayce Myers）说，语境处理比人工智能生成的图像更难被发现，因为它们看起来已经很真实了。
"迈尔斯在接受采访前查看了最近的研究结果，他说："从这个意义上说，这是一个更加隐蔽的问题。"因为比方说，如果你有一张完全由人工智能生成的图片，有人看了之后会说'这看起来不太对劲'，这和看到一张真实的图片有很大的不同，而这张图片的标题却歪曲了图片的内容。
然而，随着技术的进步，即使是基于人工智能的错误信息也越来越难以发现。迈尔斯说，人工智能生成图像的传统特征--异常情况，如手部畸形、乱码文字或五条腿的狗--自这些工具开始普及以来已经 "大大 "减少了。
本月早些时候，在 Met Gala 晚会期间，两张人工智能生成的凯蒂-佩里（Katy Perry，她并没有出席此次盛会）的病毒图片乍一看非常逼真，甚至连她的妈妈都误以为这位歌手出席了此次盛会。
研究指出，虽然人工智能模型通常不会接受生成截图和备忘录等图像的训练，但随着高级语言模型的不断迭代，它们有可能很快学会可靠地生成这些类型的图像。
Mantzarlis 说，随着人工智能工具的日益成熟，要想可靠地分辨错误信息，人们必须学会质疑内容的来源或发布者，而不是质疑视觉效果本身。
"Mantzarlis 说："仅凭内容已不足以让我们对真实性、可信度和真实性进行评估。"我认为你需要了解全部背景：是谁与你分享的？如何分享的？你怎么知道是他们？
但该研究指出，仅仅依靠经过事实核查的说法并不能涵盖所有的不实信息，因为往往是那些病毒式传播的图片最终经过了事实核查。此外，研究还只依赖于用英语发布的错误信息。这就遗漏了许多浏览量较低或非英语的错误信息，它们在野外漂浮而未被检查。
尽管如此，Mantzarlis 说，他相信这项研究反映了网上英文错误信息案例的 "良好样本"，尤其是那些受众人数足够多、足以引起事实核查人员注意的案例。
在迈尔斯看来，影响任何有关虚假信息研究的最大限制--尤其是在人工智能时代--将是虚假信息本身的快速变化。
"迈尔斯说："对于那些正在研究如何处理虚假信息的人来说，问题在于这是一个不断发展的技术现实。"迈尔斯说："要捕捉到这一点非常困难，因为你在2024年5月研究的东西，到了2024年6月可能已经是截然不同的现实了。
