美国国土安全部在最近一份分发给州和地方官员的公告中说,随着2024年美国大选周期的推进,用于制作虚假视频、音频和其他内容的人工智能工具很可能会给外国特工和国内极端分子更多的干扰机会。
美国国土安全部情报与分析办公室5月17日发布的公告称,在美国大选期间,各种威胁行为体很可能会试图利用生成式人工智能(或创建虚假内容的人工智能)来影响或挑拨离间。
公告称,虽然由于被发现的风险较高以及投票系统的分散性和多样性,对选举发动大规模攻击的可能性较小,但威胁行为者仍可能试图开展有限的行动,导致关键的选举战场地区受到干扰。
例如,外国或本国特工人员可能会试图迷惑或压倒选民和选举工作人员,他们会散发伪造或篡改的视频或音频片段,声称投票站已关闭或投票时间已改变。
与2020年选举一样,2024年选举的选举官员将在一个混乱的、有时甚至是充满敌意的信息环境中工作,在这种环境中,大部分选民错误地认为选举系统中普遍存在舞弊现象。前总统唐纳德-特朗普最近拒绝承诺接受选举结果。
但与2020年不同的是,根据美国官员和私人专家的说法,人工智能工具提供了一种简便的方法,可以极大地放大虚假的选举舞弊指控和选举阴谋论。
关注选举安全的美国官员担心人工智能工具会加剧本已十分严峻的威胁环境,并以1月份新罕布什尔州民主党初选期间发生的一起事件为例。一个模仿乔-拜登总统的人工智能机器人电话瞄准了初选中的选民,敦促他们不要投票。新奥尔良的一位魔术师告诉记者,他是在明尼苏达州众议员迪恩-菲利普斯的政治顾问的授意下打出这个机器人电话的。
据美国有线电视新闻网上周报道,为中国和伊朗政府工作的特工准备了人工智能生成的虚假内容,作为在2020年大选竞选的最后几周影响美国选民的活动的一部分。了解情报的现任和前任官员说,中国和伊朗特工从未公开传播过深度伪造的音频或视频。
当时,一些审查过该情报的美国官员对此不以为然,认为它表明中国和伊朗缺乏部署深度伪造系统的能力,无法对2020年总统大选造成严重影响。
在过去的四年里,人工智能的能力有了长足的进步。它们更容易使用,需要更少的样本就能令人信服地模仿某人的声音或面孔。因此,这种技术正在坏人中间扩散。
根据国土安全部的新公告,外国政府支持的特工在针对美国人的影响行动中越来越多地使用了生成式人工智能。与此同时,一些暴力极端分子越来越多地表达了对生成式人工智能的兴趣,以在网上创建暴力意识形态内容,并宣传如何利用人工智能的指南。
根据微软上个月发布的研究报告,当美国民意调查机构在11月大选前努力确定选民偏好时,中国的巨魔也在努力。微软分析师有相当把握认为,社交媒体平台X上的一系列账户是由中国政府运营的,这些账户询问其追随者对美国援助乌克兰和其他热点话题的看法。
微软威胁分析中心负责人克林特-瓦茨在最近的一次采访中说:他们可能是在进行受众侦察以及展示某种隐蔽能力。微软威胁分析中心负责人克林特-沃茨最近在接受采访时说:我不认为他们能很好地掌握美国受众对什么感兴趣。
针对美国受众开展影响力行动的中国行动者正在扩大能力,尝试新事物,瓦茨说,但与此同时,在文化背景和了解美国受众方面,比方说在2015年或2016年,他们还不如俄罗斯人。