研究人员发现,围绕最近皮埃尔-波利耶夫尔活动的疑似机器人活动表明,任何人都可以轻易获得生成人工智能工具,以影响网络政治信息。7月,在保守党领袖访问北安大略省后,社交媒体X平台上出现了大量帖子。
这些帖子声称来自参加过波利耶夫勒在安大略省柯克兰湖举办的活动的人,但实际上是由俄罗斯、法国和其他地方的账户发布的,其中许多帖子的信息内容相似。
康考迪亚大学和渥太华大学的研究人员最近进行了几次测试,看看他们能否让五种生成式人工智能工具创造出类似于七月机器人竞选期间的政治信息。
研究人员要求免费提供的人工智能平台创建50种不同的语句来描述加拿大多位政治领导人举行的集会:波利耶夫尔、总理贾斯汀-特鲁多、新民主党领袖贾格米特-辛格、魁北克集团领袖伊夫-弗朗索瓦-布兰切特和绿党领袖伊丽莎白-梅
项目负责人之一、渥太华大学教授伊丽莎白-杜波依斯说,这很简单,也很迅速,这告诉我们,我们的监管体系目前存在漏洞。平台有时会说,'我们不想被用于选举。我们不希望你将我们的工具用于政治。这违反了我们的条款。但实际上,大多数工具都允许你这样做。
杜波依斯说,这些发现令人担忧,因为使用人工智能工具生成政治信息可能会损害政治竞选和选举的公平性。保守党否认参与柯克兰湖僵尸活动。多伦多都会大学社交媒体实验室的另一份报告认为,该活动很可能是业余爱好者所为。
杜波依斯说,在柯克兰湖事件中很可能使用了某种自动化手段,但目前还不清楚具体是什么工具生成了这些信息。报告确实指出,ChatGPT在回复测试提示时提供的一些描述性语言,如电、嗡嗡和可感,与7月份事件中的描述类似。
当Dubois和她的同事将生成的信息通过X的三种人工智能文本检测工具进行检测时,所有三种工具都无法确定这些信息是否是人工智能生成的。但杜波依斯说,她对这一发现并不感到惊讶。
杜波依斯说,具体就X而言,部分问题在于,由于平台的280个字符限制,检测工具可使用的数据有限。检测工具没有足够的数据来判断这是否可能来自生成式人工智能工具。她说,我们在单条推特或X帖子中没有足够的文本来判断。
杜波依斯说,让人工智能生成的信息自动发布到社交媒体网站上需要一些技术工作。要想大规模地做到这一点,需要编写一些脚本来自动发布。她说,这本身并不难,但需要一些技术知识。
在使用的五个人工智能平台中,只有谷歌的双子座拒绝生成所要求的信息。微软的Copilot最初拒绝了生成有关特鲁多的信息的请求,但在对提示稍作修改后默许了这一请求。
杜波依斯说,政府应考虑在涉及政治时,围绕人工智能生成技术的使用制定相关法规。但她也表示,人工智能公司需要实行更多的自我管理。坦率地说,政府监管确实需要一段时间。她说,至少在可预见的未来,人工智能总是领先一步。
这些人工智能公司不仅需要声明你不应该使用我们的工具制造政治信息和影响选举,还需要在其系统中建立防止这种情况发生的方法。新民主党已要求选举专员调查7月份的僵尸竞选活动,但专员办公室尚未表示是否会调查此事。