移动报到应用程序将使用生物识别技术来确认一个人的身份,并在他们使用该应用程序报到时记录他们的位置数据。通过获取信息获得的文件显示,加拿大边境服务局早在2021年就提出了这样一个应用程序。
发言人证实,一款名为Report In的应用程序将于今年秋季推出。
专家们提出了许多令人担忧的问题,质疑用户同意的有效性以及该技术如何做出决定的潜在保密性。
2021年的一份文件称,每年约有2000名被勒令离境的人没有出现,这意味着加拿大边境服务局必须花费大量资源来调查、寻找这些客户,有时甚至拘留他们。
该机构提出,智能手机应用程序是一个理想的解决方案。
通过应用程序定期更新个人的住址、就业、家庭状况等信息,将使加拿大边境服务局能够掌握相关信息,用于联系和监控客户,以发现任何违规的早期迹象。
此外,由于实现了自动化,客户更有可能感到参与其中,并认识到加拿大边防事务局对其案件的了解程度。
此外,该文件还指出:如果客户没有出现,通过应用程序收集的信息将为找到客户提供良好的调查线索。
一份尚未在联邦政府网站上公布的该项目的算法影响评估报告称,由于技术故障,加拿大边境服务局尝试使用的生物识别语音技术正在逐步淘汰,因此该局开发了ReportIn应用程序来取而代之。
它说,通过移动设备/智能手机上的传感器和全球定位系统提供的个人面部生物识别信息和位置信息会通过ReportIn应用程序记录下来,然后发送到加拿大边境服务局的后台系统。
人们提交照片后,面部对比算法会生成与参考照片的相似度得分。
如果系统无法确认面部匹配,就会触发一个程序,让警员对案件进行调查。
文件说,每次报告时,如果个人没有遵守条件,也会收集他们的位置信息。文件指出,不会对个人进行持续跟踪。
该应用程序使用了亚马逊网络服务公司的技术。这一选择引起了麦克马斯特大学数字社会公共政策项目执行教育主任布伦达-麦克菲尔的注意。
她说,虽然许多面部识别公司都会向美国国家标准与技术研究院提交算法进行测试,但亚马逊从未主动这样做。
亚马逊网络服务公司发言人说,亚马逊Rekognition技术经过了广泛的测试,包括由CredoAI和iBeta质量保证公司等第三方进行的测试。
发言人补充说,AmazonRekognition是一个基于云的大型系统,因此不能像NIST参与指南中描述的那样进行下载。
发言人说,这就是为什么我们的RekognitionFaceLiveness要提交给iBeta实验室进行行业标准测试的原因。
加拿大边防局的文件称,所使用的算法将属于商业机密。麦克菲尔问,在这种可能会改变生活的情况下,使用一种受商业机密或专有机密保护的工具,剥夺人们了解有关他们的决定是如何真正做出的权利,是否合适。
温莎大学副教授兼法律、机器人技术与社会系主任克里斯汀-托马斯恩说,提及商业机密是一个信号,可能会有法律障碍阻止有关该系统的信息。
她解释说,多年来,人们一直担心受系统错误影响的人因知识产权保护而无法获得更多信息。
加拿大边境服务局发言人玛丽亚-拉杜瑟说,该局开发这款智能手机应用程序的目的是让受移民执法条件限制的外国公民和永久居民无需亲自到加拿大边境服务局办公室报到。
她说,该机构与隐私专员办公室就该应用程序进行了密切磋商。注册汇报将是自愿的,用户需要同意使用该应用程序,并同意使用他们的肖像来验证他们的身份。
约克大学难民法实验室副主任佩特拉-莫尔纳说,在实施该应用程序的机构和接受者之间存在着权力不平衡。
在这种存在巨大权力差异的情况下,一个人真的能真正同意吗?
Ladouceur说,如果个人不同意参与,他们可以选择当面报告。
托马斯恩还提醒说,面部识别技术存在出错的风险,而种族化的人和肤色较深的人出错的风险更高。
莫尔纳说,文件中基本上没有讨论,人权影响,这非常令人不安。
加拿大边防事务局发言人说,CredoAI审查了该软件对人口群体的偏见,发现在六个不同的人口群体中,面部匹配率达到99.9%。
最终决定将由人工做出,并由官员监督所有提交的材料,但专家们指出,人类倾向于相信技术做出的判断。
Thomasen说,人们有一种相当普遍的,心理倾向,即人们认为计算机系统较少偏差或更准确,因而会遵从计算机系统的专业知识。