国家警察署在接受采访时发现，在该署利用几种人工智能生成服务进行的实验中，可以创建几种类型的病毒，包括勒索型计算机病毒，勒索软件。
这证实了利用服务中的漏洞，在没有高级专业知识的情况下也能创建病毒的事实，并表明了病毒被用于犯罪的风险。
今年，信息技术分析部首次利用公共服务进行了这项实验。5月份，一名男子因利用生成的人工智能制造病毒而被警视厅抓获，这在日本尚属首次。
由公司提供的ChatGPT等生成式人工智能服务具有限制回答与犯罪和歧视有关的问题和命令的功能，但警察厅在某些情况下能够绕过此类功能，例如，通过输入不同的措辞和命令截止点。
除了病毒制造之外，人们对滥用生成型人工智能的担忧也与日俱增，包括传播虚假信息和侵犯人权。
去年5月，政府成立了人工智能战略委员会，讨论制定人工智能使用规则。国家警察厅也参与其中，并将根据此次实验的结果研究风险。
