韩国第一大搜索引擎Naver周三表示，它正在其平台上运行Clova Green Eye 2.0，利用基于其人工智能模型视觉技术的图像分析解决方案来识别有害和色情图片。
Naver表示，虽然该解决方案并非专门用于扫描深度伪造和人工智能生成的内容，但它可以监控上传到门户网站及其博客和社区空间的所有淫秽内容，并自动删除被认定为不恰当的内容。
Clova Green Eye背后的人工智能会根据韩国通信标准委员会提供的互联网内容分级，将图片和内容分为四个阶段，淫秽、成人、色情和正常。它将图像与数百万经过训练的其他图像进行比较，从而决定删除或保留图像。
该公司于2017年首先推出了该计划，并在自己的平台上使用，之后于2022年升级了模式，将其作为解决方案出售给其他公司。
这家以Hyper Clova X引领国内生成式人工智能领域的科技巨头，对引入图像生成功能持谨慎态度。最近，该公司宣布更新Hyper Clova X，使生成式人工智能聊天机器人能够识别图像并回复用户的询问。
Naver一直在开发可与ChatGPT的Dall-E竞争的人工智能图像生成技术。但它仍在考虑为其聊天机器人推出类似服务。
Naver还宣布开发了Clova Speech X语音合成程序，该程序可根据输入的语音数据重新创建语音。该公司重申，它只是开发了这项技术，并不打算很快推出基于这项技术的服务。
Naver的一位官员说，在人工智能生成图像和语音方面，用户安全是一个比技术本身更大的问题。
只有在我们提出了解决滥用风险的适当方案，并且知道这些功能在商业上有利可图时，我们才会考虑推出采用这些技术的服务。
为了防止用户遭受网络钓鱼攻击，Kakao在其反滥用系统中引入了一个假信号，通过人工智能和机器学习技术分析账户信息和用户历史记录，自动检测KakaoTalk信使应用程序上的可疑账户。
不过，Kakao指出其监控工作存在局限性，因为个人之间和开放聊天室中的对话完全不受公司监控。
我们无法通过扫描所有聊天记录来发现个人是否在向他人发送不适当的内容，并事先阻止他们发送这些内容。Kakao的一位官员说，这将侵犯隐私。
但我们意识到淫秽内容的严重性，并在接到此类犯罪举报时与当局合作。
自今年6月兼并Kakao Brain的人工智能研究团队以来，Kakao在人工智能领域一直保持低调。7月，KakaoBrain关闭了根据用户要求创建图像的生成式人工智能服务。
虽然关闭人工智能图像生成服务是业务管理战略的一部分，但Kakao强调这也阻止了用户创建明确的内容。
我们没有很快推出此类服务的计划。但我们拥有相关技术，如果将来要推出此类服务，我们将确保拥有过滤解决方案和反滥用系统，以保护用户免受露骨内容的侵害。
