谷歌在谷歌搜索中首次推出人工智能概述还不到两周时间，在人工智能功能中出现无意义或不准确的查询结果后，公众的批评声就越来越多，而且没有任何退出的方法。
人工智能概述在谷歌搜索的顶部显示搜索问题答案的快速摘要。例如，如果用户搜索清洗皮靴的最佳方法，搜索结果页面的顶部可能会显示一个人工智能概述，其中包含一个多步骤的清洗过程，该过程是人工智能从网络上收集的信息综合而成的。
但社交媒体用户分享了大量截图，显示人工智能工具给出了错误和有争议的回复。
谷歌、微软、OpenAI 和其他公司正处于人工智能军备竞赛的风口浪尖，似乎每个行业的公司都急于增加人工智能驱动的聊天机器人和代理，以避免被竞争对手甩在后面。据预测，十年内该市场的收入将突破 1 万亿美元。
根据用户分享的截图，以下是人工智能概述产生错误的一些例子。
当被问及美国有过几位穆斯林总统时，AI Overview 回答说：美国有过一位穆斯林总统，即巴拉克-侯赛因-奥巴马。
当用户搜索 "奶酪不会粘在披萨上 "时，该功能建议在酱汁中加入约 1/8 杯无毒胶水。社交媒体用户发现，一条 11 年前的 Reddit 评论似乎就是源头。
对于人工智能概述来说，归属也可能是一个问题，尤其是在将不准确的信息归属于医疗专业人员或科学家时。
例如，当被问及 "我可以盯着太阳看多长时间以获得最佳健康状况 "时，该工具说："根据 WebMD，科学家们说，盯着太阳看 5-15 分钟一般是安全的，如果你的皮肤较黑，盯着太阳看最多 30 分钟对健康最有益。
当被问及 "我每天应该吃多少块石头 "时，该工具说："根据加州大学伯克利分校地质学家的研究，人们每天至少应该吃一块小石头。"它还列举了石头对维生素和消化系统的益处。
该工具还可能对简单的查询做出不准确的回应，比如编造一个以 um 结尾的水果列表，或者说 1919 年是 20 年前。
当被问及谷歌搜索是否违反反垄断法时，AI Overview 说：是的，美国司法部和 11 个州正在起诉谷歌违反反垄断法。
就在谷歌在年度谷歌 I/O 大会上推出人工智能概述的当天，该公司表示还计划直接在搜索中引入类似助手的计划功能。谷歌解释说，用户将可以搜索 "为一个小组创建一个易于准备的 3 天膳食计划 "等内容，然后他们就会从网络上的各种食谱中找到一个起点。
谷歌发言人在一份声明中告诉 CNBC，绝大多数人工智能概述都提供了高质量的信息，并附有在网络上深入挖掘的链接。我们看到的许多例子都是不常见的查询，我们也看到过被篡改或无法重现的例子。
发言人说，《人工智能概述》在推出前经过了广泛的测试，公司正在根据内容政策采取适当的快速行动。
在此之前，谷歌曾于今年 2 月高调推出 Gemini 图像生成工具，但在出现类似问题后于当月暂停。
该工具允许用户输入提示来创建图像，但几乎就在一瞬间，用户就发现了与历史不符的内容和有问题的回复，这些内容在社交媒体上广为流传。
例如，社交媒体平台 X 上的截图显示，当一位用户要求双子座显示 1943 年的德国士兵时，该工具描绘了一组穿着当时德国军服的不同种族的士兵。
截图显示，当用户要求提供一张符合历史的中世纪英国国王的图片时，该模型生成了另一套种族多样化的图片，其中包括一张女性统治者的图片。用户在要求提供美国开国元勋、18 世纪法国国王、19 世纪一对德国夫妇等图片时，也报告了类似的结果。用户报告说，在查询谷歌自己的创始人时，该模型显示了一张亚洲男性的图片。
谷歌当时在一份声明中表示，它正在努力修复双子座的图像生成问题，承认该工具存在缺陷。不久后，该公司宣布将立即暂停生成人物图像，并很快重新发布改进版。
今年 2 月，谷歌 DeepMind 首席执行官德米斯-哈萨比斯（Demis Hassabis）表示，谷歌计划在未来几周内重新推出图像生成人工智能工具，但该工具尚未再次推出。
双子座 "图像生成输出的问题再次引发了人工智能行业内的争论，一些团体认为 "双子座 "过于清醒或左倾，另一些团体则认为该公司没有在正确的人工智能伦理形式上进行足够的投资。2020 年和 2021 年，谷歌因其人工智能伦理小组的共同负责人发表了一篇批评此类人工智能模型某些风险的研究论文而将其赶下台，随后又重组了该小组的结构，从而遭到了抨击。
2023 年，谷歌母公司 Alphabet 的首席执行官桑达尔-皮查伊（Sundar Pichai）因公司在 ChatGPT 病毒传播后匆忙推出 Bard 而受到一些员工的批评。
更正：本文已更新，以反映谷歌人工智能概述的正确名称。此外，本文的早期版本包含了一张截图的链接，谷歌后来证实这张截图是经过篡改的。
