Source: CNBC
距离谷歌在谷歌搜索中推出“AI概览”不到两周的时间，公众在查询返回不合理或不准确结果后愈演愈烈地批评该功能，而用户无法选择退出。AI概览在谷歌搜索结果顶部显示对搜索问题的快速答案摘要：例如，如果用户搜索最佳清洁皮靴的方法，结果页面可能会显示顶部的“AI概览”，其中包含多步清洁流程，来源于其综合自网络各处的信息。但在社交媒体上，用户分享了大量屏幕截图，展示了AI工具分享有争议响应的情况。谷歌、微软、OpenAI和其他公司正处于一个生成式AI军备竞赛的最前沿，各行各业的公司都在争相添加AI驱动的聊天机器人和代理，以避免被竞争对手抛在后面。预计市场未来十年内将达到刀1万亿的收入。以下是一些AI概览出错的例子，根据用户分享的屏幕截图。当问到美国有多少穆斯林总统时，AI概览回答称：“美国有一位穆斯林总统，巴拉克•侯赛因•奥巴马。当用户搜索“奶酪不粘在比萨饼上”时，该功能建议在酱中加入“约1/8杯无毒胶水。
社交媒体用户找到了一篇看似是来源的Reddit评论。对于查询“可以将狗留在热车内吗”，该工具曾表示：“是的，在热车中留狗总是安全的”，还提到了甲壳虫乐队的一首虚构歌曲，关于在热车中留狗是安全的。AI概览的归因也可能成为问题，尤其是在将不准确信息归因于医学专家或科学家时。例如，当问到“为了最佳健康，我能盯着太阳看多久”时，该工具称：“根据WebMD，科学家表示，盯着太阳观看5-15分钟，或者如果您皮肤较黑的话可以长达30分钟，通常是安全且最有益健康的。当问到“每天应该吃多少块石头”时，该工具称：“根据加州大学伯克利分校的地质学家，人们应该每天至少吃一块小石头”，继续列出维生素和消化益处。该工具还可能对简单查询做出不准确回应，例如编制一个以“um”结尾水果列表，或者称1919年是20年前。当问及谷歌搜索是否违反反垄断法时，AI概览表示：“是的，美国司法部和11个州正在起诉谷歌存在反垄断行为。谷歌在其年度谷歌 I/O 大会上推出AI概览的当天表示，该公司还计划在搜索中直接引入类似助手的规划功能。
公司解释说，用户可以搜索类似“‘为一个容易准备的团体创建一个3天的膳食计划’”的内容，他们会得到一个从网络上各处得到的广泛食谱的起点。谷歌没有立即回应请求评论。此次新闻跟随谷歌在2月推出Gemini的图像生成工具以及同月因类似问题而暂停的高调发布而来。该工具允许用户输入提示以创建图像，但几乎立即，用户发现历史不准确和值得疑问的回应，在社交媒体上广泛传播。例如，当一个用户要求Gemini展示1943年的一名德国士兵时，该工具显示出一组种族多样化的穿着当时德国军服的士兵，根据社交媒体平台X上的屏幕截图。当要求显示“中世纪英国国王的历史准确描绘”时，模型生成了另一组种族多样化的图像，其中包括一名女性统治者，屏幕截图显示。用户报告称，在询问美国的开国元勋、18世纪法国国王、1800年代的德国夫妇等情况时，他们的结果类似。
在询问关于谷歌创始人的图像时，该模型显示了一组亚洲人的图像。谷歌当时在一份声明中表示，正在努力解决Gemini的图像生成问题，承认该工具“并不准确。不久之后，该公司宣布将立即“暂停生成人物图像”，“很快重新发布改进版。在2月，谷歌DeepMind首席执行官Demis Hassabis表示，谷歌计划在接下来几周内重新推出其图像生成AI工具，但尚未再次推出。Gemini的图像生成输出问题重新点燃了AI行业内的争论，一些团体称Gemini过于“觉醒”，或倾向于左翼，而另一些则表示该公司没有充分投资于正确形式的AI伦理。谷歌在2020年和2021年因撤换其AI伦理团队的联合领导而受到批评，后者发表了一篇批评某些AI模型风险的研究论文，随后重组了该团队的结构。去年，有员工批评该公司在Bard推出时的搞砸和“匆忙”，这一事件发生在ChatGPT广泛传播后。
AI技术发展如箭在弦上，谷歌这次的失误让我们再次反思人工智能的道德和伦理问题。" } ```
