Source: The Verge
社交媒体上充斥着谷歌新AI概览产品的例子，这些例子很怪异，从告诉用户在披萨上涂胶水到建议他们吃石头。由于混乱的推出，谷歌正在赶紧手动禁用特定搜索的AI概览，因为不同的迷因被发布，这就是为什么用户在发布到社交网络后很快看到这么多消失。这是一个奇怪的情况，因为谷歌已经测试了AI概览一年了，这一功能于2023年5月以“搜索生成体验”的测试版推出，首席执行官桑达尔·皮查伊表示，公司在这段时间内提供了超过10亿个查询。但皮查伊还表示，谷歌通过硬件、工程和技术突破将AI答案的交付成本降低了80%，“这种优化似乎发生得太早，还未准备好。一位AI创始人告诉The Verge，曾经以在技术前沿和发货高质量产品而闻名的公司现在以产出低质量、被迷因化的产品而闻名。谷歌继续表示，其AI概览产品主要向用户输出“高质量信息。
谷歌发言人梅根·法恩斯沃思在给The Verge的一封电子邮件中表示：“我们看到的许多例子都是罕见的查询，我们还看到了一些被篡改或无法复制的例子。法恩斯沃思还确认，公司正在“迅速采取行动”在某些查询中去除AI概览，“在适当情况下根据我们的内容政策，并利用这些例子来发展对我们系统的更广泛改进，其中一些已经开始推出。AI专家、纽约大学神经科学荣誉教授加里·马库斯告诉The Verge说，许多AI公司在“销售梦想”，认为这种技术将从80%正确率提高到100%。马库斯表示，实现最初的80%相对来说相对简单，因为涉及到近似大量的人类数据，但最后的20%极为具有挑战性。事实上，马库斯认为最后的20%可能是最难的事情。您实际上需要一些推理来决定：这个事情合理吗？这个来源合法吗？您必须像人类事实检查员一样做一些事情，这实际上可能需要人工智能。
马库斯说。马库斯和Meta的AI主管杨·勒库恩都认为，支持当前AI系统的大型语言模型，如谷歌的Gemini和OpenAI的GPT-4，不会创造通用人工智能。谷歌陷入了困境。Bing比谷歌更早进入AI领域，董事长纳德拉曾说“我们让他们跳舞”，OpenAI据称正在开发自己的搜索引擎，一家新的AI搜索创业公司已经价值10亿美元，一代年轻用户只希望获得最佳体验，都在转向TikTok。该公司显然感受到了竞争的压力，压力就是引发混乱AI发布的原因。马库斯指出，2022年，Meta发布了一个AI系统Galactica，不久后不得不下线，因为它告诉人们吃玻璃，听起来似曾相识。
谷歌对AI概览有宏伟计划——今天的功能只是公司上周宣布的计划的一小部分。复杂查询的多步推理、生成AI组织的结果页面的能力、Google Lens中的视频搜索——这里有很多野心。但就目前而言，公司的声誉取决于做好基本工作，而情况并不乐观。这些模型本质上无法对其自己的工作进行合理检查，这就是这个行业面临困境的原因。马库斯说。
人工智能技术的发展面临着前所未有的挑战，其中所包含的道德、伦理底线，值得我们深思和警惕。" } ```
