Source: The Verge
想象一下：您抽出一个晚上的时间放松，决定自制比萨。您组装好比萨，放进烤箱，准备开始享用。但当您准备咬一口您油腻的创作时，您遇到了问题——奶酪掉了。沮丧之余，您求助于Google寻求解决方案。添加一些胶水，”Google回答。将大约1/8杯Elmer的胶水与酱混合。无毒胶水有效。
所以，是的，请不要这样做。截至我写这篇文章时，这就是Google新的人工智能概述功能会告诉您的。尽管并非触发每个查询，该功能会扫描网络并找出人工智能生成的响应。对于比萨胶水查询收到的答案似乎基于一个名为"f*cksmith"的用户在十多年前Reddit主题中的评论，并且很明显他们在开玩笑。这只是Google新功能中出现的许多错误之一，该功能本月广泛推出。它还声称前美国总统詹姆斯·麦迪逊不止一次，而是21次毕业于威斯康星大学，一只狗曾参加NBA、NFL和NHL比赛，蛇是哺乳动物。看，Google并没有承诺这会完美无瑕，甚至在人工智能答案底部放上了“生成式人工智能是实验性的”标签。
但很明显这些工具还没有做好准确地提供大规模信息的准备。以Google I/O对这一功能的重大推出为例。演示是高度受控的，然而，却提供了一个关于如何修复卡住的胶片相机的可疑答案。（它建议他们“打开背门，轻轻取出胶片”；除非你想毁了你的照片！）不仅仅是Google；像OpenAI、Meta和Perplexity这样的公司都在与人工智能幻觉和错误作斗争。然而，Google是首批在如此大规模上部署这项技术的公司，而差错的例子仍在源源不断地出现。开发人工智能的公司往往迅速地避免对其系统负责，这种方式很像一个不守规矩的孩子的父母——男孩就是这样！这些公司声称他们无法预测这种人工智能会输出什么，因此，实际上，这是他们无法控制的。但对于用户来说，这是个问题。
去年，Google表示人工智能是搜索的未来。但是，如果搜索似乎比以往更愚蠢，那有什么意义呢？人工智能乐观主义者争辩说我们应该 embrace这种炒作，因为到目前为止已经取得了快速进展，并相信它将继续改善。我真的相信这项技术将继续变得更好，但是专注于一个理想化的未来，在那个未来，这些技术是完美无缺的，却忽略了它们目前所面临的重大问题，并使公司继续交付低劣的产品。目前，我们的搜索体验受到十多年前Reddit帖子的影响，以在所有事物中引入人工智能为追求。许多理想主义者认为我们即将迎来辉煌的一刻，而这些问题只是初生技术的成长烦恼。我真心希望他们是对的。但有一件事是肯定的：很快我们可能会看到有人在比萨上涂胶水，因为这就是互联网的本质。
人工智能的发展虽然具有无限未来潜力，但当前仍面临诸多挑战与技术缺陷，谨慎应对未雨绸缪，以免伤及用户体验。" } ```
