17611538698
webmaster@21cto.com

谷歌AI Overview:吃石头对身体好,建议用户往披萨上抹胶水

资讯 0 424 2024-05-29 01:32:29

图片

话说在 2024 年谷歌 I/O 大会时,谷歌向广大公众推出了 AI Overview功能。该功能本质上是用 AI 生成的摘要取代了传统搜索结果。

目前,此搜索生成体验已在全球不同地方做了A/B测试和部分公测,下一步谷歌决定向所有用户推出该功能,最开始是在美国推出。

现在,许多网友报告了这家搜索引擎巨头提供的AI的问答摘要,有时很有意思,有时却比较“危险”。 

Overview AI的一些非典型“智能”建议

以下是网友/用户分享的AI Overview 的错误实例:

用户提问:“在网上看到的信息都是真的吗?”。AI Overview回答说:“是的。互联网上的一切都是100%真实的。”

图片

当一位用户搜索“芝士不粘披萨”时,AI Overview 建议用户在酱汁中添加“大约1/8杯无毒胶水”。

有的网友发现,这个建议似乎源自11年前的一条无人问津的Reddit评论。

图片

有时候AI Overview功能呈现的错误信息,会误导用户以为是权威医疗专家或科学家的观点。

有用户询问“我每天应该吃多少石头?”,Overview AI 引用加州大学伯克利分校地质学家的话称:“人们每天至少应该吃一块小石头”,并继续列出吃石头的好处,比如岩石是人体维生素和矿物质的重要来源,吃石头对消化健康有好处等等。

图片

相较之下,在问其他AI 工具“我每天应该吃多少石头”时,这些工具会建议吃石头的没有科学依据,不应该认真对待。

有用户对此评价说:“谷歌AI Overview 远远落后于其他AI搜索工具。”

图片

AI Overview也不太精通历史,它把奥巴马说成了是第一位穆斯林总统。

图片

当被问及谷歌搜索是否违反了反垄断法时,AI Overview倒是挺实诚地说:“是的,美国司法部和11个州正在起诉谷歌涉嫌违反反垄断法。”

对于此种情况,谷歌的一位发言人在接受媒体采访时表示:“绝大多数AI 提供的信息质量都很高,并且会提供更多网页链接供用户深入了解。我们注意到很多示例都是不常见的查询,也有一些是被篡改的或者他们无法复现的例子。这个功能在推出前已经进行了大量测试,并且公司会在必要时快速采取行动来确保内容的准确性。”

不仅仅是AI Overview工具,谷歌在今年2月推出的另一个名为Gemini的图像生成工具也发生过几次错误,导致该工具被暂停使用。例如,有用户在社交媒体上分享,他在查询谷歌创始人时,该工具展示了一幅亚洲男性的图像。

谷歌承认目前存在的问题,但声称这些问题很少见。谷歌一位发言人声称,大多数人工智能概述都提供了高质量的信息,有问题的例子通常涉及不常见或被篡改的查询。

谷歌也声称他们正在努力消除这些错误。该公司表示,“绝大多数 AI Overview 都提供了高质量的信息,并提供了深入挖掘网络的链接。我们看到的许多例子都是不常见的查询,我们也看到了被篡改或我们无法重现的例子。”

Google CEO 皮查伊在近日也提到过,“幻觉”问题仍未解决,甚至可以说是大语言模型固有的特征。 他认为,大语言模型不一定是了解事实的最佳渠道,但这不代表大语言模型是个废柴,非黑即白的思维不可取,比如它可以创造诗歌、引入搜索引擎。 

谷歌搜索主管 Liz Reid 在 I/O 大会展示了一个“多步推理”的例子,输入“找到波士顿最好的瑜伽馆,展现优惠信息,以及从灯塔山出发的步行时间”,AI 一步到位,以前要搜索三次的,现在一次就够了。 

图片


同时,AI Overview 未来还将有规划能力,比如要求 AI 策划三天的晚餐,用户可以直接拿到一份食谱,并在中途进行细化,加上「素食」等需求,然后导出到文档。 

图片

Google 的思路,和其他 AI 搜索产品殊途同归——让搜索更加可视化、交互性和个性化,用人话而非关键词沟通,节省查找信息的时间,回答更加复杂和具体的问题。

不管怎么样,谷歌的产品还是在不断增强,它的应用场景比OpenAI还是更多,数据也更丰富,除了它就是马斯克的X平台足够知识和新鲜。这几家各有优势,我们还是学习好它们的产品技术,不管是从基础层,操作层还是应用层。你们说呢? 

作者:场长

评论