Google承认AI搜索功能存在风险

摘要: Google的AI搜索功能造成了流行的错误后,Google赶到了修复程序。生成AI的基本局限性意味着有时仍然会搞砸。

Google承认AI搜索功能存在风险

Google AI搜索

Google最近承认其算法建议人们“吃石头”和在披萨上涂胶水,需要调整其新的生成式AI搜索功能。这一事件凸显了Google积极推动商业化生成式AI的风险,以及该技术的危险和基本限制。

Google的AI概述功能利用Gemini,一个类似于OpenAI的CHAT GPT背后的大型语言模型,通过总结在线信息生成对一些搜索查询的书面答案。当前的AI热潮建立在LLMs对文本的出色流畅性之上,但软件也可以利用这种能力对不实或错误信息进行修饰。当在线来源相互矛盾或人们可能使用信息做出重要决定时,使用技术总结在线信息可能会使搜索结果更易消化,但也具有危险性。

Google搜索负责人Liz Reid在公司的博客文章中表示,他们在推出AI概述之前进行了广泛测试。但她补充说,像“吃石头”和“涂胶水在披萨上”这样的错误促使他们做出了额外的改变。Google表示,这些改变包括更好地检测“荒谬的查询”,并使系统不那么依赖用户生成的内容。

Socher表示,You.com经常避免了Google的AI概述显示的错误,因为他的公司开发了大约十几种技巧,以防止LLMs在搜索时出现问题。

Google对其最广泛使用和盈利能力最强的产品进行的生成式AI升级是受OpenAI在2022年11月发布聊天机器人CHAT GPT启发的技术行业全面重启的一部分。

© 版权声明
THE END
喜欢就支持一下吧
点赞14 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容