Google承认AI搜索功能存在风险

摘要: Google的AI搜索功能造成了流行的错误后，Google赶到了修复程序。生成AI的基本局限性意味着有时仍然会搞砸。

Google承认AI搜索功能存在风险

Google最近承认其算法建议人们“吃石头”和在披萨上涂胶水，需要调整其新的生成式AI搜索功能。这一事件凸显了Google积极推动商业化生成式AI的风险，以及该技术的危险和基本限制。

Google的AI概述功能利用Gemini，一个类似于OpenAI的CHAT GPT背后的大型语言模型，通过总结在线信息生成对一些搜索查询的书面答案。当前的AI热潮建立在LLMs对文本的出色流畅性之上，但软件也可以利用这种能力对不实或错误信息进行修饰。当在线来源相互矛盾或人们可能使用信息做出重要决定时，使用技术总结在线信息可能会使搜索结果更易消化，但也具有危险性。

Google搜索负责人Liz Reid在公司的博客文章中表示，他们在推出AI概述之前进行了广泛测试。但她补充说，像“吃石头”和“涂胶水在披萨上”这样的错误促使他们做出了额外的改变。Google表示，这些改变包括更好地检测“荒谬的查询”，并使系统不那么依赖用户生成的内容。

Socher表示，You.com经常避免了Google的AI概述显示的错误，因为他的公司开发了大约十几种技巧，以防止LLMs在搜索时出现问题。

Google对其最广泛使用和盈利能力最强的产品进行的生成式AI升级是受OpenAI在2022年11月发布聊天机器人CHAT GPT启发的技术行业全面重启的一部分。