谷歌推出新付费功能,借助搜索结果来应对AI幻觉

谷歌推出新付费功能,借助搜索结果来应对AI幻觉
2024年11月04日 18:35 三易生活

日前,谷歌方面宣布在其Gemini API和AI Studio平台中推出Grounding with Google Search功能,从而让开发者在谷歌搜索的帮助下,获得Gemini模型更准确、实时的响应结果。

据悉,除了让模型输出结果更为精准之外,Grounding with Google Search还能够使Gemini模型在回答中附带来源链接以及搜索建议,并让回答内容更加丰富。以提问“世界上体型最小的马品种是什么”为例,在未开启这一功能时,Gemini给出的回答仅为“世界上体型最小的马品种通常被认为是法拉贝拉马”,而在开启Grounding with Google Search功能后,该模型则从法拉贝拉马的品种特征、实际数据等方面给出了更加详细的回答,并提供了谷歌搜索结果的链接。

为了减少额外的成本和延迟,谷歌方面还为Grounding with Google Search引入了动态检索机制。具体而言,这一机制将会为模型所接收的提示词分配一个介于0和1之间的浮动分数,当模型的回答能够从搜索结果中受益时这个分数将会更高,因此开发者可通过设置一个阈值来要求Gemini在何时引用搜索结果。

对此谷歌方面表示,Grounding with Google Search有助于确保AI模型在回答中采用更多有时效性的事实信息、而非自行编造的虚假信息,从而确保其回答的准确性和及时性。目前这一功能可在AI Studio平台免费体验,同时开发者也能在Gemini API购买付费套餐,每1000个基础查询35美元。

值得一提的是,此前在今年6月有消息显示,微软方面也正在进行“治疗”AI幻觉方面的研究,并计划以现有AI产品为基础,推出一系列工具来帮助解决相关问题。据称,微软方面同样尝试通过添加额外的知识检索增强生成技术,例如将必应搜索的数据作为依据,通过必应的答案、索引和排名数据来帮助Copilot提供更加准确的回复,同时提供引用信息使得用户可自行查找和验证。

对此微软方面曾表示,尽管大模型非常擅长推理,但却并不应该成为答案的来源,正确可靠的数据才应作为来源,因此解决AI幻觉的第一步是向大模型提供最新、高质量且准确的数据。

【本文图片来自网络】

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部