金融界2024年12月18日消息,国家知识产权局信息显示,北京奇艺世纪科技有限公司申请一项名为“双策略模型调用方法、装置、电子设备及存储介质”的专利,公开号CN 119127479 A,申请日期为2024年8月。
专利摘要显示,本申请实施例涉及一种双策略模型调用方法、装置、电子设备及存储介质,该方法包括:接收对目标模型的调用请求;根据调用请求,确定目标模型对应的加载策略;若加载策略为按需加载策略,从预设的设备集群中,确定可加载目标模型的第一目标设备,并将目标模型加载入第一目标设备中;若加载策略为预加载策略,从设备集群中,确定预先加载了目标模型的预设数量个设备;从预设数量个设备中确定第二目标设备;响应于接收到调用请求的发送端发送的待处理数据,利用第一目标设备或第二目标设备上的目标模型,对待处理数据进行处理。本申请实施例既提高了包含多个模型的业务的资源利用率,又提高了包含较少模型的响应速度,同时扩展了本方案的适用场景。
4000520066 欢迎批评指正
Copyright © 1996-2019 SINA Corporation
All Rights Reserved 新浪公司 版权所有
All Rights Reserved 新浪公司 版权所有