作为一种轻量级的数据交换格式ON 具有简洁、清晰、易于解析和生成的特点ON 模式是大模型 API 实现结构化输出的关键功能。当用户在调用大模型 API 时,返回的结果以ON 格式呈现,有利于阅读和理解。
基石智算Coreshub 大模型服务支持ON 模式输出功能,帮助用户在与大模型交互时,获得更加结构化、标准化的数据结果。无论是复杂的文本分析、数据处理,还是智能应用开发,基石智算都能为用户带来更高效、便捷和灵活的数据处理方式。
支持的模型
目前平台上的 DeepSeek-V3 模型支持该功能。
注意事项
用户需提前在
//docs.coreshub.cn/console/big_model_server/api_key/create_api_key/ 中创建与获取 API KEY 用于替换示例代码中的 api_key 参数。
使用方法
将 response_format 参数设置为 {'type':on_object'}。
用户传入的 system 或 user prompt 中必须含有on 字样,并给出希望模型输出的ON 格式的样例。
合理设置 max_tokens 参数,防止ON 字符串被中断。
代码示例
示例一
示例二
0条评论|0人参与网友评论


表情
登录|注册
|退出
分享到微博
发布最热评论
最新评论
更多精彩评论>>
财经自媒体联盟

4000520066 欢迎批评指正
Copyright © 1996-2019 SINA Corporation
All Rights Reserved 新浪公司 版权所有
All Rights Reserved 新浪公司 版权所有