基石智算大模型服务支持 JSON 模式输出功能

基石智算大模型服务支持 JSON 模式输出功能
2025年04月22日 12:42 青云QingCloud

作为一种轻量级的数据交换格式ON 具有简洁、清晰、易于解析和生成的特点ON 模式是大模型 API 实现结构化输出的关键功能。当用户在调用大模型 API 时,返回的结果以ON 格式呈现,有利于阅读和理解。

基石智算Coreshub 大模型服务支持ON 模式输出功能,帮助用户在与大模型交互时,获得更加结构化、标准化的数据结果。无论是复杂的文本分析、数据处理,还是智能应用开发,基石智算都能为用户带来更高效、便捷和灵活的数据处理方式。

支持的模型

目前平台上的 DeepSeek-V3 模型支持该功能。

注意事项

用户需提前在

//docs.coreshub.cn/console/big_model_server/api_key/create_api_key/ 中创建与获取 API KEY 用于替换示例代码中的 api_key 参数。

使用方法

将 response_format 参数设置为 {'type':on_object'}。

用户传入的 system 或 user prompt 中必须含有on 字样,并给出希望模型输出的ON 格式的样例。

合理设置 max_tokens 参数,防止ON 字符串被中断。

代码示例

示例一

代码运行回显示例:

示例二

代码运行回显示例:

0条评论|0人参与网友评论
最热评论

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部