avatar

刘刚刚的blog

采菊东篱下,悠然见南山🦥

  • 首页
  • 大模型应用
  • 常用软件/工具
  • Halo
  • 关于
Home 大模型返回中json_schema与json_mode的区别
文章

大模型返回中json_schema与json_mode的区别

Posted 30 days ago Updated 30 days ago
By Administrator
58~74 min read


大模型返回json数据结构常用的方法有:

  • json_schema:一种更适合大模型用的json返回格式

  • json_mode:openai最开始的json返回格式

  • function call:通过调用函数的形式,让大模型返回json

  • 提示词 + 输出示例:纯提示词,如果模型能力较弱,可能会输出不稳定

json_schema(结构化输出)

JSON Mode

是否可以输出有效的 JSON

是

是

遵循json_schema

是

否(为普通的json对象)

兼容的模型

gpt-4o 及之前的模型

gpt-4o 及之前的模型

使用方式

response_format:

{ type: "json_schema", json_schema: {"strict": true, "schema": ...} }

response_format: { type: "json_object" }

其他:

  1. json_schema,是一种对数据描述更新详细的格式,官方网站:https://json-schema.org/,中文教程可在知乎搜索。

  2. 国内目前对json返回支持比较好的是kimi。https://platform.moonshot.cn/

  3. qwen、deepseek只支持json mode,且要求prompt中必须含有“json”关键字。

大模型应用
License:  CC BY 4.0
Share

Further Reading

May 7, 2025

文本切分-语义分割(Semantic Chunking)

当我们使用固定长度的块大小或者一些标点符号分割文本时,其并没有考虑到块中内容的连贯性与完整性。我们可以借助 embedding 来来对文本中语义相近的句子进行聚类。 可以考虑的方法包括: 层次聚类与位置奖励:如果只使用层次聚类 (逐个的将所有句子进行聚类),当一个长句之后存在一个短句时,会存在一些问

Apr 29, 2025

dify 并发配置优化

以 docker compose 部署为例,以下是一些常用的参数优化(修改后注意观察服务器负载): 数据库连接数 当把工作流发布为工具,进行并发调用时,容易导致数据库连接失败。 # 配置文件路径:docker/.env # 每个 dify服务进程的数据库链接池数量 SQLALCHEMY_POOL_S

Apr 10, 2025

大模型返回中json_schema与json_mode的区别

大模型返回json数据结构常用的方法有: json_schema:一种更适合大模型用的json返回格式 json_mode:openai最开始的json返回格式 function call:通过调用函数的形式,让大模型返回json 提示词 + 输出示例:纯提示词,如果模型能力较弱,可能会输出

OLDER

Async

NEWER

Typing

Recently Updated

  • 文本切分-语义分割(Semantic Chunking)
  • dify 并发配置优化
  • Typing
  • 大模型返回中json_schema与json_mode的区别
  • Async

Trending Tags

Halo 运维 postgresql 设计模式 linux就该这么学 nas rag odoo python 文本切分

Contents

©2025 刘刚刚的blog. Some rights reserved.

Using the Halo theme Chirpy