avatar

刘刚刚的blog

采菊东篱下,悠然见南山🦥

  • 首页
  • python
  • 大模型应用
  • 软件/工具导航页
  • 关于
Home 大模型返回中json_schema与json_mode的区别
文章

大模型返回中json_schema与json_mode的区别

Posted 2025-04-10 Updated 2025-04- 10
By Administrator
58~74 min read


大模型返回json数据结构常用的方法有:

  • json_schema:一种更适合大模型用的json返回格式

  • json_mode:openai最开始的json返回格式

  • function call:通过调用函数的形式,让大模型返回json

  • 提示词 + 输出示例:纯提示词,如果模型能力较弱,可能会输出不稳定

json_schema(结构化输出)

JSON Mode

是否可以输出有效的 JSON

是

是

遵循json_schema

是

否(为普通的json对象)

兼容的模型

gpt-4o 及之前的模型

gpt-4o 及之前的模型

使用方式

response_format:

{ type: "json_schema", json_schema: {"strict": true, "schema": ...} }

response_format: { type: "json_object" }

其他:

  1. json_schema,是一种对数据描述更新详细的格式,官方网站:https://json-schema.org/,中文教程可在知乎搜索。

  2. 国内目前对json返回支持比较好的是kimi。https://platform.moonshot.cn/

  3. qwen、deepseek只支持json mode,且要求prompt中必须含有“json”关键字。

大模型应用
License:  CC BY 4.0
Share

Further Reading

Jun 8, 2025

ollama-大模型的部署与使用

linux curl -fsSL https://ollama.com/install.sh | sh 因为安装过程有使用github相关资源,国内访问会有问题,需要加速。或者使用docker进行安装。各大云平台都有提供docker加速方法。 ollama的所有命令 Available Comman

Jun 8, 2025

为jupyter增加可选的python内核

在部分提供GPU资源的平台,进行使用的时候发现提供的jupyter的内核中,与命令行默认的外部的python环境不一致,且不能选择的情况。 以下是添加conda虚拟环境到jupyter中的方法 # 或者 source myenv/bin/activate conda activate myenv ​

May 7, 2025

文本切分-语义分割(Semantic Chunking)

当我们使用固定长度的块大小或者一些标点符号分割文本时,其并没有考虑到块中内容的连贯性与完整性。我们可以借助 embedding 来来对文本中语义相近的句子进行聚类。 可以考虑的方法包括: 层次聚类与位置奖励:如果只使用层次聚类 (逐个的将所有句子进行聚类),当一个长句之后存在一个短句时,会存在一些问

OLDER

Async

NEWER

Typing

Recently Updated

  • 使用 claude api遇到的问题
  • 一些开发中使用的 linux运维命令
  • python包管理神器:UV
  • ollama-大模型的部署与使用
  • 为jupyter增加可选的python内核

Trending Tags

Halo 运维 postgresql 设计模式 linux就该这么学 nas rag odoo python 文本切分

Contents

©2025 刘刚刚的blog. Some rights reserved.

Using the Halo theme Chirpy