各类大语言模型 API 教程 · 起点

LLM API：一套原语，多家封装

面向工程师的深入教程。讲清所有 LLM API 共通的底层原语，再把 OpenAI、Anthropic、Google、开源本地放在一起横向对比。内容截至 2026-06，模型名与定价都是当时的现状。

基于版本：OpenAI Responses API、Anthropic Messages API（anthropic-version: 2023-06-01）、Google Gemini v1beta，均为 2026-06 现状 · 阅读时间：约半天 · 代码状态：示例为讲解用途，标注了"未在本机验证"的未实跑

§适合谁 / 不适合谁

适合谁

  • 能读写 HTTP/REST 请求、看得懂 JSON 结构的工程师
  • 用过至少一种语言（Python 或 JS/TS）发起网络调用
  • 目标是构建 LLM 应用 / Agent，需要系统理解 API 这一层，而不是只复制一段能跑的代码

不适合谁

  • 零编程基础——先补 HTTP 与 JSON，再回来
  • 想学模型训练 / 微调原理的人——这里讲的是推理调用层，不是训练层；去看 nn-zero-to-hero
  • 只想要一段立刻能跑的片段——官方各家 quickstart 更快

§读完之后你能做到什么

所有 provider 的 API 差异——角色名怎么叫、system prompt 放哪、工具调用是什么格式、结构化输出靠什么保证——都是同一套底层原语的不同封装。理解了"模型只输出 token、无状态、不执行、不记忆、不保证格式"这个内核，任何新 provider 或新 API（Responses API、MCP、reasoning 模型）出现时都能立刻归位，而不是从头再学一遍。这是文档不会直接告诉你、却是这一层最值钱的判断力。

具体地，读完你能：

  • 不看文档，画出任意一家 LLM API 的请求 / 响应骨架，并说出三家在角色、system prompt、工具格式上的差异
  • 讲出 tool calling 的完整闭环，并指出"模型从不自己执行工具"在代码里到底意味着什么
  • 区分 JSON mode 与 strict schema，说明为什么前者会产出 valid-but-wrong 的结构
  • 解释 temperature=0 为什么仍然不保证逐字节可复现
  • 给定场景（高并发分类 / 长文档分析 / agentic 工具 / 私有部署 / 最低延迟 / 最强推理），选出 provider + 模型，并说出迁移到另一家会破坏什么

一句话本质

LLM API 的一切，都是围绕"一个无状态、只会预测下一个 token 的函数"搭起来的脚手架。模型不执行工具、不记忆对话、不保证格式——角色、工具调用、结构化输出、"会话"、缓存，全是在这个内核外面搭的架子。看穿这一点，换 provider 只是换脚手架的形状。

现状速览 · 截至 2026-06

稳定（多年不变，放心学）：messages 请求形态、SSE 流式、工具调用闭环、按 token 计费、Batch / Embeddings。

变动中（带日期记）：OpenAI Responses API 已成新项目默认（Chat Completions 仍长期支持）；reasoning / thinking 参数快速演进（Anthropic effort 于 2026-02 取代 budget_tokens；OpenAI reasoning_effort 增加 xhigh；Gemini thinking levels）；prompt caching 转为自动（Anthropic 2026-02、OpenAI 对 >1024 token 前缀自动命中）；strict 结构化输出三家先后 GA（Anthropic 2026-01）；MCP 成跨厂商标准（2025-12 捐给 Linux 基金会）；1M context GA；服务端 agentic 工具（web search / code execution / computer use，2026-02 GA）。

已被取代（别学旧的）：旧 /v1/completions 文本端点、OpenAI Assistants API（退役中）、单数 function_call / functions、Anthropic budget_tokens、Gemini 旧 responseMimeType/responseSchema。模型快照退役频繁——Claude Sonnet 4 / Opus 4 将于 2026-06-15 退役。

读之前 · 关于"读得顺"这件事

这份教程会刻意在某些地方让你停下来预测、推理、判别。如果全程都很顺，多半不是学透了，而是踩中了三种错觉。读的时候盯住自己有没有这三句心理活动：

· "我读得很顺" —— 通常是似曾相识，不是真懂；合上页面能否复述出机制？
· "我做题很快" —— 多半是题型眼熟，换个场景还做得对吗？
· "我没卡壳" —— 没卡壳往往意味着没真正触碰到那个会让你卡壳的机制。

卡壳是学习在发生的信号，不是失败。遇到 想一想 标签，先盖住答案。

§概念地图

先把整张图装进脑子，后面每个细节都挂在这张图上。中心是那个无状态的模型，四周全是为它搭的脚手架，最外层是各家 provider 的不同封装。

最外层 = provider 各自封装：OpenAI · Anthropic · Gemini · 开源本地 模型 无状态 · 只会输出 token 请求 = messages system / user / assistant 条件 生成控制 采样参数 · 约束解码 约束 输出投递 整块 / 流式 SSE emit 工具调用 提议 → 你执行 → 喂回 emit 调用 tokens 计量单位 上下文窗口 KV cache 成本 输入 + 输出计费 消耗 token
图 0.1所有原语都围着中心那个模型转。注意：箭头方向——左边和上面的"条件 / 约束"指进模型，右边的输出和工具调用是模型吐出来的 token；模型自己不主动做任何事。

§学习路径建议

不必从头读到尾。按目的挑路径：

  • 只想建立心智模型：01 核心原语 → 02 底层机制 → 04 自测。跳过 03。
  • 做技术选型 / 比价：先扫 00 现状速览 → 直接看 03 多家对比 → 回到 01 补齐原语词汇。
  • 要读懂别人写的 LLM 调用代码：01 核心原语 → 03 的"迁移会破坏什么" → 02 挑你卡住的机制深入。

§目录

§学完之后

  • Agent 编排：把工具调用闭环放进多轮循环，加上规划与记忆——在你这张概念图上加的是"循环控制 + 状态外置"。
  • MCP（Model Context Protocol）：把"工具"从你进程内的函数，标准化成可插拔的外部服务——加的是"工具的传输层与发现机制"。
  • RAG 检索增强：在请求拼装前插入检索——加的是"上下文从哪来"的那一段。
  • 评测与可观测：给非确定性的输出建立离线评测与线上监控——加的是"如何判断它到底对不对"。