核验清单
- ✓先分清这通会话是 GPT-Live 还是 Realtime。Live 看最终的
usage.seconds。Realtime 看每一次response.done的 token。 - ✓Live 的
session.usage.updated是累计快照,后一条替换前一条,不要把每次推送加总。会话关掉之后只记一次session.closed里的秒数。 - ✓创建 WebRTC 先记 15 秒。会话跑起来后,这 15 秒已经在运行时长里,不要再加。人还没开口就创建、或反复重连,按文档把这笔创建费算进去。
- ✓Realtime 的音频、文本、图像是输入或输出总量里的明细。缓存 token 是输入的子集。转写事件的用量不要再加到这次 Response 上。
- ✓后一轮的输入含有上一轮的输出。中途改指令或工具定义,缓存从改动处失效。截断会丢掉最老的内容,也会打掉靠前的缓存。
1. 同一页上有两套语音账
费用说明先写 GPT-Live,再写 Realtime API。两段用的不是同一把尺子。Live 把语音会话和负责推理、跑工具的后端拆开:语音按秒,后端按你实际调用的模型和工具。Realtime 的对话会话按每次 Response 的输入和输出 token 计,文本、音频、图像都在里面。流式翻译和流式转写又不走 Response,按音频时长计。单价以各模型页为准,这里不把某一天的数字写成长期价格。
名字很容易并错。批量半价那篇里的「实时」指同步接口相对 Batch 的那一档,不是这条语音会话。国内语音合成按字符计,是另一把尺子。对账先看请求打到的是 Live 会话、Realtime 的 Response,还是一条独立的转写或翻译流。
2. 会话开着,静音也在走秒
GPT-Live 的语音按当前模型的每秒费率计,文档写明不向上取整到下一分钟。活跃时间包括用户在说、助手在说、双方都静音,以及后台还在工作。估算时从会话开始算到关闭,用接口报的时长,不要只用你本地播放出来的那段音频。麦克风静音不会关闭会话。对话结束要主动关掉,并收下最终用量。
创建 WebRTC 的 POST /v1/live/sessions 会先记 15 秒,用来覆盖初始化。会话真正跑起来之后,这 15 秒从运行时长里抵掉。文档的例子是:一通 90 秒的会话已经包含这 15 秒,不是 105 秒。人还没准备好就创建,或者中途反复重连,每次创建都要按这条规则算。抵消发生在「会话已经开始跑」之后。把创建和运行加成两笔,会把同一段初始化算两次。
用量事件 session.usage.updated 里的 seconds 是累计值。每一条替换前一条,不要把快照加总。发出 session.close 之后继续收事件,直到 session.closed,最终秒数只记一次。后端调用和语音秒分开记。委托出去的 Responses,从嵌套的 response.completed 里按 response id 各记一次,输入、输出和缓存明细留着对那个模型的价卡。你自己另外打的请求也要收进后端账。还没派上用场的投机查询,文档要求算进后端成本,不因为结果没用上就消失。
3. Realtime 的明细已经在总量里
Realtime 的费用发生在创建 Response 的时候,按输入和输出 token 计。输入转写除外,下面单独说。文档写,目前不为网络带宽或连接本身另收费。这句话带有「目前」。Response 可以手动创建,也可以在打开语音活动检测时自动创建。活动检测会滤掉空的输入音频,所以空音频不算输入 token,除非客户端把它手动加成对话内容。
每一轮都把整段对话送给模型。这一轮的输出会变成服务端 Conversation 里的条目,下一轮再当输入。所以会话越往后,单轮越贵。用户消息里的音频按每 100 毫秒 1 个 token 估算,助手消息里的音频按每 50 毫秒 1 个 token。计数还包含内容之外的特殊 token,所以和你按正文估算的数会有小偏差。文档举的例子是,正文 10 个文本 token 的用户消息,记下来可能是 12。
文档用两轮把这个结构写开。第一轮:100 个指令 token,加上用户说出来的 20 个音频 token,输入合计 120。生成 Response 之后,助手输出 20 个音频 token 和 10 个文本 token。第二轮又来一段用户音频,文档把它写成 25 个音频 token。此时对话里有最初的指令、第一段用户消息、第一轮的助手输出,再加上这段新的用户音频。文档给出的第二轮输入是 110 个文本 token 和 64 个音频 token,外加又一次助手输出。第一轮的消息在第二轮有机会被缓存,从而降低输入成本,但缓存是尽力而为,不保证命中。
一次 Response 的数在 response.done 里。文档给的一份用量是:total_tokens 253,input_tokens 132,output_tokens 121。输入明细是文本 119、音频 13、图像 0,其中缓存 64,而且这 64 全部落在文本上。输出明细是文本 30、音频 91。132 加 121 等于 253。119 加 13 等于 132。30 加 91 等于 121。缓存的 64 已经在 132 里面。音频不是加在总量外面的另一列。把明细和总量再加一次,就把同一轮算了两遍。
输入转写如果打开,由 Realtime API 另计。它用的模型和语音对语音那张价卡不是同一张。已提交轮次的转写用 gpt-transcribe,在音频写入输入缓冲并提交之后才开始。用量看 conversation.item.input_audio_transcription.completed。字段随模型变:gpt-transcribe 按音频时长,文档示例是 type 为 duration、seconds 为 3。按 token 计的转写模型则返回 token 数。转写和 Response 异步进行,事件谁先到都不改变「这是另一笔」这件事。流式翻译和流式转写会话本身也不走 Response 生命周期,按时长费率估,不要拿每轮 token 去套。
4. 缓存不保证,截断会从前面打掉
Realtime 的提示缓存自动发生,多轮时能明显压低输入成本。条件是这一轮的输入 token 和上一轮对得上。这是尽力而为,不是承诺。想提高命中,就让会话历史保持稳定。删掉或改掉对话中的一段,缓存会一直失效到改动的位置,因为前缀不再那么像。指令和工具定义在对话开头,会话中途改它们,后面每一轮的命中都会变差。
对话 token 超过模型输入上限时会发生截断,从最老的消息开始丢掉,不再送进这次 Response。文档写,32k 上下文、最大输出 4096 的模型,截断发生前上下文只能放 28224 个 token。客户端可以把窗口设得比模型上限更小。token_limits.post_instructions 限制的是指令以外的输入。设成 1000,超出的条目就不会送进这次 Response。默认的 retention_ratio 是 1.0,只丢掉刚好超限的部分。设成 0.8,一次截断会保留上限的 80%,多丢掉 20%,好让下一次截断来得晚一点。每一轮都截断,靠前的缓存会一直被打掉,命中会很低。截断也可以关掉。关掉之后,对话长到无法创建 Response 就直接报错,适合你打算自己管对话长度的时候。
客户端也可以自己删条目。conversation.item.delete 能拿掉旧消息,再拿一条摘要用 conversation.item.create 补回去。摘要本身是新的输入,不是免费的压缩。mini 模型在价卡上更便宜,文档说代价主要在遵循指令和函数调用。先用大模型把提示跑顺,再考虑换成 mini。这两件事都改变后面每一轮要重放的内容,和静音仍在走秒的 Live 会话不是同一口开关。
5. 充值缩不短这些秒和 token
对账按这通会话实际走的接口分列。Live 记最终秒数,静音和后台工作都在里面,用量快照不要累加,初始化的 15 秒不要和运行时长再加一次,后端模型和工具另计。Realtime 记每一次 Response:音频、文本、图像是明细,缓存是输入的子集,后一轮含有上一轮的输出。转写或翻译若是独立的时长账,不要并进这次 Response。缓存是否命中,看前缀有没有被改动或截断打掉。
给账户充值,发生在这些列扣款之前。链上把稳定币换成能付进账户的资产,不会把一通还开着的会话收成零秒,也不会把音频明细从总量里拿掉。需要这一步时,可以用无需注册、非托管的 AllSwap 完成链上兑换。兑换成功只说明资产换了手。秒数和 token 仍按这次接口返回的量计。