模型倍率是啥意思？咋计算的？ about one-api HOT 12 CLOSED

同，求解

我来好好解释一下吧。以下内容暂时忽略分组倍率。
已知：①提示token数即官方的Input，补全token数即官方的Output。②OneAPI默认 1$ = 50w tokens，即0.002$/1k tokens，把这个叫做基准价格。
以gpt-3.5-turbo-1106为例，它的倍率设置如下：

官方的价格公式：输入价格 * 输入token数 + 输出价格 * 输出token数
OneAPI的价格公式：
模型倍率 * （提示token数 + 补全token数 * 补全倍率）
= 模型倍率 * 提示token数 + 模型倍率 * 补全倍率 * 补全token数
= （输入价格/基准价格） * 输入token数 + （输出价格/基准价格）* 输出token数
= （输入价格 * 输入token数 + 输出价格 * 输出token数)）/ 基准价格

可以看到，它们只差了一个固定参数，即基准价格，程序后台计算完统一乘上基准价格就好了。
你说为什么基准价格为什么定在1$=50w tokens？那自然是因为最开始基准价格是参考的gpt-3.5-turbo的输入价格0.002$/1k tokens，降价是后来的事情了。
你要问为什么选择倍率体系，不直接使用价格体系，那就得问作者了。

from one-api.

https://github.com/songquanpeng/one-api#%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98

from one-api.

https://github.com/songquanpeng/one-api#%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98

就是没懂这个模型倍率

from one-api.

同，求解

from one-api.

同，求解

我来好好解释一下吧。以下内容暂时忽略分组倍率。 已知：①提示token数即官方的Input，补全token数即官方的Output。②OneAPI默认 1$ = 50w tokens，即0.002$/1k tokens，把这个叫做基准价格。 以gpt-3.5-turbo-1106为例，它的倍率设置如下：

基准价格：0.002$/1k tokens
模型名称 输入价格 输出价格
gpt-3.5-turbo-1106 0.001$/1k tokens 0.002$/1k tokens
模型倍率=输入价格/基准价格 补全倍率=输出价格/输入价格
0.001/0.002=0.5 0.002/0.001=2
官方的价格公式：输入价格 * 输入token数 + 输出价格 * 输出token数 OneAPI的价格公式： 模型倍率 * （提示token数 + 补全token数 * 补全倍率） = 模型倍率 * 提示token数 + 模型倍率 * 补全倍率 * 补全token数 = （输入价格/基准价格） * 输入token数 + （输出价格/基准价格） 输出token数 = （输入价格 * 输入token数 + 输出价格 * 输出token数)）/ 基准价格*

可以看到，它们只差了一个固定参数，即基准价格，程序后台计算完统一乘上基准价格就好了。 你说为什么基准价格为什么定在1$=50w tokens？那自然是因为最开始基准价格是参考的gpt-3.5-turbo的输入价格0.002$/1k tokens，降价是后来的事情了。 你要问为什么选择倍率体系，不直接使用价格体系，那就得问作者了。

每个模型的基准价格会变动吗？还是固定的？可以在哪里查看呢？大佬

from one-api.

同，求解

我来好好解释一下吧。以下内容暂时忽略分组倍率。 已知：①提示token数即官方的Input，补全token数即官方的Output。②OneAPI默认 1$ = 50w tokens，即0.002$/1k tokens，把这个叫做基准价格。 以gpt-3.5-turbo-1106为例，它的倍率设置如下：
基准价格：0.002$/1k tokens
模型名称 输入价格 输出价格
gpt-3.5-turbo-1106 0.001$/1k tokens 0.002$/1k tokens
模型倍率=输入价格/基准价格 补全倍率=输出价格/输入价格
0.001/0.002=0.5 0.002/0.001=2
官方的价格公式：输入价格 * 输入token数 + 输出价格 * 输出token数 OneAPI的价格公式： 模型倍率 * （提示token数 + 补全token数 * 补全倍率） = 模型倍率 * 提示token数 + 模型倍率 * 补全倍率 * 补全token数 = （输入价格/基准价格） * 输入token数 + （输出价格/基准价格） 输出token数 = （输入价格 * 输入token数 + 输出价格 * 输出token数)）/ 基准价格*
可以看到，它们只差了一个固定参数，即基准价格，程序后台计算完统一乘上基准价格就好了。 你说为什么基准价格为什么定在1$=50w tokens？那自然是因为最开始基准价格是参考的gpt-3.5-turbo的输入价格0.002$/1k tokens，降价是后来的事情了。 你要问为什么选择倍率体系，不直接使用价格体系，那就得问作者了。

每个模型的基准价格会变动吗？还是固定的？可以在哪里查看呢？大佬

基准价格是统一固定的，就是运营设置里的单位美元额度，每个模型根据官方价格调整模型倍率和补全倍率，就可以和官方价格保持同步。

from one-api.

是运营设置里的单位美元额度，

我这里后台运营设置里的单位美元额度是500000，那么基准价格是多少呢？

from one-api.

是运营设置里的单位美元额度，

我这里后台运营设置里的单位美元额度是500000，那么基准价格是多少呢？

单位美元额度 50w，不就是前面说的 0.002$/1k tokens 吗?

from one-api.

@QAbot-zh 您好。请问 one-api 的模型倍率是在代码中固定的还是会根据官方价格实时更新的？需要在官方价格更新后等仓库更新重新部署新版吗，还是会自动更新？

from one-api.

@QAbot-zh 您好。请问 one-api 的模型倍率是在代码中固定的还是会根据官方价格实时更新的？需要在官方价格更新后等仓库更新重新部署新版吗，还是会自动更新？

计算公式是固定的，但是模型倍率设置是开放的，官方价格如果有更新但是仓库还没有及时跟踪，可以自行通过模型倍率和补全倍率进行价格的对齐

from one-api.

@QAbot-zh 您好。请问 one-api 的模型倍率是在代码中固定的还是会根据官方价格实时更新的？需要在官方价格更新后等仓库更新重新部署新版吗，还是会自动更新？

计算公式是固定的，但是模型倍率设置是开放的，官方价格如果有更新但是仓库还没有及时跟踪，可以自行通过模型倍率和补全倍率进行价格的对齐

怎么你会有个补全倍率的输入框

from one-api.

怎么你会有个补全倍率的输入框

因为我是新版本

from one-api.