New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

调整模型请求计费逻辑 #314

Open

5 tasks done

LHXCxyw opened this issue Jul 19, 2024 · 0 comments

Labels

LHXCxyw commented Jul 19, 2024 •

edited

Loading

例行检查

我已确认目前没有类似 issue
我已确认我已升级到最新版本
我已完整查看过项目 README，已确定现有版本无法满足需求
我理解并愿意跟进此 issue，协助测试和提供反馈
我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

功能描述
希望在请求模型的时候，如果模型设置了重定向和价格，那么只计算请求的模型名费用，而不计算重定向模型费用。

比如我重定向模型free-gpt-4到gpt-4模型，给free-gpt-4模型价格设置免费，那么我请求free-gpt-4模型就应该是免费的，而不是计算重定向后的gpt-4模型的费用，不然给free-gpt-4模型设置价格就没有任何意义了。

如果没有设置模型价格，则还是计算gpt-4模型的价格。这样做既可以让free-gpt-4模型的价格有效，也可以在多个重定向模型没设置费用时继续使用重定向后的模型费用。
应用场景

LHXCxyw added the enhancement label

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment