Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

建议将提问次数改成额度 #465

Open
huangzt opened this issue Mar 6, 2024 · 7 comments
Open

建议将提问次数改成额度 #465

huangzt opened this issue Mar 6, 2024 · 7 comments
Labels
enhancement New feature or request

Comments

@huangzt
Copy link

huangzt commented Mar 6, 2024

建议将提问次数改成额度,即计算token的数量来限制使用,提问数次不好限定,能不能修改下?或者加个选项,感谢☺️

@BobDu BobDu added the enhancement New feature or request label Mar 6, 2024
@dqzboy
Copy link

dqzboy commented Mar 14, 2024

好像没有统一设置的地方,需要在用户管理里面挨个单独去做限制,这个是否可以加个统一的开关呢?统一初始限制的次数

@ShenKeeeew
Copy link
Contributor

ShenKeeeew commented Mar 14, 2024

统一初始限制提了PR,等大佬同意 #478

@dqzboy
Copy link

dqzboy commented Mar 17, 2024

统一初始限制提了PR,等大佬同意 #478

这个pr还有啥问题吗?还没合并呢 哈哈

@zhujunsan
Copy link
Contributor

token和token并不一样,比如gpt3.5的和4的,改成算token数量其实也没解决完问题

@BobDu
Copy link
Member

BobDu commented Mar 20, 2024

token和token并不一样,比如gpt3.5的和4的,改成算token数量其实也没解决完问题

同意。而且还有自定义模型。 又怎么去换算额度。问题确实比较多。

@appotry
Copy link

appotry commented Apr 7, 2024

统一限制token的数量,然后根据不同模型,添加一个乘数。

例如3.5 消耗token 乘数 1
gpt4 ,消耗token 乘数 2

@zhujunsan
Copy link
Contributor

统一限制token的数量,然后根据不同模型,添加一个乘数。

例如3.5 消耗token 乘数 1 gpt4 ,消耗token 乘数 2

这并不解决问题,反而把问题更复杂化了,他们的实际消耗并不是1比2,而且还要考虑到输入和输出的长度不同*价格不同,外加现在支持vision系列的模型了,图片又得再算。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
enhancement New feature or request
Projects
None yet
Development

No branches or pull requests

6 participants