我在测试用Claude代替记不住命令的gpt3.5时遇到了问题。请求频率实在是太快了，我点一下开始翻译，直接蹦出200多条对话，Claude禁不住这个频率请问如何

你是自己编写了翻译代码吗? 你可以参考以下代码 <a href="https://github.com/XHXJ/json-GPT-translator/b

请问如何把请求频率降低 about json-gpt-translator HOT 1 CLOSED

xhxj commented on August 19, 2024

请问如何把请求频率降低

from json-gpt-translator.

Comments (1)

XHXJ commented on August 19, 2024

你是自己编写了翻译代码吗?
你可以参考以下代码
ChatGptTranslationServiceImpl.java 翻译开始的实现代码
com.xhxj.jsongpttranslator.translation.TranslationModeSwitcher 策略模式的实现

gpt-translator/src/main/java/com/xhxj/jsongpttranslator/translation/mode 你可以在这个包下新建你的翻译实现逻辑分别实现:

    /**
     * 批量翻译
     * @param data
     */
    void batchTranslate(List<TranslationData> data);

    void translateOne(List<TranslationData> data);

    /**
     * 停止翻译
     */
    void stopTranslate();

批量翻译的逻辑和单条翻译的逻辑,停止的可以不用写可以参考:
com.xhxj.jsongpttranslator.translation.mode.ChatTranslationMode 类

如果你想限制每分钟调用速率请在你请求发送的地方使用:

            //限制每分钟的API调用
            apiLimiter.waitForApiCallAvailability(0);

如果你想修改翻译速率修改:
ApiLimiter.java

    private static int MAX_API_CALLS_PER_MINUTE = 3000; // 每分钟的API调用限制 (RPM)
    private static int MAX_TOKENS_PER_MINUTE = 300000; // 每分钟的令牌限制 (TPM)
    private static int MAX_REQUESTS_PER_SECOND = 2; // 每秒最大请求速率

from json-gpt-translator.

Recommend Projects