perf: 默认参数调优

This commit is contained in:
Rock Chin
2022-12-12 23:19:02 +08:00
parent 8c4836dde4
commit 3257d43cbc

View File

@@ -39,7 +39,7 @@ default_prompt = "如果我之后想获取帮助,请你说“输入!help获取
completion_api_params = {
"model": "text-davinci-003",
"temperature": 0.6, # 数值越低得到的回答越理性,取值范围[0, 1]
"max_tokens": 200, # 每次向OpenAI请求的最大字符数, 不高于4096
"max_tokens": 512, # 每次向OpenAI请求的最大字符数, 不高于4096
"top_p": 1, # 生成的文本的文本与要求的符合度, 取值范围[0, 1]
"frequency_penalty": 0.2,
"presence_penalty": 0.4,
@@ -48,15 +48,15 @@ completion_api_params = {
# 每次向OpenAI接口发送对话记录上下文的字符数
# 最大不超过(4096 - max_tokens)个字符max_tokens为上述completion_api_params中的max_tokens
# 注意较大的prompt_submit_length会导致OpenAI账户额度消耗更快
prompt_submit_length = 1024
prompt_submit_length = 1536
# 每次向OpenAI接口发送对话记录上下文的聊天回合数
# 不建议过大向OpenAI接口发送对话上下文时保证内容不超过prompt_submit_length个字符
# 不超过prompt_submit_round_amount个回合
prompt_submit_round_amount = 8
prompt_submit_round_amount = 16
# 消息处理的超时时间,单位为秒
process_message_timeout = 20
process_message_timeout = 15
# 消息处理超时重试次数
retry_times = 3