perf: 默认参数调优

This commit is contained in:
Rock Chin
2022-12-12 23:19:02 +08:00
parent 8c4836dde4
commit 3257d43cbc
+4 -4
View File
@@ -39,7 +39,7 @@ default_prompt = "如果我之后想获取帮助,请你说“输入!help获取
completion_api_params = { completion_api_params = {
"model": "text-davinci-003", "model": "text-davinci-003",
"temperature": 0.6, # 数值越低得到的回答越理性,取值范围[0, 1] "temperature": 0.6, # 数值越低得到的回答越理性,取值范围[0, 1]
"max_tokens": 200, # 每次向OpenAI请求的最大字符数, 不高于4096 "max_tokens": 512, # 每次向OpenAI请求的最大字符数, 不高于4096
"top_p": 1, # 生成的文本的文本与要求的符合度, 取值范围[0, 1] "top_p": 1, # 生成的文本的文本与要求的符合度, 取值范围[0, 1]
"frequency_penalty": 0.2, "frequency_penalty": 0.2,
"presence_penalty": 0.4, "presence_penalty": 0.4,
@@ -48,15 +48,15 @@ completion_api_params = {
# 每次向OpenAI接口发送对话记录上下文的字符数 # 每次向OpenAI接口发送对话记录上下文的字符数
# 最大不超过(4096 - max_tokens)个字符,max_tokens为上述completion_api_params中的max_tokens # 最大不超过(4096 - max_tokens)个字符,max_tokens为上述completion_api_params中的max_tokens
# 注意:较大的prompt_submit_length会导致OpenAI账户额度消耗更快 # 注意:较大的prompt_submit_length会导致OpenAI账户额度消耗更快
prompt_submit_length = 1024 prompt_submit_length = 1536
# 每次向OpenAI接口发送对话记录上下文的聊天回合数 # 每次向OpenAI接口发送对话记录上下文的聊天回合数
# 不建议过大,向OpenAI接口发送对话上下文时保证内容不超过prompt_submit_length个字符, # 不建议过大,向OpenAI接口发送对话上下文时保证内容不超过prompt_submit_length个字符,
# 不超过prompt_submit_round_amount个回合 # 不超过prompt_submit_round_amount个回合
prompt_submit_round_amount = 8 prompt_submit_round_amount = 16
# 消息处理的超时时间,单位为秒 # 消息处理的超时时间,单位为秒
process_message_timeout = 20 process_message_timeout = 15
# 消息处理超时重试次数 # 消息处理超时重试次数
retry_times = 3 retry_times = 3