The function for batch generate tokens is ready

This commit is contained in:
RockYang
2023-03-28 11:20:03 +08:00
parent d85e91a8da
commit 1e8aaff193
4 changed files with 53 additions and 15 deletions

View File

@@ -4,10 +4,10 @@
## TODOLIST
* [ ] 使用 level DB 保存用户聊天的上下文
* [ ] 使用 level DB 保存用户聊天记录
* [x] 用户聊天鉴权,设置口令模式
* [ ] 定期清理不在线的会话 sessionID 和聊天上下文记录
* [ ] 给 Token 设置调用次数
* [x] 给 Token 设置调用次数
* [x] OpenAI API 负载均衡,限制每个 API Key 每分钟之内调用次数不超过 15次防止被封
* [x] 角色设定,预设一些角色,比如程序员,客服,作家,老师,艺术家...
* [x] markdown 语法解析和代码高亮