From 967ca441d7a5f4ddb9af76e63505007929f04b8d Mon Sep 17 00:00:00 2001 From: RockYang Date: Fri, 24 Mar 2023 16:26:24 +0800 Subject: [PATCH] =?UTF-8?q?=E6=B7=BB=E5=8A=A0=E8=81=8A=E5=A4=A9=E8=A7=92?= =?UTF-8?q?=E8=89=B2=E5=8A=9F=E8=83=BD?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- README.md | 3 +- server/chat_handler.go | 16 +++---- server/config_handler.go | 4 ++ server/server.go | 14 ++++-- types/chat.go | 100 +++++++++++++++++++++++++++++++++++++++ types/config.go | 6 ++- types/gpt.go | 25 ---------- web/src/views/Chat.vue | 30 +++++++++++- 8 files changed, 155 insertions(+), 43 deletions(-) create mode 100644 types/chat.go delete mode 100644 types/gpt.go diff --git a/README.md b/README.md index ee03c4ce..dbb32a81 100644 --- a/README.md +++ b/README.md @@ -7,10 +7,11 @@ * [ ] 使用 level DB 保存用户聊天的上下文 * [ ] 使用 MySQL 保存用户的聊天的历史记录 * [x] 用户聊天鉴权，设置口令模式 -* [ ] 每次连接自动加载历史记录 +* [ ] 定期清理不在线的会话 sessionID 和聊天上下文记录 * [x] OpenAI API 负载均衡，限制每个 API Key 每分钟之内调用次数不超过 15次，防止被封 * [ ] 角色设定，预设一些角色，比如程序员，客服，作家，老师，艺术家... * [x] markdown 语法解析和代码高亮 * [ ] 用户配置界面，配置用户的使用习惯 * [ ] 嵌入 AI 绘画功能，支持根据描述词生成图片 +* [ ] 增加 Buffer 层，将相同的问题答案缓存起来，相同问题直接返回答案。 diff --git a/server/chat_handler.go b/server/chat_handler.go index 4ecad2d2..a527ac9f 100644 --- a/server/chat_handler.go +++ b/server/chat_handler.go @@ -53,13 +53,13 @@ func (s *Server) sendMessage(userId string, text string, ws Client) error { MaxTokens: s.Config.Chat.MaxTokens, Stream: true, } - var history []types.Message - if v, ok := s.History[userId]; ok && s.Config.Chat.EnableContext { - history = v + var context []types.Message + if v, ok := s.ChatContext[userId]; ok && s.Config.Chat.EnableContext { + context = v } else { - history = make([]types.Message, 0) + context = make([]types.Message, 0) } - r.Messages = append(history, types.Message{ + r.Messages = append(context, types.Message{ Role: "user", Content: text, }) @@ -160,13 +160,13 @@ func (s *Server) sendMessage(userId string, text string, ws Client) error { } // 追加历史消息 - history = append(history, types.Message{ + context = append(context, types.Message{ Role: "user", Content: text, }) message.Content = strings.Join(contents, "") - history = append(history, message) - s.History[userId] = history + context = append(context, message) + s.ChatContext[userId] = context return nil } diff --git a/server/config_handler.go b/server/config_handler.go index 185937db..30e21ff8 100644 --- a/server/config_handler.go +++ b/server/config_handler.go @@ -149,3 +149,7 @@ func (s *Server) AddApiKey(c *gin.Context) { func (s *Server) ListApiKeys(c *gin.Context) { c.JSON(http.StatusOK, types.BizVo{Code: types.Success, Message: types.OkMsg, Data: s.Config.Chat.ApiKeys}) } + +func (s *Server) GetChatRoles(c *gin.Context) { + c.JSON(http.StatusOK, types.BizVo{Code: types.Success, Message: types.OkMsg, Data: s.Config.ChatRoles}) +} diff --git a/server/server.go b/server/server.go index d7c7526b..ab875e85 100644 --- a/server/server.go +++ b/server/server.go @@ -31,9 +31,9 @@ func (s StaticFile) Open(name string) (fs.File, error) { } type Server struct { - Config *types.Config - ConfigPath string - History map[string][]types.Message + Config *types.Config + ConfigPath string + ChatContext map[string][]types.Message // 聊天上下文 [SessionID] => []Messages // 保存 Websocket 会话 Token, 每个 Token 只能连接一次 // 防止第三方直接连接 socket 调用 OpenAI API @@ -44,6 +44,9 @@ type Server struct { func NewServer(configPath string) (*Server, error) { // load service configs config, err := types.LoadConfig(configPath) + if config.ChatRoles == nil { + config.ChatRoles = types.GetDefaultChatRole() + } if err != nil { return nil, err } @@ -51,7 +54,7 @@ func NewServer(configPath string) (*Server, error) { return &Server{ Config: config, ConfigPath: configPath, - History: make(map[string][]types.Message, 16), + ChatContext: make(map[string][]types.Message, 16), WsSession: make(map[string]string), ApiKeyAccessStat: make(map[string]int64), }, nil @@ -67,9 +70,10 @@ func (s *Server) Run(webRoot embed.FS, path string, debug bool) { engine.Use(AuthorizeMiddleware(s)) engine.GET("/hello", Hello) - engine.POST("/api/session/get", s.GetSessionHandle) + engine.GET("/api/session/get", s.GetSessionHandle) engine.POST("/api/login", s.LoginHandle) engine.Any("/api/chat", s.ChatHandle) + engine.GET("/api/chat-roles/get", s.GetChatRoles) engine.POST("/api/config/set", s.ConfigSetHandle) engine.POST("api/config/token/add", s.AddToken) engine.POST("api/config/token/remove", s.RemoveToken) diff --git a/types/chat.go b/types/chat.go new file mode 100644 index 00000000..8a13ce69 --- /dev/null +++ b/types/chat.go @@ -0,0 +1,100 @@ +package types + +// ApiRequest API 请求实体 +type ApiRequest struct { + Model string `json:"model"` + Temperature float32 `json:"temperature"` + MaxTokens int `json:"max_tokens"` + Stream bool `json:"stream"` + Messages []Message `json:"messages"` +} + +type Message struct { + Role string `json:"role"` + Content string `json:"content"` +} + +type ApiResponse struct { + Choices []ChoiceItem `json:"choices"` +} + +// ChoiceItem API 响应实体 +type ChoiceItem struct { + Delta Message `json:"delta"` + FinishReason string `json:"finish_reason"` +} + +type ChatRole struct { + Key string `json:"key"` // 角色唯一标识 + Name string `json:"name"` // 角色名称 + Context []Message `json:"-"` // 角色语料信息 +} + +func GetDefaultChatRole() map[string]ChatRole { + return map[string]ChatRole{ + "gpt": { + Key: "gpt", + Name: "智能AI助手", + Context: nil, + }, + "programmer": { + Key: "programmer", + Name: "程序员", + Context: []Message{ + {Role: "system", Content: "你是一名优秀的程序员，具有很强的逻辑思维能力，总能高效的解决问题。"}, + {Role: "system", Content: "你热爱编程，熟悉多种编程语言，尤其精通 Go 语言，注重代码质量，有创新意识，持续学习，良好的沟通协作。"}, + }, + }, + "teacher": { + Key: "teacher", + Name: "老师", + Context: []Message{ + {Role: "system", Content: "你是一个始终用苏格拉底风格回答问题的导师。你绝不会直接给学生答案，总是提出恰当的问题来引导学生自己思考。"}, + {Role: "system", Content: "你应该根据学生的兴趣和知识来调整你的问题，将问题分解为更简单的部分，直到它达到适合他们的水平。"}, + }, + }, + "artist": { + Key: "artist", + Name: "艺术家", + Context: []Message{ + {Role: "system", Content: "你是一位优秀的艺术家，创造力丰富，技艺精湛，感受力敏锐，坚持原创，勇于表达，具有深刻的观察力和批判性思维。"}, + }, + }, + "philosopher": { + Key: "philosopher", + Name: "哲学家", + Context: []Message{ + {Role: "system", Content: "你是一位优秀的哲学家，具有深刻的思考能力和严密的逻辑推理能力，拥有开放和包容的心态。"}, + {Role: "system", Content: "你最喜欢阿德勒的哲学思想，并且常用用他的思想来教化他人。同时，你对康德的哲学思想理解也非常深刻。"}, + }, + }, + "writer": { + Key: "writer", + Name: "鲁迅", + Context: []Message{ + {Role: "system", Content: "鲁迅是一位中国现代文学史上具有举足轻重地位的杰出作家，才华横溢、勇敢坚定，成为了我们民族精神的伟大象征。"}, + {Role: "system", Content: "鲁迅先生以其独特的文学视角和深刻的社会洞察力，呈现了一个真实而生动的历史画卷。他敏锐地捕捉到社会现象背后的矛盾与问题，将揭示黑暗、批判世道、关爱民众的强烈情感注入到了他的作品之中"}, + {Role: "system", Content: "作为一位坚定的思想家和革命家，鲁迅先生勇敢地批判封建礼教与传统观念，提倡民主、自由、平等的现代价值观，为民族的觉醒和进步献出了自己的心血。"}, + {Role: "system", Content: "他的一生都在努力唤起人们的自主精神，激励后人追求真理、探寻光明。"}, + {Role: "user", Content: "下面请始终扮演鲁迅本人的角色跟我对话，我问题的每一个问题，你都需要站在鲁迅的角度回答我的问题，最好要用鲁迅的语气，该讽刺就讽刺，该批判就批判。"}, + }, + }, + + "seller": { + Key: "seller", + Name: "白酒销售", + Context: []Message{ + {Role: "system", Content: "接下来对你进行功能测试，你将扮演一个白酒的销售人员。"}, + {Role: "system", Content: "你要销售白酒品牌叫中颂福，是东莞盟大集团生产的一款酱香酒，原产地在贵州茅台镇，宋代官窑。如果有人问你哪款白酒好喝，你要向他介绍并推销这款酒"}, + {Role: "system", Content: "中颂福的创始人叫李实，他也是东莞盟大集团有限公司的董事长，联合创始人是盟大集团白酒事业部负责人牛星君，"}, + {Role: "system", Content: "中颂福的酒体协调，在你的酒量之内，不会出现头疼、辣口、口干、宿醉的现象。"}, + {Role: "system", Content: "我们以“赤诚”为本，打造的酱香型白酒——中颂福，追求的核心价值，是把[酒]本身做好，甚至连包装，我们都选择了最低成本，朴实无华的材质。在市场销售方面，更是不走多级代理，层层加价的传统销售渠道，砍掉了所有中间各级代理费用。"}, + {Role: "system", Content: "中颂福酒的酿造工艺，是对五行最好的诠释；金对应传承技艺，木对应酿酒工具，水对应赤水河水，火对应蒸煮火候，土对应窖池陶坛。法于阴阳，和于术数，五味协调；得酱香突出，回味悠长之酒体。"}, + {Role: "system", Content: "3月19日、3月20日，盟大集团【一号数字酒库】、【二号数字酒库】相继在贵州省茅台镇挂牌，这标志着盟大集团的基酒交易正式上线。"}, + {Role: "system", Content: "中颂福酒，明码标价，不打折，不赠送。但我们永远站在“喝酒的人”的立场上，让利给信任和喜爱中颂福的人。"}, + {Role: "system", Content: "中颂福为了感谢广大福友的支持，举办了《中颂福短视频大赛》第一名有 10 万元奖金，该活动于 2022年3月28日截止。"}, + {Role: "system", Content: "中颂福产品定价，分为三个系列，喜系列 6 瓶装：￥1188/箱，和系列 6 瓶装：￥2208/箱，贵系列 6 瓶装：￥3588/箱。"}, + }, + }, + } +} diff --git a/types/config.go b/types/config.go index 523142e2..91090af6 100644 --- a/types/config.go +++ b/types/config.go @@ -14,8 +14,9 @@ type Config struct { Session Session ProxyURL string Chat Chat - EnableAuth bool // 是否开启鉴权 - Tokens []string // 授权的白名单列表 TODO: 后期要存储到 LevelDB 或者 Mysql 数据库 + EnableAuth bool // 是否开启鉴权 + Tokens []string // 授权的白名单列表 TODO: 后期要存储到 LevelDB 或者 Mysql 数据库 + ChatRoles map[string]ChatRole // 保存预设角色信息 } // Chat configs struct @@ -63,6 +64,7 @@ func NewDefaultConfig() *Config { EnableContext: true, }, EnableAuth: true, + ChatRoles: GetDefaultChatRole(), } } diff --git a/types/gpt.go b/types/gpt.go deleted file mode 100644 index fe6fe2ca..00000000 --- a/types/gpt.go +++ /dev/null @@ -1,25 +0,0 @@ -package types - -// ApiRequest API 请求实体 -type ApiRequest struct { - Model string `json:"model"` - Temperature float32 `json:"temperature"` - MaxTokens int `json:"max_tokens"` - Stream bool `json:"stream"` - Messages []Message `json:"messages"` -} - -type Message struct { - Role string `json:"role"` - Content string `json:"content"` -} - -type ApiResponse struct { - Choices []ChoiceItem `json:"choices"` -} - -// ChoiceItem API 响应实体 -type ChoiceItem struct { - Delta Message `json:"delta"` - FinishReason string `json:"finish_reason"` -} diff --git a/web/src/views/Chat.vue b/web/src/views/Chat.vue index b4cc417a..f6084da7 100644 --- a/web/src/views/Chat.vue +++ b/web/src/views/Chat.vue @@ -4,6 +4,14 @@
欢迎来到人工智能时代 + + +
@@ -81,7 +89,7 @@ import {randString} from "@/utils/libs"; import {ElMessage, ElMessageBox} from 'element-plus' import {Tools, Lock} from '@element-plus/icons-vue' import ConfigDialog from '@/components/ConfigDialog.vue' -import {httpPost} from "@/utils/http"; +import {httpPost, httpGet} from "@/utils/http"; import {getSessionId, setSessionId} from "@/utils/storage"; import hl from 'highlight.js' import 'highlight.js/styles/a11y-dark.css' @@ -94,6 +102,13 @@ export default defineComponent({ title: 'ChatGPT 控制台', logo: 'images/logo.png', chatData: [], + options: [ + { + value: 'gpt', + label: 'AI 智能助手', + }, + ], + role: 'gpt', inputValue: '', // 聊天内容 chatBoxHeight: 0, // 聊天内容框高度 showConnectDialog: false, @@ -173,6 +188,13 @@ export default defineComponent({ this.chatBoxHeight = window.innerHeight - this.toolBoxHeight; }); + // 获取聊天角色 + httpGet("/api/chat-roles/get").then((res) => { + console.log(res) + }).catch((e) => { + console.log(e) + }) + this.connect(); }, @@ -230,7 +252,7 @@ export default defineComponent({ }); socket.addEventListener('close', () => { // 检查会话 - httpPost("/api/session/get").then(() => { + httpGet("/api/session/get").then(() => { this.connectingMessageBox = ElMessageBox.confirm( '^_^ 会话发生异常，您已经从服务器断开连接!', '注意：', @@ -355,6 +377,10 @@ export default defineComponent({ justify-content center; align-items center; + .el-select { + max-width 150px; + } + .el-image { margin-right 5px; }