AI智能客服系设计方案(2)
AI智能客服系设计方案(2)
十二、部署架构图
1.高性能:用户通过CDN访问静态资源,集群内的组件统一使用内网通信
2. 安全:对外只有一个入口,就是用户访问的Https,经过WAF防火墙进行安全过滤后,再到SLB集群来分发给业务集群。
3. 高可用:组件都是分布式的,并且运行情况统一被收集到日志收集中处理,监控组件监听每个组件的运行状况并及时告警。
4.将业务逻辑代码统一抽离到domain层中,将所有基础设施与功能统一下降到下层。
(1). 可读性强:核心功能内聚到domain层,当想要了解核心业务逻辑时只需要阅读domain层即可。
(2). 扩展性,维护性强:基础服务功能降到下层,通过client隔离。这样哪怕基础设施如何变化也不会影响到核心业务逻辑,
(3). 模块化:每个基础服务功能都是一个独立的功能模块,是可拆分的。以此提高可重用性,可维护性等。

十三、数据安全保护
01.组件访问控制
数据库,缓存等中间件不对外开放,只能服务器内网访问。避免用户直接跳过web服务攻击中间件导致数据泄露。
02.存储加密
使用不可逆加密、对称加密等方式,对不同的数据级别做加密存储。
03.传输加密
传输过程中,使用Https(SSL/TLS协议)在网络上加密传输,防止中间人攻击。
04.定期安全审计
定期进行安全审计和合规性检查,确保系统符合相关的安全标准和法规要求,并及时发现并纠正任何违规行为。如果发现网络上有漏洞,及时升级修复。
十四、大模型框架Langchain-Chatchat
简介:基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现的开源、可离线部署的检索增强生成 (RAG) 大模型知识库项目。该项目是一个可以实现完全本地化推理的知识库增强方案,重点解决数据安全保护和私域化部署的企业痛点,并支持市面上主流的本地大预言模型和 Embedding 模型。
十五、大模型框架优势
01、成本低
消费级GPU或者CPU上即可安装并运行。
02、私有化 部署
知识库完全部署在本地PC上,无需连接互联网,数据安全可靠。
03、强大的 模型
支持多种开源LLM 与 Embedding 模型,(包括ChatGLM2-6B,通义千问等开源大模型)。
04、调用简单
支持api方式提供服务,解决了大模型对话嵌入自有应用难的问题。
05、灵活扩展
支持多种知识格式,可根据需求灵活扩展知识库内容。
那么AI智能客服系设计方案哪家好?
AI智能客服系设计方案请找上海九影,九影网络专注“互动 · 游戏 · 营销 · 系统”开发15年,提供:休闲娱乐游戏、教育教学游戏、互动对战游戏、微信/小程序、品牌营销H5、移动App、政企信息化系统、三维展览展示、元宇宙/ARVR体感体感等服务。 手机:15000568602(微信同号)