如何设计高性能、高并发、高可用的系统
温馨提示:
本文最后更新于 2022年12月07日,已超过 908 天没有更新。若文章内的图片失效(无法正常加载),请留言反馈或直接联系我。
如何设计高性能、高并发、高可用的系统
• 系统架构三个利器:RPC服务组件、消息中间件(交互异步化、流量削峰)、配置管理(灰度发布、降级);
• 无状态:接口层最重要的就是无状态,将有状态的数据剥离到数据库或缓存中;
• 如何改善延时:找关键路径(“28原则”)、空间换时间,如各级缓存;时间换空间,如传输压缩,解决网络传输的瓶颈;多核并行,减少锁竞争;更适合的算法和数据结构;通过性能测试和监控找出瓶颈;减少系统调用和上下文切换;
• 如何提高吞吐量:复制、扩容、异步化、缓存;
• 如何保障稳定性:提高可用性、分组和隔离、限流、降级、监控和故障切换;
• 理解高可用系统:要做到数据不丢,就必需要持久化;要做到服务高可用,就必需要有备用(复本),无论是应用结点还是数据结点;要做到复制,就会有数据一致性的问题;我们不可能做到100%的高可用,也就是说,我们能做到几个9个的SLA;
高性能架构
高性能的架构是以用户为中心,提供快速的网页访问体验,主要参数有较短的响应时间、较大的并发处理能力、较高的吞吐量与稳定的性能参数。
可分为前端优化、浏览器优化、应用层优化、代码层优化与存储层优化:
• 前端优化:网站业务逻辑之前的部分。
• 浏览器优化:减少 HTTP 请求数,使用浏览器缓存,启用压缩,CSS JS 位置,JS 异步,减少 Cookie 传输;CDN 加速,反向代理。
• 应用层优化:处理网站业务的服务器。使用缓存,异步,集群。
• 代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache 等。
• 存储优化:缓存、固态硬盘、光纤传输、优化读写、磁盘冗余、分布式存储(HDFS)、NoSQL 等。
高可用架构
大型网站应该在任何时候都可以正常访问,正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点,要保证高可用是很困难的,也就是说网站的故障是不可避免的。
如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别考虑,在规划的时候,就考虑可用性。
行业内一般用几个 9 表示可用性指标,比如四个 9(99.99),一年内允许的不可用时间是 53 分钟。
不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题:
• 应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决 Session 同步问题)实现高可用。
• 服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。
• 数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是 CAP 理论。(持久性,可用性,数据一致性[强一致,用户一致,最终一致])
可伸缩架构
伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力:
• 应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS、HTTP[反向代理]、IP、链路层)。
• 服务层:与应用层类似。
• 数据层:分库、分表、NoSQL 等;常用算法 Hash,一致性 Hash。
可扩展架构
可以方便地进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性:
• 模块化,组件化:高内聚,低耦合,提高复用性,扩展性。
• 稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。
• 设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。
• 消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。
• 分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。
安全架构
对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。
比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。
以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。
安全问题不容忽视,包括基础设施安全,应用系统安全,数据保密安全等:
• 基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。
防范病毒,后门。设置防火墙策略,建立 DDOS 防御系统,使用攻击检测系统,进行子网隔离等手段。
• 应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。
防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML 注释,文件上传,路径遍历等。
还可以使用 Web 应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。
• 数据保密安全:存储安全(存储在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改)。
常用的加解密算法(单项散列加密[MD5、SHA],对称加密[DES、3DES、RC]),非对称加密[RSA]等。
正文到此结束
- 本文标签: 云原生
- 本文链接: http://www.ityoulove.com/article/8
- 版权声明: 本文由崔健宇原创发布,转载请遵循《署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0)》许可协议授权