内网网站建设的必要性,平台推广,最好的小型 网站开发系统,深圳建筑装饰人才网1- 为什么要分库分表
如果一个网站业务快速发展#xff0c;那这个网站流量也会增加#xff0c;数据的压力也会随之而来#xff0c;比如电商系统来说双十一大促对订单数据压力很大#xff0c;Tps十几万并发量#xff0c;如果传统的架构#xff08;一主多从#xff09;那这个网站流量也会增加数据的压力也会随之而来比如电商系统来说双十一大促对订单数据压力很大Tps十几万并发量如果传统的架构一主多从主库容量肯定无法满足这么高的Tps业务越来越大单表数据超出了数据库支持的容量持久化磁盘IO,传统的数据库性能瓶颈产品经理业务·必须做改变程序数据库刀子切分优化。数据库连接数不够需要分库表的数据量大优化后查询性能还是很低需要分。
2- 什么是分库分表
分库分表方案是对关系型数据库数据存储和访问机制的一种补充。 分库将一个库的数据拆分到多个相同的库中访问的时候访问一个库 分表把一个表的数据放到多个表中操作对应的某个表就行
3- 分库分表的几种方式 3.1- 数据库垂直拆分 根据业务拆分如图电商系统拆分成订单库会员库商品库
3.2- 表垂直拆分 根据业务去拆分表如图把user表拆分成user_base表和user_info表use_base负责存储登录user_info负责存储基本用户信息
垂直拆分特点
每个库表的结构都不一样每个库表的数据至少一列一样每个库表的并集是全量数据
垂直拆分优缺点 优点
拆分后业务清晰专库专用按业务拆分数据维护简单按业务不同业务放到不同机器上
缺点
如果单表的数据量大写读压力大受某种业务决定或者被限制也就是说一个业务往往会影响到数据库的瓶颈性能问题如双十一抢购部分业务无法关联join只能通过java程序接口去调用提高了开发复杂度
3.3- 数据库水平拆分 如图按会员库拆分拆分成会员1库会员2库以userId拆分userId尾号0-5为1库 6-9为2库还有其他方式进行取模偶数放到1库奇数放到2库
3.4- 表水平拆分 如图把users表拆分成users1表和users2表以userId拆分进行取模偶数放到users1表奇数放到users2表
水平拆分的其他方式
range来分,每个库一段连续的数据这个一般是按比如时间范围来的但是这种一般较少用因为很容易产生热点问题大量的流量都打在最新的数据上了,优点扩容的时候就很容易因为你只要预备好给每个月都准备一个库就可以了到了一个新的月份的时候自然而然就会写新的库了 缺点大部分的 请求都是访问最新的数据。实际生产用range要看场景你的用户不是仅仅访问最新的数据而是均匀的访问现在的数据以及历史的数据。hash分发,优点可以平均分配每个库的数据量和请求压力 缺点扩容起来比较麻烦会有一个数据迁移的这么一个过程
水平拆分特点
每个库表的结构都一样每个库表的数据都不一样每个库表的并集是全量数据
水平拆分优缺点 优点
单库/单表的数据保持在一定量减少有助于性能提高提高了系统的稳定性和负载能力拆分表的结构相同程序改造较少。
缺点
数据的扩容很有难度维护量大拆分规则很难抽象出来.分片事务的一致性问题部分业务无法关联join只能通过java程序接口去调用
4- 分库分表带来的问题
分布式事务跨库join查询分布式全局唯一id开发成本 对程序员要求高
5- 分库分表技术如何选型
分库分表的开源框架 jdbc 直连层shardingsphere、tddl proxy 代理层mycatmysql-proxy360
jdbc直连层 jdbc直连层又叫jdbc应用层,是因为所有分片规则所有分片逻辑包括处理分布式事务 所有这些问题它都是在应用层所有项目都是由war包构成的所有分片都写成了jar包放到了war包里面java需要虚拟机去运行的虚拟机运行的时候就会把war包里面的字节文件进行classLoder加载到jvm内存中所有分片逻辑都是基于内存方进行操作的
proxy代理层 如图,proxy代理层所有分片规则所有分片逻辑包括处理分布式事务都在mycat写好了,所有分片逻辑都是基于mycat方进行操作
jdbc直连层和proxy代理层优缺点
jdbc直连层性能高只支持java语言支持跨数据库proxy代理层开发成本低支持跨语言不支持跨数据库