当前位置 博文首页 > 码猿技术专栏:一文带你你搞懂索引如何优化!!!

    码猿技术专栏:一文带你你搞懂索引如何优化!!!

    作者:[db:作者] 时间:2021-09-17 15:24

    前言

    • 索引的相信大家都听说过,但是真正会用的又有几人?平时工作中写SQL真的会考虑到这条SQL如何能够用上索引,如何能够提升执行效率?

    • 此篇文章详细的讲述了索引优化的几个原则,只要在工作中能够随时应用到,相信你写出的SQL一定是效率最高,最牛逼的。

    • 文章的脑图如下:

    索引优化规则

    1、like语句的前导模糊查询不能使用索引

    select?*?from?doc?where?title?like?'%XX';???--不能使用索引
    select?*?from?doc?where?title?like?'XX%';???--非前导模糊查询,可以使用索引
    
    • 因为页面搜索严禁左模糊或者全模糊,如果需要可以使用搜索引擎来解决。

    2、union、in、or 都能够命中索引,建议使用 in

    1. union能够命中索引,并且MySQL 耗费的 CPU 最少。

    select?*?from?doc?where?status=1
    union?all
    select?*?from?doc?where?status=2;
    
    1. in能够命中索引,查询优化耗费的 CPU 比 union all 多,但可以忽略不计,一般情况下建议使用 in

    select?*?from?doc?where?status?in?(1,?2);
    
    1. or 新版的 MySQL 能够命中索引,查询优化耗费的 CPU 比 in多,不建议频繁用or

    select?*?from?doc?where?status?=?1?or?status?=?2
    
    1. 补充:有些地方说在where条件中使用or,索引会失效,造成全表扫描,这是个误区:

    • ①要求where子句使用的所有字段,都必须建立索引;

    • ②如果数据量太少,mysql制定执行计划时发现全表扫描比索引查找更快,所以会不使用索引;

    • ③确保mysql版本5.0以上,且查询优化器开启了index_merge_union=on, 也就是变量optimizer_switch里存在index_merge_union且为on

    3、负向条件查询不能使用索引

    • 负向条件有:!=<>not innot existsnot like 等。

    • 例如下面SQL语句:

    select?*?from?doc?where?status?!=?1?and?status?!=?2;
    
    • 可以优化为 in 查询:

    select?*?from?doc?where?status?in?(0,3,4);
    

    4、联合索引最左前缀原则

    • 如果在(a,b,c)三个字段上建立联合索引,那么他会自动建立 a| (a,b) | (a,b,c)组索引。

    • 登录业务需求,SQL语句如下:

    select?uid,?login_time?from?user?where?login_name=??andpasswd=?
    
    • 可以建立(login_name, passwd)的联合索引。因为业务上几乎没有passwd 的单条件查询需求,而有很多login_name 的单条件查询需求,所以可以建立(login_name, passwd)的联合索引,而不是(passwd, login_name)。

    1. 建立联合索引的时候,区分度最高的字段在最左边

    1. 存在非等号和等号混合判断条件时,在建立索引时,把等号条件的列前置。如 where a>? and b=?,那么即使a 的区分度更高,也必须把 b 放在索引的最前列。

    1. 最左前缀查询时,并不是指SQL语句的where顺序要和联合索引一致

    • 下面的 SQL 语句也可以命中 (login_name, passwd) 这个联合索引:

    select?uid,?login_time?from?user?where?passwd=??andlogin_name=?
    
    • 但还是建议 where 后的顺序和联合索引一致,养成好习惯。

    1. 假如index(a,b,c), where a=3 and b like 'abc%' and c=4a能用,b能用,c不能用。

    5、不能使用索引中范围条件右边的列(范围列可以用到索引),范围列之后列的索引全失效

    • 范围条件有:<、<=、>、>=、between等。

    • 索引最多用于一个范围列,如果查询条件中有两个范围列则无法全用到索引。

    • 假如有联合索引 (empno、title、fromdate),那么下面的 SQL 中 emp_no 可以用到索引,而titlefrom_date 则使用不到索引。

    select?*?from?employees.titles?where?emp_no?<?10010'?and?title='Senior?Engineer'and?from_date?between?'1986-01-01'?and?'1986-12-31'
    

    6、不要在索引列上面做任何操作(计算、函数),否则会导致索引失效而转向全表扫描

    • 例如下面的 SQL 语句,即使 date 上建立了索引,也会全表扫描:

    select?*?from?doc?where?YEAR(create_time)?<=?'2016';
    
    • 可优化为值计算,如下:

    select?*?from?doc?where?create_time?<=?'2016-01-01';
    
    • 比如下面的 SQL 语句:

    select?*?from?order?where?date?<?=?CURDATE();
    
    • 可以优化为:

    select?*?from?order?where?date?<?=?'2018-01-2412:00:00';
    

    7、强制类型转换会全表扫描

    • 字符串类型不加单引号会导致索引失效,因为mysql会自己做类型转换,相当于在索引列上进行了操作。

    • 如果 phone 字段是 varchar 类型,则下面的 SQL 不能命中索引。

    select?*?from?user?where?phone=13800001234
    
    • 可以优化为:

    select?*?from?user?where?phone='13800001234';
    

    8、更新十分频繁、数据区分度不高的列不宜建立索引

    • 更新会变更 B+ 树,更新频繁的字段建立索引会大大降低数据库性能。

    • “性别”这种区分度不大的属性,建立索引是没有什么意义的,不能有效过滤数据,性能与全表扫描类似。

    • 一般区分度在80%以上的时候就可以建立索引,区分度可以使用 count(distinct(列名))/count(*) 来计算。

    9、利用覆盖索引来进行查询操作,避免回表,减少select * 的使用

    • 覆盖索引:查询的列和所建立的索引的列个数相同,字段相同。

    • 被查询的列,数据能从索引中取得,而不用通过行定位符 row-locator 再到 row 上获取,即“被查询列要被所建的索引覆盖”,这能够加速查询速度。

    • 例如登录业务需求,SQL语句如下。

    Select?uid,?login_time?from?user?where?login_name=??and?passwd=?
    
    • 可以建立(login_name, passwd, login_time)的联合索引,由于 login_time 已经建立在索引中了,被查询的 uidlogin_time 就不用去 row 上获取数据了,从而加速查询。

    10、索引不会包含有NULL值的列

    • 只要列中包含有NULL值都将不会被包含在索引中,复合索引中只要有一列含有NULL值,那么这一列对于此复合索引就是无效的。所以我们在数据库设计时,尽量使用not null 约束以及默认值。

    11、is null, is not null无法使用索引

    12、如果有order by、group by的场景,请注意利用索引的有序性

    1. order by 最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现file_sort 的情况,影响查询性能。

    • 例如对于语句 where a=? and b=? order by c,可以建立联合索引(a,b,c)

    1. 如果索引中有范围查找,那么索引有序性无法利用,如WHERE a>10 ORDER BY b;,索引(a,b)无法排序。

    13、使用短索引(前缀索引)

    • 对列进行索引,如果可能应该指定一个前缀长度。例如,如果有一个CHAR(255)的列,如果该列在前10个或20个字符内,可以做到既使得前缀索引的区分度接近全列索引,那么就不要对整个列进行索引。因为短索引不仅可以提高查询速度而且可以节省磁盘空间和I/O操作,减少索引文件的维护开销。可以使用count(distinct leftIndex(列名, 索引长度))/count(*) 来计算前缀索引的区分度。

    • 但缺点是不能用于 ORDER BYGROUP BY 操作,也不能用于覆盖索引。

    • 不过很多时候没必要对全字段建立索引,根据实际文本区分度决定索引长度即可。

    14、利用延迟关联或者子查询优化超多分页场景

    • MySQL 并不是跳过 offset 行,而是取 offset+N 行,然后返回放弃前 offset 行,返回 N 行,那当 offset 特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行 SQL 改写。

    • 示例如下,先快速定位需要获取的id段,然后再关联:

    selecta.*?from?表1?a,(select?id?from?表1?where?条件?limit100000,20?)?b?where?a.id=b.id;
    

    15、如果明确知道只有一条结果返回,limit 1 能够提高效率

    • 比如如下 SQL 语句:

    select?*?from?user?where?login_name=?;
    
    • 可以优化为:

    select?*?from?user?where?login_name=??limit?1
    
    • 自己明确知道只有一条结果,但数据库并不知道,明确告诉它,让它主动停止游标移动。

    16、超过三个表最好不要 join

    • 需要 join 的字段,数据类型必须一致,多表关联查询时,保证被关联的字段需要有索引。

    • 例如:left join是由左边决定的,左边的数据一定都有,所以右边是我们的关键点,建立索引要建右边的。当然如果索引在左边,可以用right join

    17、单表索引建议控制在5个以内

    18、SQL 性能优化 explain 中的 type:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts 最好

    • consts:单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。

    • ref:使用普通的索引(Normal Index)

    • range:对索引进行范围检索。

    • type=index 时,索引物理文件全扫,速度非常慢。

    19、业务上具有唯一特性的字段,即使是多个字段的组合,也必须建成唯一索引

    • 不要以为唯一索引影响了 insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的。另外,即使在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。

    20.创建索引时避免以下错误观念

    1. 索引越多越好,认为需要一个查询就建一个索引。

    2. 宁缺勿滥,认为索引会消耗空间、严重拖慢更新和新增速度。

    3. 抵制惟一索引,认为业务的惟一性一律需要在应用层通过“先查后插”方式解决。

    4. 过早优化,在不了解系统的情况下就开始优化。

    索引选择性与前缀索引

    • 既然索引可以加快查询速度,那么是不是只要是查询语句需要,就建上索引?答案是否定的。因为索引虽然加快了查询速度,但索引也是有代价的:索引文件本身要消耗存储空间,同时索引会加重插入、删除和修改记录时的负担,另外,MySQL在运行时也要消耗资源维护索引,因此索引并不是越多越好。一般两种情况下不建议建索引。

    • 第一种情况是表记录比较少,例如一两千条甚至只有几百条记录的表,没必要建索引,让查询做全表扫描就好了。至于多少条记录才算多,这个个人有个人的看法,我个人的经验是以2000作为分界线,记录数不超过 2000可以考虑不建索引,超过2000条可以酌情考虑索引。

    • 另一种不建议建索引的情况是索引的选择性较低。所谓索引的选择性(Selectivity),是指不重复的索引值(也叫基数,Cardinality)与表记录数(#T)的比值:

    Index?Selectivity?=?Cardinality?/?#T
    
    • 显然选择性的取值范围为(0, 1]``,选择性越高的索引价值越大,这是由B+Tree的性质决定的。例如,employees.titles表,如果title`字段经常被单独查询,是否需要建索引,我们看一下它的选择性:

    SELECT?count(DISTINCT(title))/count(*)?AS?Selectivity?FROM?employees.titles;
    +-------------+
    |?Selectivity?|
    +-------------+
    |??????0.0000?|
    +-------------+
    
    • title的选择性不足0.0001(精确值为0.00001579),所以实在没有什么必要为其单独建索引。

    • 有一种与索引选择性有关的索引优化策略叫做前缀索引,就是用列的前缀代替整个列作为索引key,当前缀长度合适时,可以做到既使得前缀索引的选择性接近全列索引,同时因为索引key变短而减少了索引文件的大小和维护开销。下面以employees.employees表为例介绍前缀索引的选择和使用。

    • 假设employees表只有一个索引<emp_no>,那么如果我们想按名字搜索一个人,就只能全表扫描了:

    EXPLAIN?SELECT?*?FROM?employees.employees?WHERE?first_name='Eric'?AND?last_name='Anido';
    +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
    |?id?|?select_type?|?table?????|?type?|?possible_keys?|?key??|?key_len?|?ref??|?rows???|?Extra???????|
    +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
    |??1?|?SIMPLE??????|?employees?|?ALL??|?NULL??????????|?NULL?|?NULL????|?NULL?|?300024?|?Using?where?|
    +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
    
    • 如果频繁按名字搜索员工,这样显然效率很低,因此我们可以考虑建索引。有两种选择,建<first_name><first_name, last_name>,看下两个索引的选择性:

    SELECT?count(DISTINCT(first_name))/count(*)?AS?Selectivity?FROM?employees.employees;
    +-------------+
    |?Selectivity?|
    +-------------+
    |??????0.0042?|
    +-------------+
    SELECT?count(DISTINCT(concat(first_name,?last_name)))/count(*)?AS?Selectivity?FROM?employees.employees;
    +-------------+
    |?Selectivity?|
    +-------------+
    |??????0.9313?|
    +-------------+
    
    • <first_name>显然选择性太低,``<first_name, last_name>选择性很好,但是first_namelast_name加起来长度为30,有没有兼顾长度和选择性的办法?可以考虑用first_name和last_name的前几个字符建立索引,例如<first_name, left(last_name, 3)>`,看看其选择性:

    SELECT?count(DISTINCT(concat(first_name,?left(last_name,?3))))/count(*)?AS?Selectivity?FROM?employees.employees;
    +-------------+
    |?Selectivity?|
    +-------------+
    |??????0.7879?|
    +-------------+
    
    
    • 选择性还不错,但离0.9313还是有点距离,那么把last_name前缀加到4:

    SELECT?count(DISTINCT(concat(first_name,?left(last_name,?4))))/count(*)?AS?Selectivity?FROM?employees.employees;
    +-------------+
    |?Selectivity?|
    +-------------+
    |??????0.9007?|
    +-------------+
    
    • 这时选择性已经很理想了,而这个索引的长度只有18,比<first_name, last_name>短了接近一半,我们把这个前缀索引建上:

    ALTER?TABLE?employees.employees
    ADD?INDEX?`first_name_last_name4`?(first_name,?last_name(4));
    
    • 此时再执行一遍按名字查询,比较分析一下与建索引前的结果:

    SHOW?PROFILES;
    +----------+------------+---------------------------------------------------------------------------------+
    |?Query_ID?|?Duration???|?Query???????????????????????????????????????????????????????????????????????????|
    +----------+------------+---------------------------------------------------------------------------------+
    |???????87?|?0.11941700?|?SELECT?*?FROM?employees.employees?WHERE?first_name='Eric'?AND?last_name='Anido'?|
    |???????90?|?0.00092400?|?SELECT?*?FROM?employees.employees?WHERE?first_name='Eric'?AND?last_name='Anido'?|
    +----------+------------+---------------------------------------------------------------------------------+
    
    • 性能的提升是显著的,查询速度提高了120多倍。

    • 前缀索引兼顾索引大小和查询速度,但是其缺点是不能用于ORDER BYGROUP BY操作,也不能用于Covering index(即当索引本身包含查询所需全部数据时,不再访问数据文件本身)。

    总结

    • 本文主要讲了索引优化的二十个原则,希望读者喜欢。

    • 本篇文章脑图PDF文档已经准备好,有需要的伙伴可以回复关键词索引优化获取。

    cs