客户端把sql语句交给数据库后,需要经过数据库的优化器生成查询计划,在此期间决定是走索引查询还是进行全表扫描。本文将展示字段添加索引前后查询效率的对比,来指出哪些情况适合创建索引
1.数据准备
本次实验准备了两张表,分别是学生表student_info和课程表course,他们的结构如下
CREATE TABLE `student_info` (
`id` int NOT NULL AUTO_INCREMENT,
`student_id` int NOT NULL,
`name` varchar(20) DEFAULT NULL,
`course_id` int NOT NULL,
`class_id` int DEFAULT NULL,
`create_time` datetime DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1000001 DEFAULT CHARSET=utf8mb3;
CREATE TABLE `course` (
`id` int NOT NULL AUTO_INCREMENT,
`course_id` int NOT NULL,
`course_name` varchar(40) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=101 DEFAULT CHARSET=utf8mb3;
student_info 表中有100w条记录,course 表中有100条记录
2.适合创建索引的字段
1.字段的数值有唯一性的限制
业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。(来源:Alibaba)
说明:不要以为唯一索引影响了 insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的。
添加了唯一性索引之后,找到一个便可以不用接着往下找了,因为其是为唯一的,所以可以加快查询速度
2.频繁作为 WHERE 查询条件的字段
某个字段在SELECT语句的 WHERE 条件中经常被使用到,那么就需要给这个字段创建索引了。尤其是在数据量大的情况下,创建普通索引就可以大幅提升数据查询的效率。
比如student_info数据表(含 100 万条数据),假设我们想要查询 student_id=123110 的用户信息。
首先查看我们当前只存在主键的聚簇索引
#查看当前stduent_info表中的索引
SHOW INDEX FROM student_info;
此时 student_id 没有索引,我们查询耗时是448ms
#student_id字段上没有索引的:
SELECT
course_id, class_id, NAME, create_time, student_id
FROM
student_info
WHERE
student_id = 123110;
#查询耗时:457ms
给student_id字段加上索引
ALTER TABLE
student_info
ADD INDEX
idx_sid(student_id);
我们再次进行查询,查询耗时为32ms,可以看出走索引只需要花费原来十五分之一的时间
#student_id字段上有索引的:
SELECT
course_id,
class_id,
NAME,
create_time,
student_id
FROM
student_info
WHERE
student_id = 123110;
#查询耗时:32ms
3.经常 GROUP BY 和 ORDER BY 的列
索引的底层是排序,就是让数据按照某种顺序进行存储或检索,因此当我们使用 GROUP BY 对数据进行分组查询,或者使用 ORDER BY 对数据进行排序的时候,就需要对分组或者排序的字段进行索引
。如果待排序的列有多个,那么可以在这些列上建立组合索引。
单列索引:
GROUP BY 和ORDER BY 对应的字段都有索引
#查看索引
SHOW INDEX FROM student_info;
我们执行下列语句,发现耗时4638ms
SELECT
student_id,
COUNT(*) AS num
FROM
student_info
GROUP BY
student_id
ORDER BY
create_time DESC
LIMIT 100;
#执行耗时:4638ms
使用explain工具查看执行计划
我们发现走的是idx_sid的索引,但是因为还要进行一次排序操作,所以使用到了filesort,而文件排序是非常耗时的,我们应当避免
结果:当GROUP BY 和ORDER BY 的字段都有索引时,会优先选择GROUP BY 对应的索引,因为sql语句是先执行GROUP BY 语句。
我们可以使用联合索引来提高查询速度:
联合索引中的顺序:先走group by对应的索引字段,再走order by 对应的索引字段
#添加联合索引
ALTER TABLE
student_info
ADD INDEX
idx_sid_cre_time(student_id,create_time DESC);
再次使用explain查看查询计划
EXPLAIN SELECT
student_id, COUNT(*) AS num FROM student_info
GROUP BY
student_id
ORDER BY
create_time DESC
LIMIT
100;
这次使用的是联合索引
再次执行
SELECT
student_id,
COUNT(*) AS num
FROM
student_info
GROUP BY
student_id
ORDER BY
create_time DESC
LIMIT 100;
#执行耗时:445ms
走联合索引比走单列索引速度提升了10倍
4.UPDATE、DELETE 的 WHERE 条件列
对数据按照某个条件进行查询后再进行 UPDATE 或 DELETE 的操作,如果对 WHERE 字段创建了索引,就能大幅提升效率。原理是因为我们需要先根据 WHERE 条件列检索出来这条记录,然后再对它进行更新或删除。 如果进行更新的时候,更新的字段是非索引字段,提升的效率会更明显,这是因为非索引字段更新不需要对索引进行维护。
#④ UPDATE、DELETE 的 WHERE 条件列
SHOW INDEX FROM student_info;
UPDATE student_info SET student_id = 10002
WHERE NAME = 'pbnidR';
#执行耗时:1254ms
#添加索引
ALTER TABLE student_info
ADD INDEX idx_name(NAME);
UPDATE student_info SET student_id = 10001
WHERE NAME = 'pbnidR';
#执行耗时:30ms
5.DISTINCT 字段需要创建索
有时候我们需要对某个字段进行去重,使用 DISTINCT,那么对这个字段创建索引,也会提升查询效率。DISTINCT去重的前提是排序好,相同的堆积在一起,进行去重,而索引底层就是排序
比如,我们想要查询课程表中不同的 student_id 都有哪些,如果我们没有对 student_id 创建索引,执行
SQL 语句:
,SELECT DISTINCT student_id FROM `student_info `;
#查询耗时2296ms,198014 条记录
#在student_id列添加索引
alter table student_info add index idx_sid(student_id);
#查询
SELECT DISTINCT student_id FROM `student_info `;
#查询耗时847ms,198014 条记录
可以看到 SQL 查询效率有了提升,同时显示出来的 student_id 还是按照递增的顺序
进行展示的。这是因为索引会对数据按照某种顺序进行排序,所以在去重的时候也会快很多。 因为紧挨着所以去重特别方便。
6.多表 JOIN 连接操作时,创建索引注意事项
首先,连接表的数量尽量不要超过 3 张,因为每增加一张表就相当于增加了一次嵌套的循环,数量级增长会非常快,严重影响查询的效率。例如:一层是n,两层是n²,三层是n³
其次,对 WHERE 条件创建索引,因为 WHERE 才是对数据条件的过滤。如果在数据量非常大的情况下,没有 WHERE 条件过滤是非常可怕的。
最后,对用于连接的字段创建索引,并且该字段在多张表中的类型必须一致。比如 course_id 在student_info 表和 course 表中都为 int(11) 类型,而不能一个为 int 另一个为 varchar 类型,否则会运用函数进行隐式转换,而一旦用了函数,索引就会失效。
举个例子,如果我们只对 student_id 创建索引,执行 SQL 语句:
SELECT s.course_id,s.name,s.student_id, c.course_name
FROM student_info s JOIN course c
ON s.course_id = c.course_id
WHERE s.name = 'pbnidR' ;
#查询耗时:395ms,1条记录
这里我们对 name 创建索引
alter table student_info add index idx_name(name);
再执行上面的 SQL 语句,运行时间为 35ms。
7.使用列的类型小的创建索引
我们这里所说的类型大小
指的就是该类型表示的数据范围的大小。
我们在定义表结构的时候要显式的指定列的类型,以整数类型为例,有TINYINT
、MEDIUMINT
、INT
、BIGINT
等,它们占用的存储空间依次递增,能表示的整数范围当然也是依次递增。如果我们想要对某个整数列建立索引的话,在表示的整数范围允许的情况下,尽量让索引列使用较小的类型,比如我们能使用INT
就不要使用BIGINT
,能使用MEDIUMINT
就不要使用INT
。这是因为:
- 数据类型越小,在查询时进行的比较操作越快
- 数据类型越小,索引占用的存储空间就越少,在一个数据页内就可以放下更多的记录,从而减少磁盘I/0带来的性能损耗,也就意味着可以把更多的数据页缓存在内存中,从而加快读写效率。
这个建议对于表的主键来说更加适用,因为不仅是聚簇索引中会存储主键值,其他所有的二级索引的节点处都会存储一份记录的主键值,如果主键使用更小的数据类型,也就意味着节省更多的存储空间和更高效的I/O。
8.使用字符串前缀创建索引
假设我们的字符串很长,那存储一个字符串就需要占用很大的存储空间。在我们需要为这个字符串列建立索引时,那就意味着在对应的B+树中有这么两个问题:
- B+树索引中的记录需要把该列的完整字符串存储起来,更费时。而且字符串越长,
在索引中占用的存储空间越大。
- 如果B+树索引中索引列存储的字符串很长,那在做字符串
比较时会占用更多的时间。
我们可以通过截取字段的前面一部分内容建立索引,这个就叫前缀索引。这样在查找记录时虽然不能精确的定位到记录的位置,但是能定位到相应前缀所在的位置,然后根据前缀相同的记录的主键值回表查询完整的字符串值。既节约空间
,又减少了字符串的比较时间
,还大体能解决排序的问题。
例如,TEXT和BLOG类型的字段,进行全文检索会很浪费时间,如果只检索字段前面的若干字符,这样可以提高检索速度。
创建一张商户表,因为地址字段比较长,在地址字段上建立前缀索引
create table shop(address varchar( 120 ) not null);
alter table shop add index(address( 12 ));
问题是,截取多少呢?截取得多了,达不到节省索引存储空间的目的;截取得少了,重复内容太多,字段的散列度(选择性)会降低。 怎么计算不同的长度的选择性呢?
先看一下字段在全部数据中的选择度:
select count(distinct address) / count(*) from shop;
通过不同长度去计算,与全表的选择性对比:
公式:
count(distinct left(列名, 索引长度))/count(*)
越接近于1表示越合适,如果增幅不大的情况下,优先选择前缀长度较小的
例如:
select count(distinct left(address, 10 )) / count(*) as sub10, -- 截取前 10 个字符的选择度
count(distinct left(address, 15 )) / count(*) as sub11, -- 截取前 15 个字符的选择度
count(distinct left(address, 20 )) / count(*) as sub12, -- 截取前 20 个字符的选择度
count(distinct left(address, 25 )) / count(*) as sub13 -- 截取前 25 个字符的选择度
from shop;
引申另一个问题:索引列前缀对排序的影响
如果使用了索引列前缀,比方说前边只把address列的前12个字符放到了二级索引中,下边这个查询可能就有点儿尴尬了:
SELECT * FROM shop
ORDER BY address # 这个地方order by 就不准了 如果用前12个建立索引的话
LIMIT 12;
因为二级索引中不包含完整的address列信息,所以无法对前12个字符相同,后边的字符不同的记录进行排序,也
就是使用索引列前缀的方式无法支持使用索引排序,只能使用文件排序。
拓展:Alibaba《Java开发手册》
【强制
】在 varchar 字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度。
说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达90% 以上
,可以使用 count(distinct left(列名, 索引长度))/count(*)的区分度来确定。
9.区分度高(散列性高)的列适合作为索引
列的基数
指的是某一列中不重复数据的个数,比方说某个列包含值2,5,8,2,5,8,2,5,8,虽然有9条记录,但该列的基数却是3
。也就是说,在记录行数一定的情况下,列的基数越大,该列中的值越分散;列的基数越小,该列中的值越集中。这个列的基数指标非常重要,直接影响我们是否能有效的利用索引。最好为列的基数大的列建立索引,为基数太小列的建立索引效果可能不好。
可以使用公式 select count(distinct a)/count(*) from t1
计算区分度,越接近1越好,一般超过33%就算是比较高效的索引了。
拓展:联合索引应该把区分度高(散列性高)的列放在前面。
10.使用最频繁的列放到联合索引的左侧
这样也可以较少的建立一些索引。同时,由于"最左前缀原则",可以增加联合索引的使用率。
11.在多个字段都要创建索引的情况下,联合索引优于单值索引
根据最左前缀原则,如果从左到右依次匹配到联合索引,那么既可以走联合索引
3. 限制索引的数目
在实际工作中,我们也需要注意平衡,索引的数目不是越多越好。我们需要限制每张表上的索引数量,建议单张表索引数量不超过6个
。原因:
① 每个索引都需要占用磁盘空间
,索引越多,需要的磁盘空间就越大。
② 索引会影响INSERT
、DELETE
、UPDATE
等语句的性能,因为表中的数据更改的同时,索引也会进行调整和更新,会造成负担。
注意,update时只有对索引字段进行更新才会影响更新性能。
③优化器在选择如何优化查询时,会根据统一信息,对每一个可以用到的索引来进行评估
,以生成出一个最好的执行计划,如果同时有很多个索引都作为候选,那么会增加MySQL优化器生成执行计划时间,降低查询性能。