MYSQL04高级_逻辑架构剖析、查询缓存、解析器、优化器、执行器、存储引擎
①. 逻辑架构剖析
-
①. 服务器处理客户端请求
- ②. 连接层
- 系统(客户端)访问MySQL服务器前,做的第一件事就是建立TCP连接
- 经过三次握手建立连接成功后,MySQL服务器对TCP传输过来的账号密码做身份认证、权限获取用户名或密码不对,会收到一个Access denied for user错误,客户端程序结束执行用户名密码认证通过,会从权限表查出账号拥有的权限与连接关联,之后的权限判断逻辑,都将依赖于此时读到的权限
- TCP连接收到请求后,必须要分配给一个线程专门与这个客户端的交互。所以还会有个线程池,去走后面的流程。每一个连接从线程池中获取线程,省去了创建和销毁线程的开销
- ③. 服务层 - SQL Interface(SQL接口)
- 接收用户的SQL命令,并且返回用户需要查询的结果。比如SELECT … FROM就是调用SQL Interface
- MySQL支持DML(数据操作语言）、DDL(数据定义语言）、存储过程、视图、触发器、自定义函数等多种SQL语言接口
- ④. 服务层 - Parser(解析器)
- 在解析器中对SQL语句进行语法分析、语义分析。将SQL语句分解成数据结构,并将这个结构传递到后续步骤,以后SQL语句的传递和处理就是基于这个结构的。如果在分解构成中遇到错误,那么就说明这个SQL语句是不合理的
- 在SQL命令传递到解析器的时候会被解析器验证和解析,并为其创建语法树,并根据数据字典丰富查询语法树,会验证该客户端是否具有执行该查询的权限。创建好语法树后,MySQL还会对SQl查询进行语法上的优化,进行查询重写
- ⑤. 服务层 - Optimizer(查询优化器)
- SQL语句在语法解析之后、查询之前会使用查询优化器确定SQL语句的执行路径,生成一个执行计划
- 这个执行计划表明应该使用哪些索引进行查询(全表检索还是使用索引检索),表之间的连接顺序如何,最后会按照执行计划中的步骤调用存储引擎提供的方法来真正的执行查询,并将查询结果返回给用户
- 它使用“选取-投影-连接”策略进行查询。例如:
- 这个SELECT查询先根据WHERE语句进行选取,而不是将表全部查询出来以后再进行gender过滤。这个SELECT查询先根据id和name进行属性投影,而不是将属性全部取出以后再进行过滤,将这两个查询条件连接起来生成最终查询结果。
# 它使用" 选取-投影-连接 "策略进行查询。例如:
SELECT id,name FROM student WHERE gender = '女';
- ⑥. 服务层 - Caches和Buffers(查询缓存组件)
- MySQL内部维持着一些Cache和Buffer,比如Query Cache用来缓存一条SELECT语句的执行结果,如果能够在其中找到对应的查询结果,那么就不必再进行查询解析、优化和执行的整个过程了,直接将结果反馈给客户端
- 这个缓存机制是由一系列小缓存组成的。比如表缓存,记录缓存,key缓存,权限缓存等
- 这个查询缓存可以在不同客户端之间共享
- 从MySQL 5.7.20开始,不推荐使用查询缓存,并在MySQL 8.0中删除
-
⑦. 引擎层:插件式存储引擎层( Storage Engines）,真正的负责了MySQL中数据的存储和提取,对物理服务器级别维护的底层数据执行操作,服务器通过API与存储引擎进行通信。不同的存储引擎具有的功能不同,这样我们可以根据自己的实际需要进行选取
-
⑧. 存储层
所有的数据,数据库、表的定义,表的每一行的内容,索引,都是存在文件系统 上,以文件的方式存在的,并完成与存储引擎的交互。当然有些存储引擎比如InnoDB,也支持不使用文件系统直接管理裸设备,但现代文件系统的实现使得这样做没有必要了。在文件系统之下,可以使用本地磁盘,可以使用DAS、NAS、SAN等各种存储系统。 -
⑨. 下面为了熟悉SQL执行流程方便,我们可以简化如下:
- 连接层:客户端和服务器端建立连接,客户端发送 SQL 至服务器端
- SQL层(服务层):对SQL语句进行查询处理,与数据库文件的存储方式无关
-
存储引擎层:与数据库文件打交道,负责数据的存储和读取
②. 服务层 - 查询缓存
-
①. 查询缓存:Server如果在查询缓存中发现了这条SQL语句,就会直接将结果返回给客户端；如果没有,就进入到解析器阶段。需要说明的是,因为查询缓存往往效率不高,所以在 MySQL8.0之后就抛弃了这个功能
-
②. 查询缓存是提前把查询结果缓存起来,这样下次不需要执行就可以直接拿到结果。需要说明的是,在MySQL中的查询缓存,不是缓存查询计划,而是查询对应的结果。这就意味着查询匹配的 鲁棒性大大降低 ,只有 相同的查询操作才会命中查询缓存 。两个查询请求在任何字符上的不同(例如:空格、注释、大小写）,都会导致缓存不会命中。因此MySQL 的 查询缓存命中率不高
-
③. 如果查询请求中包含某些系统函数、用户自定义变量和函数、一些系统表,如 mysql、information_schema、 performance_schema 数据库中的表,那这个请求就不会被缓存。以某些系统函数举例,可能同样的函数的两次调用会产生不一样的结果,比如函数 NOW ,每次调用都会产生最新的当前时间,如果在一个查询请求中调用了这个函数,那即使查询请求的文本信息都一样,那不同时间的两次查询也应该得到不同的结果,如果在第一次查询时就缓存了,那第二次查询的时候直接使用第一次查询的结果就是错误的
-
④. 既然是缓存,那就有它缓存失效的时候 。MySQL的缓存系统会监测涉及到的每张表,只要该表的结构或者数据被修改,如对该表使用了 INSERT 、 UPDATE 、 DELETE 、 TRUNCATE TABLE 、 ALTERTABLE、DROP TABLE 或 DROP DATABASE 语句,那使用该表的所有高速缓存查询都将变为无效并从高速缓存中删除！对于 更新压力大的数据库来说,查询缓存的命中率会非常低
-
⑤. 总之,因为查询缓存往往弊大于利,查询缓存的失效非常频繁
-
⑤. 一般建议大家在静态表里使用查询缓存,什么叫静态表呢？就是一般我们极少更新的表。比如,一个系统配置表、字典表,那这张表上的查询才适合使用查询缓存。好在MySQL也提供了这种"按需使用"的方式。你可以将my.cnf参数query_cache_type设置成DEMAND
my.cnf
#query_cache_type有3个值 0代表关闭查询缓存OFF,1代表开启ON,2(DEMAND)代表当sql语句中有SQL_CACHE关键词时才缓存
query_cache_type=2
- ⑥. 这样对于默认的 SQL 语句都不使用查询缓存。而对于你确定要使用查询缓存的语句,可以用 SQL_CACHE 显式指定,像下面这个语句一样
mysql> select SQL_CACHE * from test where ID=5；
# 查看当前mysql实例是否开启缓存机制
mysql> show global variables like "%query_cache_type%";
- ⑦. 监控查询缓存的命中率:
- Qcache_free_blocks:表示查询缓存中目前还有多少剩余的blocks,如果该值显示较大,则说明查询缓存中的内存碎片 过多了,可能在一定的时间进行整理
- Qcache_free_memory:查询缓存的内存大小,通过这个参数可以很清晰的知道当前系统的查询内存是否够用,是多 了,还是不够用,DBA可以根据实际情况做出调整
- Qcache_hits:表示有多少次命中缓存。我们主要可以通过该值来验证我们的查询缓存的效果。数字越大,缓存效果越理想
- Qcache_inserts:表示多少次未命中然后插入,意思是新来的SQL请求在缓存中未找到,不得不执行查询处理,执行查询处理后把结果insert到查询缓存中。这样的情况的次数,次数越多,表示查询缓存应用到的比较少,效果也就不理想。当然系统刚启动后,查询缓存是空的,这很正常
- Qcache_lowmem_prunes:该参数记录有多少条查询因为内存不足而被移除出查询缓存。通过这个值,用户可以适当的调整缓存大小
- Qcache_not_cached: 表示因为query_cache_type的设置而没有被缓存的查询数量
- Qcache_queries_in_cache:当前缓存中缓存的查询数量。
- Qcache_total_blocks:当前缓存的block数量
mysql> show status like'%Qcache%'; //查看运行的缓存信息
- ⑧. mysql8.0已经移除了查询缓存功能
③. 服务层 - 解析器
-
①. 解析器:在解析器中对SQL语句进行语法分析、语义分析
-
②. 如果没有命中查询缓存,就要开始真正执行语句了。首先,MySQL需要知道你要做什么,因此需要对SQL语句做解析。SQL语句的分析分为词法分析与语法分析。
-
③. 分析器先做“词法分析”。你输入的是由多个字符串和空格组成的一条 SQL 语句,MySQL 需要识别出里面 的字符串分别是什么,代表什么。
-
④. MySQL从你输入的"select"这个关键字识别出来,这是一个查询语句。它也要把字符串"T"识别成"表名 T",把字符串"ID"识别成"列 ID"。
-
⑤. 接着,要做“语法分析”。根据词法分析的结果,语法分析器(比如:Bison)会根据语法规则,判断你输 入的这个SQL语句是否满足MySQL语法
# 错误的SQL
select department_id,job_id, avg(salary) from employees group by department_id;
-
⑥. 如果SQL语句正确,则会生成一个这样的语法树,至此解析器的工作任务也基本圆满了
④. 服务层 - 优化器
-
①. 优化器:在优化器中会确定 SQL 语句的执行路径,比如是根据全表检索 ,还是根据 索引检索等
-
②. 经过解释器,MySQL就知道你要做什么了。在开始执行之前,还要先经过优化器的处理。一条查询可以有很多种执行方式,最后都返回相同的结果。优化器的作用就是找到这其中最好的执行计划
比如:优化器是在表里面有多个索引的时候,决定使用哪个索引；或者在一个语句有多表关联 (join) 的时候,决定各个表的连接顺序,还有表达式简化、子查询转为连接、外连接转为内连接等
# 举例:如下语句是执行两个表的 join:
select * from test1 join test2 using(ID)
where test1.name='zhangwei' and test2.name='mysql高级课程';
方案1:可以先从表 test1 里面取出 name='zhangwei'的记录的 ID 值,再根据 ID 值关联到表 test2,再判
断 test2 里面 name的值是否等于 'mysql高级课程'。
方案2:可以先从表 test2 里面取出 name='mysql高级课程' 的记录的 ID 值,再根据 ID 值关联到 test1,
再判断 test1 里面 name的值是否等于 zhangwei。
这两种执行方法的逻辑结果是一样的,但是执行的效率会有不同,而优化器的作用就是决定选择使用哪一个方案。优化
器阶段完成后,这个语句的执行方案就确定下来了,然后进入执行器阶段。
如果你还有一些疑问,比如优化器是怎么选择索引的,有没有可能选择错等。后面讲到索引我们再谈。
- ③. 在查询优化器中,可以分为 逻辑查询优化阶段和 物理查询优化阶段
- 逻辑查询优化就是通过改变SQL语句的内容来使得SQL查询更高效,同时为物理查询优化提供更多的候选执行计划。通常采用的方式是对SQL语句进行等价变换,对查询进行重写,而查询重写的数学基础就是关系代数。对条件表达式进行等价谓词重写、条件简化,对视图进行重写,对子查询进行优化,对连接语义进行了外连接消除、嵌套连接消除等
- 物理查询优化是基于关系代数进行的查询重写,而关系代数的每一步都对应着物理计算,这些物理计算往往存在多种算法,因此需要计算各种物理路径的代价,从中选择代价最小的作为执行计划。在这个阶段里,对于单表和多表连接的操作,需要高效地使用索引,提升查询效率
⑤. 服务层 - 执行器
- ①. 在执行之前需要判断该用户是否具备权限 。如果没有,就会返回权限错误。如果具备权限,就执行SQL查询并返回结果。在MySQL8.0 以下的版本,如果设置了查询缓存,这时会将查询结果进行缓存
调用InnoDB引擎接口取这个表的第一行,判断ID值是不是1,如果不是则跳过,如果是则将这行存在结果集中；调用引擎接口取"下一行",重复相同的判断逻辑,直到取到这个表的最后一行。执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集返回给客户端
select * from test where id=1;
-
②. SQL语句在MySQL中的流程是: SQL语句→查询缓存→解析器→优化器→执行器
⑥. MySQL8执行原理
- ①. 确认profiling是否开启
了解查询语句底层执行的过程:select @profiling 或者 show variables like ‘%profiling’ 查看是否开启计划。开启它可以让MySQL收集在SQL
select @profiling;
show variables like '%profiling'
mysql> select @@profiling;
+-------------+
| @@profiling |
+-------------+
| 0 |
+-------------+
1 row in set, 1 warning (0.00 sec)
- ②. profiling=0 代表关闭,我们需要把profiling打开,即设置为1
mysql>set profiling=1;
Query OK, 0 rows affected, 1 warning (0.00 sec)
- ③. 多次执行相同SQL查询
mysql> SELECT * FROM employees;
mysql> SELECT * FROM employees;
- ④. 查看当前会话所产生的所有profiles
mysql> show profiles; # 显示最近的几次查询
+----------+------------+-------------------------+
| Query_ID | Duration | Query |
+----------+------------+-------------------------+
| 1 | 0.00085275 | SELECT * FROM employees |
| 2 | 0.00090275 | SELECT * FROM employees |
+----------+------------+-------------------------+
2 rows in set, 1 warning (0.00 sec)
- ⑤. 查看profile - 显示执行计划,查看程序的执行步骤
mysql> show profile;
+--------------------------------+----------+
| Status | Duration |
+--------------------------------+----------+
| starting | 0.000086 |
| Executing hook on transaction | 0.000003 |
| starting | 0.000027 |
| checking permissions | 0.000020 |
| Opening tables | 0.000307 |
| init | 0.000007 |
| System lock | 0.000007 |
| optimizing | 0.000004 |
| statistics | 0.000012 |
| preparing | 0.000012 |
| executing | 0.000267 |
| end | 0.000004 |
| query end | 0.000003 |
| waiting for handler commit | 0.000006 |
| closing tables | 0.000007 |
| freeing items | 0.000125 |
| cleaning up | 0.000009 |
+--------------------------------+----------+
- ⑥. 查询指定的Query ID,比如:
mysql> show profile for query 2;
+--------------------------------+----------+
| Status | Duration |
+--------------------------------+----------+
| starting | 0.000086 |
| Executing hook on transaction | 0.000003 |
| starting | 0.000027 |
| checking permissions | 0.000020 |
| Opening tables | 0.000307 |
| init | 0.000007 |
| System lock | 0.000007 |
| optimizing | 0.000004 |
| statistics | 0.000012 |
| preparing | 0.000012 |
| executing | 0.000267 |
| end | 0.000004 |
| query end | 0.000003 |
| waiting for handler commit | 0.000006 |
| closing tables | 0.000007 |
| freeing items | 0.000125 |
| cleaning up | 0.000009 |
+--------------------------------+----------+
17 rows in set, 1 warning (0.00 sec)
- ⑦. 除了查看cpu、io阻塞等参数情况,还可以查询下列参数的利用情况
Syntax:
SHOW PROFILE [type [, type] ... ]
[FOR QUERY n]
[LIMIT row_count [OFFSET offset]]
type: {
| ALL -- 显示所有参数的开销信息
| BLOCK IO -- 显示IO的相关开销
| CONTEXT SWITCHES -- 上下文切换相关开销
| CPU -- 显示CPU相关开销信息
| IPC -- 显示发送和接收相关开销信息
| MEMORY -- 显示内存相关开销信息
| PAGE FAULTS -- 显示页面错误相关开销信息
| SOURCE -- 显示和Source_function,Source_file,Source_line 相关的开销信息
| SWAPS -- 显示交换次数相关的开销信息
}
mysql> show profile cpu for query 1;
+--------------------------------+----------+----------+------------+
| Status | Duration | CPU_user | CPU_system |
+--------------------------------+----------+----------+------------+
| starting | 0.000046 | 0.000005 | 0.000037 |
| Executing hook on transaction | 0.000004 | 0.000000 | 0.000003 |
| starting | 0.000007 | 0.000001 | 0.000006 |
| checking permissions | 0.000005 | 0.000000 | 0.000005 |
| Opening tables | 0.000026 | 0.000003 | 0.000023 |
| init | 0.000005 | 0.000001 | 0.000003 |
| System lock | 0.000006 | 0.000000 | 0.000006 |
| optimizing | 0.000004 | 0.000001 | 0.000003 |
| statistics | 0.000158 | 0.000017 | 0.000141 |
| preparing | 0.000046 | 0.000005 | 0.000041 |
| executing | 0.000363 | 0.000040 | 0.000325 |
| end | 0.000006 | 0.000000 | 0.000004 |
| query end | 0.000003 | 0.000001 | 0.000002 |
| waiting for handler commit | 0.000027 | 0.000003 | 0.000025 |
| closing tables | 0.000007 | 0.000000 | 0.000006 |
| freeing items | 0.000107 | 0.000012 | 0.000096 |
| cleaning up | 0.000034 | 0.000004 | 0.000030 |
+--------------------------------+----------+----------+------------+
17 rows in set, 1 warning (0.00 sec)
- ⑧. 在8.0版本之后,MySQL不再支持缓存的查询。一旦数据表有更新,缓存都将清空,因此只有数据表是静态的时候,或者数据表很少发生变化时,使用缓存查询才有价值,否则如果数据表经常更新,反而增加了SQL的查询时间