MySQL上线,检查数据库设计的“十条合规”

MySQL作为关系型数据库的典型代表,在国内环境里经历风雨磨砺,不断地精进,已经在开发和运维方面,成型了一套的规范。这些规范让了解和使用MySQL更加得心应手,并对后期的一些问题起到了很好的预防作用。

结合个人经验,下面具体讲解十个“合规检查”:

1. 数据库大表信息查看

统计某库下各表大小,不要存在过大的表信息。本身分配内存有限,过大的表会不停地刷新新旧数据,IO交付频繁,导致性能衰减。

SELECT TABLE_SCHEMA,

      TABLE_NAME TABLE_NAME, TABLE_ROWS,

                 CONCAT(ROUND(data_length / (1024 * 1024), 2),'M') data_length,

                 CONCAT(ROUND(index_length / (1024 * 1024), 2),'M') index_length,

                 CONCAT(ROUND(ROUND(data_length + index_length) / (1024 * 1024),2),'M') total_size,

                 engine

FROM INFORMATION_SCHEMA.TABLES

WHERE TABLE_SCHEMA NOT IN ('INFORMATION_SCHEMA' ,

                          'performance_schema',

                          'sys',

                          'mysql')

ORDER BY (data_length + index_length) DESC LIMIT 10;

+--------------+-----------------------+------------+-------------+--------------+------------+--------+

| TABLE_SCHEMA | TABLE_NAME            | TABLE_ROWS | data_length | index_length | total_size | ENGINE |

+--------------+-----------------------+------------+-------------+--------------+------------+--------+

| employees    | salaries              |    1910497 | 64.59M      | 0.00M        | 64.59M     | InnoDB |

| employees    | employees             |     299556 | 14.52M      | 10.03M       | 24.55M     | InnoDB |
| employees    | employees01           |     101881 | 5.52M       | 8.55M        | 14.06M     | InnoDB |
| employees    | t_temp                |      95374 | 5.52M       | 5.52M        | 11.03M     | InnoDB |
| db3          | t_temp                |       1000 | 0.08M       | 0.13M        | 0.20M      | InnoDB |
| db3          | transportorder        |          3 | 0.02M       | 0.06M        | 0.08M      | InnoDB |
| db3          | transportorderwaybill |          3 | 0.02M       | 0.05M        | 0.06M      | InnoDB |
| db1          | pt1                   |         10 | 0.06M       | 0.00M        | 0.06M      | InnoDB |
| db1          | city                  |          2 | 0.02M       | 0.03M        | 0.05M      | InnoDB |
| db2          | tabname               |         30 | 0.02M       | 0.03M        | 0.05M      | InnoDB |

+--------------+-----------------------+------------+-------------+--------------+------------+--------+

10 rows in set (0.20 sec)

2. 存储引擎

存储引擎分布,innodb引擎最适合因为支持事务,行锁级别。

SELECT TABLE_SCHEMA,

      ENGINE,

      COUNT(*)

FROM INFORMATION_SCHEMA.TABLES

WHERE TABLE_SCHEMA NOT IN ('INFORMATION_SCHEMA',

                          'PERFORMANCE_SCHEMA',

                          'SYS',

                          'MYSQL')

 AND TABLE_TYPE='BASE TABLE'

GROUP BY TABLE_SCHEMA,

        ENGINE;

非 INNODB 存储引擎表

SELECT TABLE_SCHEMA,

      TABLE_NAME,

      TABLE_COLLATION,

      ENGINE,

      TABLE_ROWS

FROM INFORMATION_SCHEMA.TABLES

WHERE TABLE_SCHEMA NOT IN ('INFORMATION_SCHEMA',

                          'SYS',

                          'MYSQL',

                          'PERFORMANCE_SCHEMA')

 AND TABLE_TYPE='BASE TABLE'

 AND ENGINE NOT IN ('INNODB')

ORDER BY TABLE_ROWS DESC ;

3. 主键

无主键、无唯一键表。复制主键最重要,数据操作主键效率高。

SELECT T1.TABLE_SCHEMA,

      T1.TABLE_NAME

FROM INFORMATION_SCHEMA.COLUMNS T1 JOIN INFORMATION_SCHEMA.TABLES T2 ON T1.TABLE_SCHEMA=T2.TABLE_SCHEMA AND T1.TABLE_NAME=T2.TABLE_NAME

WHERE T1.TABLE_SCHEMA NOT IN ('SYS',

                          'MYSQL',

                          'INFORMATION_SCHEMA',

                          'PERFORMANCE_SCHEMA')

AND   T2.TABLE_TYPE='BASE TABLE'

GROUP BY T1.TABLE_SCHEMA,

        T1.TABLE_NAME HAVING group_concat(COLUMN_KEY) NOT REGEXP 'PRI|UNI';

4. not utf8 table

生僻字成乱码,表情符失效问题。

SELECT TABLE_SCHEMA,TABLE_NAME,TABLE_COLLATION

from information_schema.TABLES

WHERE TABLE_COLLATION NOT LIKE 'utf8%'
AND table_schema NOT IN ('information_schema' ,'mysql','performance_schema', 'sys');

5. 字符集验证

表之间Join字符集不对称,导致索引失效。

  • 参看系统字符集:

mysql> show global variables like 'collation%';
  • 跟系统字符集不一样的数据库:

SELECT b.SCHEMA_NAME, b.DEFAULT_CHARACTER_SET_NAME, b.DEFAULT_COLLATION_NAME

 from information_schema.SCHEMATA  b

WHERE  b.SCHEMA_NAME not in ('information_schema' ,'mysql','performance_schema', 'sys')

 AND b.DEFAULT_COLLATION_NAME<>@@collation_server  ;

  • 跟系统字符集不一样的表和字段:

select distinct tschema,tname,tcoll

from

(

 select  a.TABLE_SCHEMA as tschema , a.TABLE_NAME as tname,a.TABLE_COLLATION  as tcoll

 from information_schema.TABLES a
 WHERE  a.TABLE_SCHEMA not in ('information_schema' ,'mysql','performance_schema', 'sys')
 and a.TABLE_COLLATION<>@@collation_server
 union

 select a.TABLE_SCHEMA as tschema, TABLE_NAME as tname, a.COLLATION_NAME  as tcoll

  from information_schema.COLUMNS a

 WHERE  a.TABLE_SCHEMA not in ('information_schema' ,'mysql','performance_schema', 'sys')

 and a.COLLATION_NAME<>@@collation_server ) as aa ;

6. 存储过程&函数

存储过程和函数查看,确实影响MySQL处理能力,后期也不好维护。

##MySQL5.7

SELECT db,type,count(*)

FROM mysql.proc

WHERE db not in ('mysql','information_schema','performance_schema','sys')

AND type='PROCEDURE'

GROUP BY db, type;

##MySQL8.0

SELECT  Routine_schema, Routine_type

FROM information_schema.Routines

WHERE  Routine_schema not in ('mysql','information_schema','performance_schema','sys')

AND ROUTINE_TYPE='PROCEDURE'

GROUP BY Routine_schema, Routine_type;

7. 统计视图

统计视图确实影响MySQL处理能力,后期也不好维护。特别是ddl变更要注意。

SELECT  TABLE_SCHEMA , COUNT(TABLE_NAME)

FROM information_schema.VIEWS

WHERE TABLE_SCHEMA not in ('mysql','information_schema','performance_schema','sys')

GROUP BY TABLE_SCHEMA ;

8. 自增主键查看

主要考虑自增键超出范围,需要检查一下。

SELECT  infotb.TABLE_SCHEMA  ,
infotb.TABLE_NAME,
infotb.AUTO_INCREMENT,
infocl.COLUMN_TYPE  ,

infocl.COLUMN_NAME

FROM information_schema.TABLES  as infotb INNER JOIN information_schema.COLUMNS infocl

ON infotb.TABLE_SCHEMA = infocl.TABLE_SCHEMA

AND infotb.TABLE_NAME = infocl.TABLE_NAME
AND infocl.EXTRA='auto_increment';

自增主键使用情况统计:

SELECT  infotb.TABLE_SCHEMA  , infotb.TABLE_NAME, infotb.AUTO_INCREMENT,infocl.COLUMN_TYPE
FROM  information_schema.TABLES  as infotb INNER JOIN information_schema.COLUMNS infocl
ON infotb.TABLE_SCHEMA = infocl.TABLE_SCHEMA  
AND infotb.TABLE_NAME = infocl.TABLE_NAME
AND infocl.EXTRA='auto_increment';

9. 分区表

尽量避免分区表,分区表性能问题:体现在分区锁,初期访问加载所有分区。

查看实例中的分区表相关信息:

SELECT TABLE_SCHEMA,

      TABLE_NAME,

      count(PARTITION_NAME) AS PARTITION_COUNT,

      sum(TABLE_ROWS) AS TABLE_TOTAL_ROWS,

      CONCAT(ROUND(SUM(DATA_LENGTH) / (1024 * 1024), 2),'M') DATA_LENGTH,

      CONCAT(ROUND(SUM(INDEX_LENGTH) / (1024 * 1024), 2),'M') INDEX_LENGTH,

      CONCAT(ROUND(ROUND(SUM(DATA_LENGTH + INDEX_LENGTH)) / (1024 * 1024),2),'M') TOTAL_SIZE

FROM INFORMATION_SCHEMA.PARTITIONS

WHERE TABLE_SCHEMA NOT IN ('sys',

                        'mysql',

                        'INFORMATION_SCHEMA',

                        'performance_schema')

 AND PARTITION_NAME IS NOT NULL

GROUP BY TABLE_SCHEMA,

        TABLE_NAME

ORDER BY sum(DATA_LENGTH + INDEX_LENGTH) DESC ;

+--------------+------------------+-----------------+------------------+-------------+--------------+------------+

| TABLE_SCHEMA | TABLE_NAME       | PARTITION_COUNT | TABLE_TOTAL_ROWS | DATA_LENGTH | INDEX_LENGTH | TOTAL_SIZE |

+--------------+------------------+-----------------+------------------+-------------+--------------+------------+

| db           | t1               |             365 |                0 | 5.70M       | 17.11M       | 22.81M     |

| db           | t2               |             391 |                0 | 6.11M       | 0.00M        | 6.11M      |
| db           | t3               |               4 |            32556 | 2.28M       | 0.69M        | 2.97M      |
| db           | t4               |              26 |                0 | 0.41M       | 2.44M        | 2.84M      |
| db           | t5               |               4 |                0 | 0.06M       | 0.00M        | 0.06M      |
| db           | t6               |               4 |                0 | 0.06M       | 0.00M        | 0.06M      |

+--------------+------------------+-----------------+------------------+-------------+--------------+------------+

6 rows in set (1.04 sec)

  • 查看某分区表具体信息,此处以库名为 db、表名为 e 的分区表为例:

SELECT TABLE_SCHEMA,
      TABLE_NAME,
      PARTITION_NAME,
      PARTITION_EXPRESSION,
      PARTITION_METHOD,
      PARTITION_DESCRIPTION,

      TABLE_ROWS,

      CONCAT(ROUND(DATA_LENGTH / (1024 * 1024), 2),'M') DATA_LENGTH,

      CONCAT(ROUND(INDEX_LENGTH / (1024 * 1024), 2),'M') INDEX_LENGTH,

      CONCAT(ROUND(ROUND(DATA_LENGTH + INDEX_LENGTH) / (1024 * 1024),2),'M') TOTAL_SIZE

FROM INFORMATION_SCHEMA.PARTITIONS

WHERE TABLE_SCHEMA NOT IN ('sys',

                        'mysql',

                        'INFORMATION_SCHEMA',

                        'performance_schema')

 AND PARTITION_NAME IS NOT NULL

 AND TABLE_SCHEMA='db'
 AND TABLE_NAME='e';

+--------------+------------+----------------+----------------------+------------------+-----------------------+------------+-------------+--------------+------------+

| TABLE_SCHEMA | TABLE_NAME | PARTITION_NAME | PARTITION_EXPRESSION | PARTITION_METHOD | PARTITION_DESCRIPTION | TABLE_ROWS | DATA_LENGTH | INDEX_LENGTH | TOTAL_SIZE |

+--------------+------------+----------------+----------------------+------------------+-----------------------+------------+-------------+--------------+------------+

| db           | e          | p0             | id                   | RANGE            | 50                    |       4096 | 0.20M       | 0.09M        | 0.30M      |

| db           | e          | p1             | id                   | RANGE            | 100                   |       6144 | 0.28M       | 0.13M        | 0.41M      |
| db           | e          | p2             | id                   | RANGE            | 150                   |       6144 | 0.28M       | 0.13M        | 0.41M      |
| db           | e          | p3             | id                   | RANGE            | MAXVALUE              |      16172 | 1.52M       | 0.34M        | 1.86M      |

+--------------+------------+----------------+----------------------+------------------+-----------------------+------------+-------------+--------------+------------+

4 rows in set (0.00 sec)

10. 计划任务

在不自觉中,自动执行。确认无法维护。

SELECT EVENT_SCHEMA,EVENT_NAME

FROM information_schema.EVENTS

WHERE EVENT_SCHEMA not in ('mysql',

'information_schema',

'performance_schema',

'sys');

总结

以上合规检查已经为后期排除了很多隐患。做好上线数据库设计方面的合规检查,是必不可少的流程。

关于作者

崔虎龙,云和恩墨MySQL技术顾问,长期服务于金融、游戏、物流等行业的数据中心,设计数据存储架构,并熟悉数据中心运营管理的流程及规范,自动化运维等。擅长MySQL、Redis、MongoDB数据库高可用设计和运维故障处理、备份恢复、升级迁移、性能优化。自学通过了MySQL OCP 5.6和MySQL OCP 5.7认证。2年多开发经验,10年数据库运维工作经验,其中专职做MySQL工作8年;曾经担任过项目经理、数据库经理、数据仓库架构师、MySQL技术专家、DBA等职务;涉及行业:金融(银行、理财)、物流、游戏、医疗、重工业等。

墨天轮原文链接:https://www.modb.pro/db/51721(复制到浏览器或者点击“阅读原文”立即查看)

END
(0)

相关推荐

  • 常用SQL语句分享

    前言: 日常工作或学习过程中,我们可能会经常用到某些SQL,建议大家多多整理记录下这些常用的SQL,这样后续用到会方便很多.笔者在工作及学习过程中也整理了下个人常用的SQL,现在分享给你!可能有些SQ ...

  • MySQL 学习笔记 (一)

    MySQL 学习笔记 (一)

  • 线上故障如何快速排查?来看这套技巧大全

    文末福利:轻量应用服务器优惠,新用户专享. 前言 线上定位问题时,主要靠监控和日志.一旦超出监控的范围,则排查思路很重要,按照流程化的思路来定位问题,能够让我们在定位问题时从容.淡定,快速的定位到线上 ...

  • 带你认识MySQL sys schema

    前言: MySQL 5.7中引入了一个新的sys schema,sys是一个MySQL自带的系统库,在安装MySQL 5.7以后的版本,使用mysqld进行初始化时,会自动创建sys库. sys库里面 ...

  • Django的开发流程与数据库设计

    引言:项目开发流程: 需求分析(成员:架构师 .产品经理 .开发者组长) 在跟客户谈需求之前,会大致先了解客户的需求,然后自己先设计一套比较好写的方案.跟客户沟通交流中引导客户往我们之前想好的方案上面 ...

  • 【电商专题】陈瑞华: 企业合规不起诉制度该如何设计和运用

    摘  要  为加强对民营企业的司法保护,发挥社会综合治理职能,一些地方检察机关启动了企业合规不起诉制度的改革探索,将企业合规激励机制引入公诉制度之中,使之成为对涉嫌犯罪的企业加以宽大刑事处理的主要依据 ...

  • 刑事合规项下非诉产品的服务设计

    ✎引言 "刑事合规"当下在很多场合和语境下被提起,实践中的刑事合规服务大部分是在已经发生了现实风险后,面临着巨大的刑事责任压力,才紧急展开的一场"救火行动",它 ...

  • 6套专为农村百姓设计的中式合院,第3套好养老,第4套占地小

    自古以来中式建筑就为世人所喜爱,这种流淌着我们华夏五千年历史的建筑,从来都不过时.中式房子不好建,一来没有合适的户型图,二来对施工队的手艺有着极高的要求. 不过我们今天能给大家解决第一个问题,那就是户 ...

  • 五大优秀的数据库设计工具

    数据库的设计主要是针对一个特定的个环境,为了能够满足有效的数据存储和处理等要求,需要构造最优的数据库模式来建立数据库及其对应系统.数据库设计时根据用户的需求,在特定的数据库管理系统上设计和建立数据库的 ...

  • 装饰设计行业LOGO合集鉴赏

    今天收集了 图源网络,仅供学习参考 装饰设计行业LOGO合集鉴赏 喜欢收藏起来~ 设计师灵感来源必经之地... logo设计.logo灵感来源.商标设计.字体设计

  • 广汽埃安品牌发布全新LOGO 扁平化设计更贴合数字化时代

    广汽埃安未来的产品在车前将使用全新设计的扁平化"G"型LOGO,车尾以及其他细节部分将使用"AION"字母LOGO. 在去年广州车展上,广汽集团宣布旗下的&qu ...

  • Mysql 删除从数据库的relay logs最佳方式、最安全方式

    情景 MySQL数据库主从复制在默认情况下从库的relay logs会在SQL线程执行完毕后被自动删除.但是:在relay_log_purge = 0和MHA集群下,不会被自动删除,需要手动删除.如何 ...

  • mysql 查询指定数据库所有表, 指定表所有列, 指定列所有表 所有外键及索引, 以及索引的创建和删除

    查询指定 数据库 中所有 表 (指定数据库的,所有表) // 可以把 TABLE_NAME 换成 * 号, 查看更丰富的信息 SELECT TABLE_NAME FROM information_sc ...