百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

大数据量惯用优化方法(大数据 量化)

ztj100 2025-04-08 20:54 9 浏览 0 评论

优化人员工作时免不了要接触到大数据量的问题,下面就将平时收集的一些关于大数据量的优化方法整理记录一下,也是和大家一起共享哦。

1. 应尽量避免在 where 子句中对字段进行 null值判断,否则将导致引擎放弃使用索引而进行全表扫描,如:

select id from t where numis null

可以在num上设置默认值0,确保表中num列没有null值,然后这样查询:

select id from t where num=0

2. 应尽量避免在 where 子句中使用!=或<>操作符,否则将导致引擎放弃使用索引而进行全表扫描。优化器将无法通过索引来确定将要命中的行数,因此需要搜索该表的所有行。

3. 应尽量避免在 where 子句中使用 or来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,如:

select id from t where num=10or num=20

可以这样查询:

select id from t where num=10

union all

select id from t where num=20

4. in和 not in也要慎用,因为in会使系统无法使用索引,而只能直接搜索表中的数据。如:

select id from t where numin(1,2,3)

对于连续的数值,能用 between就不要用 in了:

select id from t where numbetween 1 and 3

5. 尽量避免在索引过的字符数据中,使用非打头字母搜索。这也使得引擎无法利用索引。 见如下例子:

SELECT * FROM T1 WHERE NAME LIKE‘%L%’

SELECT * FROM T1 WHERESUBSTING(NAME,2,1)=’L’

SELECT * FROM T1 WHERE NAME LIKE‘L%’

即使NAME字段建有索引,前两个查询依然无法利用索引完成加快操作,引擎不得不对全表所有数据逐条操作来完成任务。而第三个查询能够使用索引来加快操作。

6. 必要时强制查询优化器使用某个索引,如在 where 子句中使用参数,也会导致全表扫描。因为SQL只有在运行时才会解析局部变量,但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然而,如果在编译时建立访问计划,变量的值还是未知的,因而无法作为索引选择的输入项。如下面语句将进行全表扫描:

select id from t where

可以改为强制查询使用索引:

select id from t with(index(索引名)) where

7. 应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。如:

SELECT* FROM T1 WHERE F1/2=100

应改为:

SELECT* FROM T1 WHERE F1=100*2

SELECT *FROM RECORD WHERESUBSTRING(CARD_NO,1,4)=’5378’

应改为:

SELECT *FROM RECORD WHERE CARD_NO LIKE ‘5378%’

SELECTmember_number,first_name,last_name FROM members

WHEREDATEDIFF(yy,datofbirth,GETDATE)> 21

WHEREdateofbirth

即:任何对列的操作都将导致表扫描,它包括数据库函数、计算表达式等等,查询时要尽可能将操作移至等号右边。

8. 应尽量避免在where子句中对字段进行函数操作,这将导致引擎放弃使用索引而进行全表扫描。如:

select id from t where substring(name,1,3)='abc'—name

以abc开头的id

select id from t wheredatediff(day,createdate,'2005-11-30')=0--‘2005-11-30’

生成的id

应改为:

select id from t where name like 'abc%'

select id from t where createdate>='2005-11-30'and createdate<'2005-12-1'

9. 在使用索引字段作为条件时,如果该索引是复合索引,那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引,否则该索引将不会被使用,并且应尽可能的让字段顺序与索引顺序相一致。

10. 很多时候用 exists是一个好的选择:

selectnum from a where num in(selectnum from b)

用下面的语句替换:

selectnum from a where exists(select 1 from b where num=a.num)

SELECTSUM(T1.C1)FROM T1 WHERE(

(SELECTCOUNT(*)FROM T2 WHERE T2.C2=T1.C2>0)

SELECTSUM(T1.C1) FROM T1WHERE EXISTS(

SELECT *FROM T2 WHERE T2.C2=T1.C2)

两者产生相同的结果,但是后者的效率显然要高于前者。因为后者不会产生大量锁定的表扫描或是索引扫描。

如果你想校验表里是否存在某条纪录,不要用count(*)那样效率很低,而且浪费服务器资源。可以用EXISTS代替。如:

IF (SELECTCOUNT(*)FROMtable_name WHEREcolumn_name= 'xxx')

可以写成:

IF EXISTS (SELECT * FROMtable_name WHEREcolumn_name ='xxx')

经常需要写一个T_SQL语句比较一个父结果集和子结果集,从而找到是否存在在父结果集中有而在子结果集中没有的记录,如:

SELECTa.hdr_key FROMhdr_tbl a----tbla表示tbl用别名a代替

WHERENOT EXISTS (SELECT * FROMdtl_tbl b WHEREa.hdr_key =b.hdr_key)

SELECTa.hdr_key FROMhdr_tbla

LEFTJOINdtl_tbl b ONa.hdr_key=b.hdr_key WHEREb.hdr_keyIS NULL

SELECThdr_key FROMhdr_tbl

WHEREhdr_key NOT IN (SELECThdr_keyFROMdtl_tbl)

三种写法都可以得到同样正确的结果,但是效率依次降低。

11. 避免频繁创建和删除临时表,以减少系统表资源的消耗。

12. 临时表并不是不可使用,适当地使用它们可以使某些例程更有效,例如,当需要重复引用大型表或常用表中的某个数据集时。但是,对于一次性事件,最好使用导出表。

13. 在新建临时表时,如果一次性插入数据量很大,那么可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果数据量不大,为了缓和系统表的资源,应先create table,然后insert。

14. 如果使用到了临时表,在存储过程的最后务必将所有的临时表显式删除,先 truncate table ,然后 drop table,这样可以避免系统表的较长时间锁定。

15. 在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ,在结束时设置 SET NOCOUNT OFF。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC消息。

16. 尽量避免大事务操作,提高系统并发能力。

17. 尽量避免向客户端返回大数据量,若数据量过大,应该考虑相应需求是否合理,比如是否返回全对象,可不可以减少某些非必要字段。

18.避免使用不兼容的数据类型。例如float和int、char和varchar、binary和varbinary是不兼容的。数据类型的不兼容可能使优化器无法执行一些本来可以进行的优化操作。例如:

SELECT name FROM employee WHERE salary >60000

在这条语句中,如salary字段是money型的,则优化器很难对其进行优化,因为60000是个整型数。我们应当在编程时将整型转化成为钱币型,而不要等到运行时转化。

19. 充分利用连接条件,在某种情况下,两个表之间可能不只一个的连接条件,这时在 WHERE 子句中将连接条件完整的写上,有可能大大提高查询速度。 例:

SELECTSUM(A.AMOUNT) FROM ACCOUNT A, CARD B WHERE A.CARD_NO =B.CARD_NO

SELECTSUM(A.AMOUNT) FROM ACCOUNT A,CARD B WHERE A.CARD_NO =B.CARD_NO AND A.ACCOUNT_NO=B.ACCOUNT_NO

第二句将比第一句执行快得多。

20. 使用视图加速查询 把表的一个子集进行排序并创建视图,有时能加速查询。它有助于避免多重排序操作,而且在其他方面还能简化优化器的工作。

21. 能用DISTINCT的就不用GROUP BY

SELECTOrderIDFROM Details WHEREUnitPrice > 10 GROUP BYOrderID

可改为:

SELECT DISTINCTOrderIDFROM Details WHEREUnitPrice > 10

22. 能用UNION ALL就不要用UNION UNIONALL不执行SELECT DISTINCT函数,这样就会减少很多不必要的资源

23. 尽量不要用SELECT INTO语句。 SELECT INOT语句会导致表锁定,阻止其他用户访问该表。

随着社会的发展,信息技术的不断成熟,越来越多的信息都想保存起来,还想加以分析,所以要求插入、查询的数据量也越来越大,以前可能是几百条、几千条数据的操作,现在几万、甚至几十万条数据的查询也是很常见的操作了,所以大数据量的优化工作还需要我们深入的研究。

相关推荐

电脑win10系统序列号被别人占用了,怎么办?

一、序言前一段,作为网络的好心人,小编写过一篇名为【如何让批量激活电脑系统升级为永久激活,你不知道的办法?】文章,目的是想帮助那些错过免费升级win10系统的小伙伴获得永久激活的win10电脑系统,...

一文看懂Windows激活:自查方法+授权类型科普(Win7/Win10通用)

一、如何判断Windows是否永久激活?无论是Win7还是Win10,均可通过以下方法快速验证:...

教你两行代码彻底激活电脑windows系统

1、新建一个文本文档,2、将后缀名改为“bat”3、然后点击右键编辑打开文档输入两行代码“slmgr/skmskms.03k.ong”“slmgr/ato”如图...

一招教你如何查看自己电脑系统激活时长

在当今数字化时代,电脑已经成为我们生活和工作中不可或缺的工具。对于许多新购置电脑的小伙伴来说,了解自己电脑系统的激活状态是一项重要且必要的任务。因为系统的激活与否以及是否为永久激活,直接关系到电脑的正...

win11错误代码0xC004F074无法激活修复的解决办法

这篇文章主要介绍了win11错误代码0xC004F074无法激活修复的解决办法的相关资料,需要的朋友可以参考下,希望对大家有所帮助...

解决Windows 7非正版提示的有效方法

介绍Windows7是一款备受欢迎的操作系统,然而,在使用过程中,有时会遇到提示非正版的情况。针对这一问题,我们提供了两种有效的解决方法,以帮助您解决这一困扰。方法一:使用命令提示符步骤打开命令提示...

两种方式激活电脑许可证过期问题?

第一种方法:针对自己安装的电脑许可证过期激活问题挺实用的建议收藏...

在线KMS激活windows系统

Win10系统KMS如何激活?对于新安装的Win10系统正常都是需要进行激活后再使用的,目前网上的一些激活工具也是有非常多的,而使用KMS激活也是最安全的,那么要怎么使用KMS激活Win10系统呢?...

查看Win11是否永久激活的方法

  现在已经有很多用户安装了Win11系统,但是安装的系统是永久激活还只是180天的批量激活呢?很多用户会有这样的一个疑问,那么针对这一“怎么看Win11是不是永久激活?”问题,就来看看小编为大家带来...

win10教育版提示即将过期,怎样再次重新永久激活?

某一天很多同学打开电脑,发现自己安装的win10教育版系统一直提示激活,win10教育版是目前使用较为广泛的操作系统。但是激活机制现在非常严格,如果你不是用官方认可的方法激活,隔三差五就会提示你激活,...

一招教你如何查看windows是否正版

今天,我来教大家,只要输入一行命令,跟据所给的提示,就可以找到家jfd电脑windows相对的版本信息,我都写在相应的图片上,大家可以自行对比一下,心里有数。首先,运行命行,输入:slmgr.vbs...

高手在民间!如何安装激活最新版Win10

微软昨日推送了最新的Windows10Build10240,也可以被看作是无限接近正式版的RTM版本了。坏消息是,微软表示,这次不再提供ISO镜像,原先的激活Key也要失效了,大家不要尝试全新安...

Win10是否永久激活怎么查?一个命令就OK

升级Win10后很多朋友都会有这么一个问题,我的Win10是不是永久激活了,还是只有180天时间时间?或者说,Win10是否永久激活怎么查询?好吧,小编教你一招,让你用一个命令就能知道Win10是否完...

服务器管理器怎么打开?

在Windows操作系统中,服务器管理器是一个重要的工具,它可以帮助用户管理和监控服务器的运行状态。服务器管理器怎么打开呢?驰网飞飞将和你分享。我们需要了解的是,服务器管理器并不是一个独立的应用程序,...

Windows电脑无法使用数字权利激活?试试这个

前段时间有些小伙伴反馈:她的Windows无法用数字权利进行激活。...

取消回复欢迎 发表评论: