為大家介紹MySQL大數(shù)據(jù)分頁查詢性能優(yōu)化的方法,希望大家學(xué)習(xí)后能有所提升。
使用limit start, count分頁語句
select * from product limit start, count
當(dāng)起始頁較小時,查詢沒有性能問題,我們分別看下從10, 100, 1000, 10000開始分頁的執(zhí)行時間(每頁取20條), 如下:
select * from product limit 10, 20 0.016秒 select * from product limit 100, 20 0.016秒 select * from product limit 1000, 20 0.047秒 select * from product limit 10000, 20 0.094秒
我們已經(jīng)看出隨著起始記錄的增加,時間也隨著增大, 這說明分頁語句limit跟起始頁碼是有很大關(guān)系的,那么我們把起始記錄改為40w看下(也就是記錄的一般左右)
select * from product limit 400000, 20 3.229秒
再看我們?nèi)∽詈笠豁撚涗浀臅r間
select * from product limit 866613, 20 37.44秒
難怪搜索引擎抓取我們頁面的時候經(jīng)常會報超時,像這種分頁最大的頁碼頁顯然這種時間是無法忍受的。
從中我們也能總結(jié)出兩件事情:
limit語句的查詢時間與起始記錄的位置成正比
mysql的limit語句是很方便,但是對記錄很多的表并不適合直接使用。
對limit分頁問題的性能優(yōu)化方法
利用表的覆蓋索引來加速分頁查詢
我們都知道,利用了索引查詢的語句中如果只包含了那個索引列(覆蓋索引),那么這種情況會查詢很快。
因為利用索引查找有優(yōu)化算法,且數(shù)據(jù)就在查詢索引上面,不用再去找相關(guān)的數(shù)據(jù)地址了,這樣節(jié)省了很多時間。另外Mysql中也有相關(guān)的索引緩存,在并發(fā)高的時候利用緩存就效果更好了。
在我們的例子中,我們知道id字段是主鍵,自然就包含了默認(rèn)的主鍵索引?,F(xiàn)在讓我們看看利用覆蓋索引的查詢效果如何:
這次我們之間查詢最后一頁的數(shù)據(jù)(利用覆蓋索引,只包含id列查詢的數(shù)據(jù)少在配合索引的確很快,如果使用*進(jìn)行全表查詢還是很慢的),如下:
select id from product limit 866613, 20 0.2秒
相對于查詢了所有列的37.44秒,提升了大概100多倍的速度
那么如果我們也要查詢所有列,有兩種方法,一種是id>=的形式,另一種就是利用join,看下實際情況:
這段語句就是先通過單個字段(最好有索引的)進(jìn)行分頁查詢(因為只有一個字段所以查詢速度比全表查詢要快很多)后,在通過上面查詢的數(shù)據(jù)進(jìn)行精準(zhǔn)全表查詢
SELECT * FROM product WHERE ID > =(select id from` product limit 866613, 1) limit 20
查詢時間為0.2秒,簡直是一個質(zhì)的飛躍。
另一種寫法,和上面的理念基本一樣
SELECT * FROM product a JOIN (select id from product limit 866613, 20) b ON a.ID = b.id
查詢時間也很短!
其實兩者用的都是一個原理嘛,所以效果也差不多
Mysql的分頁查詢十分簡單,但是當(dāng)數(shù)據(jù)量大的時候一般的分頁就吃不消了。
傳統(tǒng)分頁查詢:
SELECT c1,c2,cn… FROM table LIMIT n,m
MySQL的limit工作原理就是先讀取前面n條記錄,然后拋棄前n條,讀后面m條想要的,所以n越大,偏移量越大,性能就越差。
推薦分頁查詢方法
1、盡量給出查詢的大致范圍,這樣就會在指定的范圍開始查詢
SELECT c1,c2,cn… FROM table WHERE id>=20000 LIMIT 10;
2、子查詢法
SELECT c1,c2,cn… FROM table WHERE id>=(SELECT id FROM table LIMIT 20000,1)LIMIT 10;
3、高性能MySQL一書中提到的只讀索引方法
優(yōu)化前SQL:
SELECT c1,c2,cn… FROM member ORDER BY last_active LIMIT 50,5
優(yōu)化后SQL:
SELECT c1, c2, cn .. . FROM member INNER JOIN (SELECT member_id FROM member ORDER BY last_active LIMIT 50, 5) USING (member_id)
分別在于,優(yōu)化前的SQL需要更多I/O浪費,因為先讀索引,再讀數(shù)據(jù),然后拋棄無需的行。而優(yōu)化后的SQL(子查詢那條)只讀索引(Cover index)就可以了,然后通過member_id讀取需要的列。
4、第一步用用程序讀取出ID,然后再用IN方法讀取所需記錄
程序讀ID:文章來源:http://www.zghlxwxcb.cn/article/553.html
SELECT id FROM table LIMIT 20000, 10; SELECT c1, c2, cn .. . FROM table WHERE id IN (id1, id2, idn.. .)
文章來源地址http://www.zghlxwxcb.cn/article/553.html
到此這篇關(guān)于MySQL大數(shù)據(jù)分頁查詢性能優(yōu)化的文章就介紹到這了,更多相關(guān)內(nèi)容可以在右上角搜索或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!