国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

MySQL大數(shù)據(jù)分頁查詢性能優(yōu)化


Mysql優(yōu)化

為大家介紹MySQL大數(shù)據(jù)分頁查詢性能優(yōu)化的方法,希望大家學(xué)習(xí)后能有所提升。

使用limit start, count分頁語句

select * from product limit start, count

當(dāng)起始頁較小時,查詢沒有性能問題,我們分別看下從10, 100, 1000, 10000開始分頁的執(zhí)行時間(每頁取20條), 如下:

select * from product limit 10, 20   0.016秒
select * from product limit 100, 20   0.016秒
select * from product limit 1000, 20   0.047秒
select * from product limit 10000, 20   0.094秒

我們已經(jīng)看出隨著起始記錄的增加,時間也隨著增大, 這說明分頁語句limit跟起始頁碼是有很大關(guān)系的,那么我們把起始記錄改為40w看下(也就是記錄的一般左右)

select * from product limit 400000, 20   3.229秒

再看我們?nèi)∽詈笠豁撚涗浀臅r間

select * from product limit 866613, 20   37.44秒

難怪搜索引擎抓取我們頁面的時候經(jīng)常會報超時,像這種分頁最大的頁碼頁顯然這種時間是無法忍受的。

從中我們也能總結(jié)出兩件事情:

  1. limit語句的查詢時間與起始記錄的位置成正比

  2. mysql的limit語句是很方便,但是對記錄很多的表并不適合直接使用。

對limit分頁問題的性能優(yōu)化方法

利用表的覆蓋索引來加速分頁查詢

我們都知道,利用了索引查詢的語句中如果只包含了那個索引列(覆蓋索引),那么這種情況會查詢很快。

因為利用索引查找有優(yōu)化算法,且數(shù)據(jù)就在查詢索引上面,不用再去找相關(guān)的數(shù)據(jù)地址了,這樣節(jié)省了很多時間。另外Mysql中也有相關(guān)的索引緩存,在并發(fā)高的時候利用緩存就效果更好了。

在我們的例子中,我們知道id字段是主鍵,自然就包含了默認(rèn)的主鍵索引?,F(xiàn)在讓我們看看利用覆蓋索引的查詢效果如何:

這次我們之間查詢最后一頁的數(shù)據(jù)(利用覆蓋索引,只包含id列查詢的數(shù)據(jù)少在配合索引的確很快,如果使用*進(jìn)行全表查詢還是很慢的),如下:

select id from product limit 866613, 20 0.2秒

相對于查詢了所有列的37.44秒,提升了大概100多倍的速度

那么如果我們也要查詢所有列,有兩種方法,一種是id>=的形式,另一種就是利用join,看下實際情況:

這段語句就是先通過單個字段(最好有索引的)進(jìn)行分頁查詢(因為只有一個字段所以查詢速度比全表查詢要快很多)后,在通過上面查詢的數(shù)據(jù)進(jìn)行精準(zhǔn)全表查詢

SELECT * FROM product WHERE ID > =(select id from` product limit 866613, 1) limit 20

查詢時間為0.2秒,簡直是一個質(zhì)的飛躍。

另一種寫法,和上面的理念基本一樣

SELECT * FROM product a JOIN (select id from product limit 866613, 20) b ON a.ID = b.id

查詢時間也很短!

其實兩者用的都是一個原理嘛,所以效果也差不多

Mysql的分頁查詢十分簡單,但是當(dāng)數(shù)據(jù)量大的時候一般的分頁就吃不消了。

傳統(tǒng)分頁查詢:

SELECT c1,c2,cn… FROM table LIMIT n,m

MySQL的limit工作原理就是先讀取前面n條記錄,然后拋棄前n條,讀后面m條想要的,所以n越大,偏移量越大,性能就越差。

推薦分頁查詢方法

1、盡量給出查詢的大致范圍,這樣就會在指定的范圍開始查詢

SELECT c1,c2,cn… FROM table WHERE id>=20000 LIMIT 10;

2、子查詢法

SELECT c1,c2,cn… FROM table WHERE id>=(SELECT id FROM table LIMIT 20000,1)LIMIT 10;

3、高性能MySQL一書中提到的只讀索引方法

優(yōu)化前SQL:

SELECT c1,c2,cn… FROM member ORDER BY last_active LIMIT 50,5

優(yōu)化后SQL:

SELECT c1, c2, cn .. .
FROM member
INNER JOIN (SELECT member_id FROM member ORDER BY last_active LIMIT 50, 5)
USING (member_id)

分別在于,優(yōu)化前的SQL需要更多I/O浪費,因為先讀索引,再讀數(shù)據(jù),然后拋棄無需的行。而優(yōu)化后的SQL(子查詢那條)只讀索引(Cover index)就可以了,然后通過member_id讀取需要的列。

4、第一步用用程序讀取出ID,然后再用IN方法讀取所需記錄

程序讀ID:

SELECT id FROM table LIMIT 20000, 10;
SELECT c1, c2, cn .. . FROM table WHERE id IN (id1, id2, idn.. .)


文章來源地址http://www.zghlxwxcb.cn/article/553.html

到此這篇關(guān)于MySQL大數(shù)據(jù)分頁查詢性能優(yōu)化的文章就介紹到這了,更多相關(guān)內(nèi)容可以在右上角搜索或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

原文地址:http://www.zghlxwxcb.cn/article/553.html

如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請聯(lián)系站長進(jìn)行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 千萬級數(shù)據(jù)深分頁查詢SQL性能優(yōu)化實踐

    如何在Mysql中實現(xiàn)上億數(shù)據(jù)的遍歷查詢?先來介紹一下系統(tǒng)主角:關(guān)注系統(tǒng),主要是維護(hù)京東用戶和業(yè)務(wù)對象之前的關(guān)注關(guān)系;并對外提供各種關(guān)系查詢,比如查詢用戶的關(guān)注商品或店鋪列表,查詢用戶是否關(guān)注了某個商品或店鋪等。但是最近接到了一個新需求,要求提供查

    2024年02月11日
    瀏覽(30)
  • 【性能優(yōu)化】MySQL百萬數(shù)據(jù)深度分頁優(yōu)化思路分析

    【性能優(yōu)化】MySQL百萬數(shù)據(jù)深度分頁優(yōu)化思路分析

    ????????一般在項目開發(fā)中會有很多的統(tǒng)計數(shù)據(jù)需要進(jìn)行上報分析,一般在分析過后會在后臺展示出來給運營和產(chǎn)品進(jìn)行 分頁查看 , 最常見的一種就是根據(jù)日期進(jìn)行篩選 。這種統(tǒng)計數(shù)據(jù)隨著時間的推移數(shù)據(jù)量會慢慢的變大,達(dá)到百萬、千萬條數(shù)據(jù)只是時間問題。 一、數(shù)

    2024年02月15日
    瀏覽(24)
  • 【QT性能優(yōu)化】QT性能優(yōu)化之QT6框架高性能模型視圖代理框架千萬級數(shù)據(jù)表分頁查詢優(yōu)化

    【QT性能優(yōu)化】QT性能優(yōu)化之QT6框架高性能模型視圖代理框架千萬級數(shù)據(jù)表分頁查詢優(yōu)化

    QT性能優(yōu)化之QT6框架高性能模型視圖代理框架千萬級數(shù)據(jù)表分頁查詢優(yōu)化 簡介 本文介紹了QT模型視圖代理框架中的QT表格控件和QT數(shù)據(jù)庫模塊中的QT數(shù)據(jù)庫查詢模型結(jié)合使用的一個應(yīng)用實踐案例:QT高性能表格控件分頁展示千萬行數(shù)據(jù)。本文介紹了這個應(yīng)用實踐案例的運行效果

    2024年02月14日
    瀏覽(32)
  • MySQL大數(shù)據(jù)量分頁查詢方法及其優(yōu)化

    ---方法1: 直接使用數(shù)據(jù)庫提供的SQL語句 ---語句樣式: MySQL中,可用如下方法: SELECT * FROM 表名稱 LIMIT M,N ---適應(yīng)場景: 適用于數(shù)據(jù)量較少的情況(元組百/千級) ---原因/缺點: 全表掃描,速度會很慢 且 有的數(shù)據(jù)庫 結(jié)果集返回不穩(wěn)定 (如某次返回1,2,3,另外的一次返回2,1,3). Limit限制的是從

    2024年02月15日
    瀏覽(20)
  • MySQL分頁查詢詳解:優(yōu)化大數(shù)據(jù)集的LIMIT和OFFSET

    MySQL分頁查詢詳解:優(yōu)化大數(shù)據(jù)集的LIMIT和OFFSET

    最近在工作中,我們遇到了一個需求,甲方要求直接從數(shù)據(jù)庫導(dǎo)出一個業(yè)務(wù)模塊中所有使用中的工單信息。為了實現(xiàn)這一目標(biāo),我編寫了一條SQL查詢語句,并請求DBA協(xié)助導(dǎo)出數(shù)據(jù)。盡管工單數(shù)量并不多,只有3000多條,但每個工單都包含了大量的信息。DBA進(jìn)行了多次導(dǎo)出操作,

    2024年02月10日
    瀏覽(16)
  • 【性能優(yōu)化】MySql數(shù)據(jù)庫查詢優(yōu)化方案

    【性能優(yōu)化】MySql數(shù)據(jù)庫查詢優(yōu)化方案

    了解系統(tǒng)運行效率提升的整體解決思路和方向 學(xué)會MySQl中進(jìn)行數(shù)據(jù)庫查詢優(yōu)化的步驟 學(xué)會看慢查詢、執(zhí)行計劃、進(jìn)行性能分析、調(diào)優(yōu) ?關(guān)于這個問題,我們通常首先考慮的是硬件升級,畢竟服務(wù)器的內(nèi)存、CPU、磁盤IO速度 、網(wǎng)絡(luò)速度等都是制約我們系統(tǒng)快慢的首要因素。硬

    2024年02月03日
    瀏覽(27)
  • MySQL性能優(yōu)化盲區(qū)(高并發(fā)情況下,事務(wù)內(nèi)的數(shù)據(jù)先更新還是先查詢?)

    近期看到了一個前阿里資深開發(fā)的學(xué)術(shù)分析視頻: 高并發(fā)情況下,一個事務(wù)內(nèi)有更新操作還有查詢操作,那是先更新好,還是先無鎖查詢好? 僅70秒的視頻,深感學(xué)問太深,但是海哥講的有待補(bǔ)充,于是寫下了這篇文章,作為補(bǔ)充。 鳴謝:前阿里資深開發(fā)極海Channel的技術(shù)分

    2024年03月15日
    瀏覽(20)
  • 《高性能MYSQL》-- 查詢性能優(yōu)化

    《高性能MYSQL》-- 查詢性能優(yōu)化

    查詢性能優(yōu)化 深刻地理解MySQL如何真正地執(zhí)行查詢,并明白高效和低效的原因何在 查詢的生命周期(不完整):從客戶端到服務(wù)器,然后服務(wù)器上進(jìn)行語法解析,生成執(zhí)行計劃,執(zhí)行,并給客戶端返回結(jié)果。 一條查詢,如果查詢得很慢,原因大概率是訪問的數(shù)據(jù)太多 對于低

    2024年03月11日
    瀏覽(99)
  • 《高性能MySQL》——查詢性能優(yōu)化(筆記)

    《高性能MySQL》——查詢性能優(yōu)化(筆記)

    將查詢看作一個任務(wù),那么它由一系列子任務(wù)組成,實際我們所做的就是: 消除一些子任務(wù) 減少子任務(wù)的執(zhí)行次數(shù) 讓子任務(wù)運行更快 查詢的生命周期大概可分為 = { 客戶端 服務(wù)器 : 進(jìn)行解析 , 生成執(zhí)行計劃 執(zhí)行:包括到存儲引擎的調(diào)用,以及用后的數(shù)據(jù)處理 { 排序 分組

    2024年02月13日
    瀏覽(95)
  • 百萬數(shù)據(jù)分頁查詢優(yōu)化方案

    百萬數(shù)據(jù)分頁查詢優(yōu)化方案

    分頁問題 分頁列表查詢是項目中的熱點需求,這種需求的特點是:字段多、數(shù)據(jù)量大、訪問頻繁、使用率高的特點,這個功能是給用戶最直觀的展示系統(tǒng)的信息,針對于多、大、頻、熱這幾個特點,會引申出一個問題:列表展示的數(shù)據(jù)可能是來自于不同的數(shù)據(jù)維度、需要關(guān)聯(lián)

    2024年02月15日
    瀏覽(25)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包