午夜剧场伦理_日本一道高清_国产又黄又硬_91黄色网战_女同久久另类69精品国产_妹妹的朋友在线

您的位置:首頁技術(shù)文章
文章詳情頁

mysql 大表批量刪除大量數(shù)據(jù)的實現(xiàn)方法

瀏覽:39日期:2023-10-05 18:09:01

問題參考自:https://www.zhihu.com/question/440066129/answer/1685329456 ,mysql中,一張表里有3億數(shù)據(jù),未分表,其中一個字段是企業(yè)類型,企業(yè)類型是一般企業(yè)和個體戶,個體戶的數(shù)據(jù)量差不多占50%,根據(jù)條件把個體戶的行都刪掉。請問如何操作?答案為個人原創(chuàng)

假設表的引擎是 Innodb, MySQL 5.7+

刪除一條記錄,首先鎖住這條記錄,數(shù)據(jù)原有的被廢棄,記錄頭發(fā)生變化,主要是打上了刪除標記。也就是原有的數(shù)據(jù) deleted_flag 變成 1,代表數(shù)據(jù)被刪除。但是數(shù)據(jù)沒有被清空,在新一行數(shù)據(jù)大小小于這一行的時候,可能會占用這一行。這樣其實就是存儲碎片。

之后,相關(guān)數(shù)據(jù)的索引需要更新,清除這些數(shù)據(jù)。并且,會產(chǎn)生對應的 binlog 與 redolog 日志。如果 delete 的數(shù)據(jù)是大量的數(shù)據(jù),則會:

如果不加 limit 則會由于需要更新大量數(shù)據(jù),從而索引失效變成全掃描導致鎖表,同時由于修改大量的索引,產(chǎn)生大量的日志,導致這個更新會有很長時間,鎖表鎖很長時間,期間這個表無法處理線上業(yè)務。 由于產(chǎn)生了大量 binlog 導致主從同步壓力變大 由于標記刪除產(chǎn)生了大量的存儲碎片。由于 MySQL 是按頁加載數(shù)據(jù),這些存儲碎片不僅大量增加了隨機讀取的次數(shù),并且讓頁命中率降低,導致頁交換增多。 由于產(chǎn)生了大量日志,我們可以看到這張表的占用空間大大增高。解決方案

我們很容易想到,在 delete 后加上 limit 限制控制其數(shù)量,這個數(shù)量讓他會走索引,從而不會鎖整個表。

但是,存儲碎片,主從同步,占用空間的問題并沒有解決。可以在刪除完成后,通過如下語句,重建表:

alter table 你的表 engine=InnoDB, ALGORITHM=INPLACE, LOCK=NONE;

注意這句話其實就是重建你的表,雖然你的表的引擎已經(jīng)是 innodb 了,加上后面的, ALGORITHM=INPLACE, LOCK=NONE 可以不用鎖表就重建表。

還有一種方案是,新建一張同樣結(jié)構(gòu)的表,在原有表上加上觸發(fā)器:

create trigger person_trigger_update AFTER UPDATE on 原有表 for each row begin set @x = 'trigger UPDATE';Replace into 新表 SELECT * from 原有表 where 新表.id = 原有表.id;END IF;end;

這樣可以保證線上業(yè)務有新數(shù)據(jù)會同步。之后,將所有企業(yè)類型的數(shù)據(jù),插入新表,同時如果已存在則證明發(fā)生了更新同步就不插入。個體戶數(shù)據(jù)由于業(yè)務變化,并不在這個表上更新,所以這樣通過了無表鎖同步實現(xiàn)了大表的數(shù)據(jù)清理

到此這篇關(guān)于mysql 大表批量刪除大量數(shù)據(jù)的實現(xiàn)方法的文章就介紹到這了,更多相關(guān)mysql 大表批量刪除內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!

相關(guān)文章:
主站蜘蛛池模板: 色老头一区二区三区在线观看 | 五月激情丁香婷婷 | 夜色成人网| 激情婷婷六月天 | 国产永久免费视频 | 国内激情视频 | 亚洲免费一区二区 | 99精品在线 | 在线色网| 亚洲精品精品 | 色网站视频| 亚洲成人一区二区三区 | 天堂精品视频 | 1级黄色大片 | 欧美一级视频免费观看 | 日韩毛毛片 | 国产午夜激情 | 国产欧美一区二区三区视频在线观看 | 亚洲九九视频 | 黄色一级片a | 久久影业| 黄色特级一级片 | 日本一卡二卡在线 | 国产精品suv一区二区69 | 日本久久久久久久 | 久久免费小视频 | 天天天天天天天天操 | 在线视频日本 | 亚洲欧美日韩国产 | 麻豆一区在线观看 | 久久精品免费 | 免费成人精品 | 国产久草视频 | 久草超碰在线 | 日韩欧美亚洲 | 骚婷婷 | 五月婷婷免费视频 | 日日cao| 中文字幕在线观看一区二区三区 | 国产精品欧美激情在线 | 人人色网 |