服務(wù)器誤刪文件的恢復(fù)過程

1、一次心驚肉跳的服務(wù)器誤刪文件的恢復(fù)一次心驚肉跳的服務(wù)器誤刪文件的恢復(fù)過程過程2014052213:28zhouyu博客園字號(hào)：T|T經(jīng)歷了兩天不懈努力，終于恢復(fù)了一次誤操作刪除的生產(chǎn)服務(wù)器數(shù)據(jù)。對(duì)本次事故過程和解決辦法記錄在此，警醒自己，也提示別人莫犯此錯(cuò)。也希望遇到問題的朋友能找到一絲靈感解決問題。AD：WOT2014課程推薦：實(shí)戰(zhàn)MSA：用開源軟件搭建微服務(wù)系統(tǒng)51CTO主辦WOT全球軟件技術(shù)峰會(huì)直減百元優(yōu)惠活動(dòng)搶票進(jìn)行中！經(jīng)歷了兩

2、天不懈努力，終于恢復(fù)了一次誤操作刪除的生產(chǎn)服務(wù)器數(shù)據(jù)。對(duì)本次事故過程和解決辦法記錄在此，警醒自己，也提示別人莫犯此錯(cuò)。也希望遇到問題的朋友能找到一絲靈感解決問題。事故背景事故背景安排一個(gè)妹子在一臺(tái)生產(chǎn)服務(wù)器上安裝acle妹子邊研究邊安裝感覺裝的不對(duì)準(zhǔn)備卸載重新安裝。從網(wǎng)上找到卸載方法，其中要執(zhí)行一行命令刪除acle的安裝目錄，命令如下：1.rmrf$ACLE_BASE如果ACLE_BASE這個(gè)變量沒有賦值，那命令就變成了：1.rmrf=

3、=||，妹子使用的可是root賬戶啊。就這樣，把整個(gè)盤的文件全部刪除了，包括應(yīng)用Tomcat、MySQL數(shù)據(jù)庫soon。。。。（mysql數(shù)據(jù)庫不是在運(yùn)行嗎linux能刪除正在執(zhí)行的文件反正是徹底刪除了，最后還剩一個(gè)tomcat的log文件，估計(jì)是文件過大，一時(shí)沒有刪除成功）看著妹子自責(zé)的眼神，又是因?yàn)檫@事是我安排她做的，也沒有跟她講清厲害關(guān)系，沒有任何培訓(xùn)，責(zé)任只能一個(gè)人背了，況且怎么能讓美女背負(fù)這個(gè)責(zé)任呢打電話到機(jī)房，將盤掛到另一臺(tái)

4、服務(wù)器上，ssh上去查看文件全部被清，這臺(tái)服務(wù)器運(yùn)行的可是一個(gè)客戶的生產(chǎn)系統(tǒng)啊，已經(jīng)運(yùn)行大半年了，得盡快恢復(fù)啊。于是找來脫機(jī)備份的數(shù)據(jù)庫，發(fā)現(xiàn)備份文件只有1kb，里面只有幾行熟悉的mysqldump注釋（難道是crontab執(zhí)行的備份腳本有問題），最接盡的備份也是2013年12月份的了，真是屋漏偏逢連夜雨啊。想起來一位領(lǐng)導(dǎo)說過的案例：當(dāng)一個(gè)生產(chǎn)系統(tǒng)掛掉以后，發(fā)現(xiàn)所有備份都有問題，刻錄的光盤也有劃痕，磁帶機(jī)也壞了（一個(gè)業(yè)界前輩，估計(jì)以前還

5、用光盤做備份了），沒想到今天真的應(yīng)驗(yàn)到我的身上了，怎么辦？部門領(lǐng)導(dǎo)知道情況后，已經(jīng)做了最壞的B計(jì)劃:領(lǐng)導(dǎo)親自帶隊(duì)和產(chǎn)品AA周日趕到客戶所在的地市，星期一去領(lǐng)導(dǎo)層溝通；BB和CC去客戶管理員那邊想辦法說服客戶。。。救命稻草救命稻草ext3grepext3grep趕快到網(wǎng)上去查資料進(jìn)行誤刪數(shù)據(jù)恢復(fù)，還真找到一款ext3grep能夠恢復(fù)通過rmrf刪除的文件，我們磁盤也是ext3格式，且網(wǎng)上有不少的成功案例。于是燃起了一絲希望，趕快對(duì)盤umo

6、unt，防止重新寫入補(bǔ)刪文件扇區(qū)。下載ext3grep，安裝（編譯安裝過程艱辛?xí)呵也槐恚Ｒ琅f運(yùn)行ext3grep，extun，也就那幾招啊，把系統(tǒng)架到測(cè)試服務(wù)器上，看看數(shù)據(jù)能不能想辦法補(bǔ)一補(bǔ)吧。在測(cè)試服務(wù)器上進(jìn)行mysqldump，恢復(fù)文件，覆蓋恢復(fù)回來的文件，給文件加權(quán)限，重啟mysql。waitwait，不是有binlog嗎我們服務(wù)都要求開啟binlog，說不定能通過binlog里恢復(fù)數(shù)據(jù)呢于是從dump出來的文件名里找到binl

7、og的文件，一共三個(gè)，mysqlbinlog0001mysqlbin.000009mysqlbin.000010，恢復(fù)一下0001。1.ext3grepdevvgdataLogVol00restefilevarlibmysqlmysqlbin.000001居然失敗了……再看另兩個(gè)文件，mysqlbin.000010大概幾百M(fèi)B，應(yīng)該靠譜一點(diǎn)，執(zhí)行還原命令，居然成功了?。。。。。。。。。。。。≮s快scp到測(cè)試服務(wù)器。執(zhí)行binlog還原。

8、1.mysqlbinlogusrmysqlbin.000010|mysqlurootp輸入密碼，卡住了（好現(xiàn)象），經(jīng)過漫長的等待，終于結(jié)束了。打開應(yīng)用，哦，感謝cctvmtv，數(shù)據(jù)回來了！?。。。。。。。。。。。。。『笥浐笥浗?jīng)過此次事故，雖然數(shù)據(jù)很幸運(yùn)能找回來了，但是過程卻是驚心動(dòng)迫。也為自己的錯(cuò)誤所帶來的后果，給同事和領(lǐng)導(dǎo)帶來的連帶責(zé)任而后怕。也希望謹(jǐn)記此次事故，以后不再犯同樣的錯(cuò)誤。事故反思如下：1.本次安排MM進(jìn)行服務(wù)器維護(hù)時(shí)沒有

9、提前對(duì)她進(jìn)行說明厲害情況，自己也未重視，管理混亂，流程混亂。一個(gè)在線的生產(chǎn)系統(tǒng)，任何一個(gè)改動(dòng)一定要先謀而后動(dòng)。2.自動(dòng)備份出現(xiàn)問題，沒有任何人檢查。脫機(jī)備份人員每次從服務(wù)器上下載1k的文件卻從未重視。需要明確大家在工作崗位上的責(zé)任。3.事故發(fā)生后，沒有及時(shí)發(fā)現(xiàn)，造成部分?jǐn)?shù)據(jù)寫入磁盤，造成不可恢復(fù)問題。需要編寫應(yīng)用監(jiān)控程序，服務(wù)一旦有異常，短信告警相關(guān)責(zé)任人。根據(jù)評(píng)論提醒再加一條:4.不能使用root用戶來操作。應(yīng)該在服務(wù)器上開設(shè)不同權(quán)限

10、級(jí)別的用戶。通過本次事故，幾位跟這個(gè)項(xiàng)目和事故沒有任何關(guān)系的同事，主動(dòng)前來幫忙，查資料，幫測(cè)試，有一位同事還幫忙到晚上1點(diǎn)多鐘進(jìn)行數(shù)據(jù)恢復(fù)測(cè)試。同時(shí)產(chǎn)品經(jīng)理在想到面向客戶的巨大壓力的情況下，沒有慌亂而責(zé)怪開發(fā)人員和具體操作人，而讓大家能靜下心來想解決方案。部門領(lǐng)導(dǎo)也積極主動(dòng)的幫忙想辦法，陪我們加班測(cè)試，實(shí)時(shí)跟蹤事情進(jìn)程。通過大家的共同努力，終于事情相對(duì)圓滿結(jié)束，接下來，周一上午進(jìn)行集體反思，總結(jié)經(jīng)驗(yàn)教訓(xùn)，這類事故一定盡量大努力進(jìn)行避免。