(給ImportNew加星標,提高Java技能)
事故描述
從 6 點 32 分開始少量用戶訪問 App 時會出現首頁訪問異常,到 7 點 20 分首頁服務大規模不可用,7 點 36 分問題解決。
整體經過
6:58 發現報警,同時發現群里反饋首頁出現網絡繁忙,考慮到前幾日晚上門店列表服務上線發布過,所以考慮回滾代碼緊急處理問題。
7:07 開始先後聯繫 XXX 查看解決問題。
7:36 代碼回滾完,服務恢復正常。
事故根本原因
事故代碼模擬:
根源就在於 ExecutorCompletionService 結果沒調用take、poll方法。
正確的寫法如下所示:
一行代碼引發的血案,而且不容易被發現。因為 OOM 是一個內存緩慢增長的過程,稍微粗心大意就會忽略。如果是這個代碼塊的調用量少的話,很可能幾天甚至幾個月後暴雷。
操作人回滾或者重啟服務器確實是最快的方式。但是如果不是事後快速分析出 OOM的代碼,而且不巧回滾的版本也是帶 OOM代碼的,就比較悲催了。如剛才所說,流量小了、回滾或者重啟都可以釋放內存;但是流量大的情況下,除非回滾到正常的版本,否則 GG。
探尋問題根源
為了更好的理解 ExecutorCompletionService 的 「套路」,我們用 ExecutorService 來作為對比,可以讓我們更好地清楚什麼場景下用 ExecutorCompletionService。
先看 ExecutorService 代碼(建議下載後自己跑一跑)
三個任務,每個任務執行時間分別是 10s、3s、6s 。通過 JDK 線程池的 submit 提交這三個 Callable 類型的任務。
第一步:主線程把三個任務提交到線程池裡面去,把對應返回的 Future 放到 List 裡面存起來,然後執行「都通知完了,等着接吧。」這行輸出語句;
第二步:在循環裡面執行 future.get() 操作,阻塞等待。
最後結果如下:
先通知到總裁,也是先接總裁 足足等了 1 個小時,接到總裁後再去接研發和中層管理,儘管他們早就完事兒了,也得等總裁上完廁所~~
耗時最久的-10s 異步任務最先進入 list 執行。所以在循環過程中獲取這個 10 s的任務結果的時候,get 操作會一直阻塞,直到 10s 異步任務執行完畢。即使 3s、5s 的任務早就執行完了也得阻塞,等待 10s 任務執行完。
看到這裡,尤其是做網關業務的同學可能會產生共鳴。一般來說,網關 RPC 會調用下游 N 多個接口,如下圖:
如果都按照 ExecutorService 這種方式,並且恰巧前幾個任務調用的接口耗時比較久,同時阻塞等待,那就比較悲催了。所以 ExecutorCompletionService 應景而出。它作為任務線程的合理管控者,「任務規劃師」的稱號名副其實。
相同場景 ExecutorCompletionService 代碼:
跑完結果如下:
這次就相對高效了一些。雖然先通知的總裁,但是根據大家上大號的速度,誰先拉完先去接誰,不用等待上大號最久的總裁了(現實生活里建議採用第一種,不等總裁的後果 emmm 哈哈哈)。
放在一起對比下輸出結果:
兩段代碼的差異非常小 獲取結果的時候 ExecutorCompletionService 使用了:
為什麼要用 take()然後再 get() 呢?
我們看看源碼:
CompletionService 接口以及接口的實現類
1、ExecutorCompletionService 是 CompletionService 接口的實現類
2、接着跟一下 ExecutorCompletionService 的構造方法。
可以看到入參需要傳一個線程池對象,默認使用的隊列是 LinkedBlockingQueue,不過還有另外一個構造方法可以指定隊列類型,如下兩張圖,有兩個構造方法。默認 LinkedBlockingQueue 的構造方法。
可選隊列類型的構造方法:
3、Submit 任務提交的兩種方式,都是有返回值的,我們例子中用到的就是第一種 Callable 類型的方法。
4、對比ExecutorService 和 ExecutorCompletionService 的 submit 方法可以看出區別。
(1)ExecutorService
(2)ExecutorCompletionService
5、差異就在 QueueingFuture。
這個到底作用是啥,我們繼續跟進去看:
QueueingFuture 繼承自 FutureTask,而且紅線部分標註的位置,重寫了 done() 方法;
把 task 放到 completionQueue 隊列裡面。當任務執行完成後,task 就會被放到隊列裡面去了;
此時此刻,completionQueue 隊列裡面的 task 都是已經 done() 完成了的 task。而這個 task 就是我們拿到的一個個的 future 結果;
如果調用 completionQueue 的 task 方法,會阻塞等待任務。等到的一定是完成了的 future,我們調用 .get() 方法 就能立馬獲得結果。
看到這裡,相信大傢伙都應該多少明白點了:
我們在使用 ExecutorService submit 提交任務後需要關注每個任務返回的 future。然而 CompletionService 對這些 future 進行了追蹤,並且重寫了 done 方法,讓你等的 completionQueue 隊列裡面一定是完成了的 task;
作為網關 RPC 層,我們不用因為某一個接口的響應慢拖累所有的請求,可以在處理最快響應的業務場景里使用 CompletionService。
但是請注意!也是本次事故的核心問題。
只有調用了 ExecutorCompletionService 下面的 3 個方法的任意一個時,阻塞隊列中的 task 執行結果才會從隊列中移除掉,釋放堆內存。
由於該業務不需要使用任務的返回值,沒有調用 take、poll 方法,從而導致沒有釋放堆內存。堆內存會隨着調用量的增加一直增長。
所以,業務場景中不需要使用任務返回值的,別沒事兒使用 CompletionService。假如使用了,記得一定要從阻塞隊列中移除掉 task 執行結果,避免 OOM!
總結
知道事故的原因,我們來總結下方法論。畢竟孔子他老人家說過:自省吾身,常思己過,善修其身!
上線前
嚴格的代碼 review 習慣,一定要交給 back 人去看,畢竟自己寫的代碼自己是看不出問題的,相信每個程序猿都有這個自信;
上線記錄:備註好上一個可回滾的包版本(給自己留一個後路);
上線前確認回滾後,業務是否可降級。如果不可降級,一定要嚴格拉長這次上線的監控周期。
上線後
持續關注內存增長情況(這部分極容易被忽略,大家對內存的重視度不如 CPU 使用率);
持續關注CPU使用率增長情況
GC 情況、線程數是否增長、是否有頻繁的 Full GC 等;
關注服務性能報警,TP99、999 、MAX 是否出現明顯的增高。
轉自:樹洞君,
鏈接:juejin.cn/post/7064376361334358046
- EOF -
1、線程池運用不當的一次線上事故
2、乾貨!一次 kafka 卡頓事故排查過程
3、Spring 官方推薦的 @Transactional 還能導致生產事故?
看完本文有收穫?請轉發分享給更多人
關注「ImportNew」,提升Java技能
點讚和在看就是最大的支持❤️