close

(給ImportNew加星標,提高Java技能)

事故描述

從 6 點 32 分開始少量用戶訪問 App 時會出現首頁訪問異常,到 7 點 20 分首頁服務大規模不可用,7 點 36 分問題解決。

整體經過

6:58 發現報警,同時發現群里反饋首頁出現網絡繁忙,考慮到前幾日晚上門店列表服務上線發布過,所以考慮回滾代碼緊急處理問題。

7:07 開始先後聯繫 XXX 查看解決問題。

7:36 代碼回滾完,服務恢復正常。

事故根本原因

事故代碼模擬:

public static void test() throws InterruptedException, ExecutionException { Executor executor = Executors.newFixedThreadPool(3); CompletionService<String> service = new ExecutorCompletionService<>(executor); service.submit(new Callable<String>() { @Override public String call() throws Exception { return "HelloWorld--" + Thread.currentThread().getName(); } });}

根源就在於 ExecutorCompletionService 結果沒調用take、poll方法。

正確的寫法如下所示:

public static void test() throws InterruptedException, ExecutionException { Executor executor = Executors.newFixedThreadPool(3); CompletionService<String> service = new ExecutorCompletionService<>(executor); service.submit(new Callable<String>() { @Override public String call() throws Exception { return "HelloWorld--" + Thread.currentThread().getName(); } }); service.take().get();}

一行代碼引發的血案,而且不容易被發現。因為 OOM 是一個內存緩慢增長的過程,稍微粗心大意就會忽略。如果是這個代碼塊的調用量少的話,很可能幾天甚至幾個月後暴雷。

操作人回滾或者重啟服務器確實是最快的方式。但是如果不是事後快速分析出 OOM的代碼,而且不巧回滾的版本也是帶 OOM代碼的,就比較悲催了。如剛才所說,流量小了、回滾或者重啟都可以釋放內存;但是流量大的情況下,除非回滾到正常的版本,否則 GG。

探尋問題根源

為了更好的理解 ExecutorCompletionService 的 「套路」,我們用 ExecutorService 來作為對比,可以讓我們更好地清楚什麼場景下用 ExecutorCompletionService。

先看 ExecutorService 代碼(建議下載後自己跑一跑)

public static void test1() throws Exception{ ExecutorService executorService = Executors.newCachedThreadPool(); ArrayList<Future<String>> futureArrayList = new ArrayList<>(); System.out.println("公司讓你通知大家聚餐 你開車去接人"); Future<String> future10 = executorService.submit(() -> { System.out.println("總裁:我在家上大號 我最近拉肚子比較慢 要蹲1個小時才能出來 你等會來接我吧"); TimeUnit.SECONDS.sleep(10); System.out.println("總裁:1小時了 我上完大號了。你來接吧");return"總裁上完大號了"; }); futureArrayList.add(future10); Future<String> future3 = executorService.submit(() -> { System.out.println("研發:我在家上大號 我比較快 要蹲3分鐘就可以出來 你等會來接我吧"); TimeUnit.SECONDS.sleep(3); System.out.println("研發:3分鐘 我上完大號了。你來接吧"); return "研發上完大號了"; }); futureArrayList.add(future3); Future<String> future6 = executorService.submit(() -> { System.out.println("中層管理:我在家上大號 要蹲10分鐘就可以出來 你等會來接我吧"); TimeUnit.SECONDS.sleep(6); System.out.println("中層管理:10分鐘 我上完大號了。你來接吧"); return "中層管理上完大號了"; }); futureArrayList.add(future6); TimeUnit.SECONDS.sleep(1); System.out.println("都通知完了,等着接吧。"); try { for (Future<String> future : futureArrayList) { String returnStr = future.get(); System.out.println(returnStr + ",你去接他"); } Thread.currentThread().join(); } catch (Exception e) { e.printStackTrace(); }}

三個任務,每個任務執行時間分別是 10s、3s、6s 。通過 JDK 線程池的 submit 提交這三個 Callable 類型的任務。

第一步:主線程把三個任務提交到線程池裡面去,把對應返回的 Future 放到 List 裡面存起來,然後執行「都通知完了,等着接吧。」這行輸出語句;

第二步:在循環裡面執行 future.get() 操作,阻塞等待。

最後結果如下:

先通知到總裁,也是先接總裁 足足等了 1 個小時,接到總裁後再去接研發和中層管理,儘管他們早就完事兒了,也得等總裁上完廁所~~

耗時最久的-10s 異步任務最先進入 list 執行。所以在循環過程中獲取這個 10 s的任務結果的時候,get 操作會一直阻塞,直到 10s 異步任務執行完畢。即使 3s、5s 的任務早就執行完了也得阻塞,等待 10s 任務執行完。

看到這裡,尤其是做網關業務的同學可能會產生共鳴。一般來說,網關 RPC 會調用下游 N 多個接口,如下圖:

如果都按照 ExecutorService 這種方式,並且恰巧前幾個任務調用的接口耗時比較久,同時阻塞等待,那就比較悲催了。所以 ExecutorCompletionService 應景而出。它作為任務線程的合理管控者,「任務規劃師」的稱號名副其實。

相同場景 ExecutorCompletionService 代碼:

public static void test2() throws Exception { ExecutorService executorService = Executors.newCachedThreadPool(); ExecutorCompletionService<String> completionService = new ExecutorCompletionService<>(executorService); System.out.println("公司讓你通知大家聚餐 你開車去接人"); completionService.submit(() -> { System.out.println("總裁:我在家上大號 我最近拉肚子比較慢 要蹲1個小時才能出來 你等會來接我吧"); TimeUnit.SECONDS.sleep(10); System.out.println("總裁:1小時了 我上完大號了。你來接吧"); return "總裁上完大號了"; }); completionService.submit(() -> { System.out.println("研發:我在家上大號 我比較快 要蹲3分鐘就可以出來 你等會來接我吧"); TimeUnit.SECONDS.sleep(3); System.out.println("研發:3分鐘 我上完大號了。你來接吧"); return "研發上完大號了"; }); completionService.submit(() -> { System.out.println("中層管理:我在家上大號 要蹲10分鐘就可以出來 你等會來接我吧"); TimeUnit.SECONDS.sleep(6); System.out.println("中層管理:10分鐘 我上完大號了。你來接吧"); return "中層管理上完大號了"; }); TimeUnit.SECONDS.sleep(1); System.out.println("都通知完了,等着接吧。"); //提交了3個異步任務) for (int i = 0; i < 3; i++) { String returnStr = completionService.take().get(); System.out.println(returnStr + ",你去接他"); } Thread.currentThread().join();}

跑完結果如下:

這次就相對高效了一些。雖然先通知的總裁,但是根據大家上大號的速度,誰先拉完先去接誰,不用等待上大號最久的總裁了(現實生活里建議採用第一種,不等總裁的後果 emmm 哈哈哈)。

放在一起對比下輸出結果:

兩段代碼的差異非常小 獲取結果的時候 ExecutorCompletionService 使用了:

completionService.take().get();

為什麼要用 take()然後再 get() 呢?

我們看看源碼:

CompletionService 接口以及接口的實現類

1、ExecutorCompletionService 是 CompletionService 接口的實現類

2、接着跟一下 ExecutorCompletionService 的構造方法。

可以看到入參需要傳一個線程池對象,默認使用的隊列是 LinkedBlockingQueue,不過還有另外一個構造方法可以指定隊列類型,如下兩張圖,有兩個構造方法。默認 LinkedBlockingQueue 的構造方法。

可選隊列類型的構造方法:

3、Submit 任務提交的兩種方式,都是有返回值的,我們例子中用到的就是第一種 Callable 類型的方法。

4、對比ExecutorService 和 ExecutorCompletionService 的 submit 方法可以看出區別。

(1)ExecutorService

(2)ExecutorCompletionService

5、差異就在 QueueingFuture。

這個到底作用是啥,我們繼續跟進去看:

QueueingFuture 繼承自 FutureTask,而且紅線部分標註的位置,重寫了 done() 方法;

把 task 放到 completionQueue 隊列裡面。當任務執行完成後,task 就會被放到隊列裡面去了;

此時此刻,completionQueue 隊列裡面的 task 都是已經 done() 完成了的 task。而這個 task 就是我們拿到的一個個的 future 結果;

如果調用 completionQueue 的 task 方法,會阻塞等待任務。等到的一定是完成了的 future,我們調用 .get() 方法 就能立馬獲得結果。

看到這裡,相信大傢伙都應該多少明白點了:

我們在使用 ExecutorService submit 提交任務後需要關注每個任務返回的 future。然而 CompletionService 對這些 future 進行了追蹤,並且重寫了 done 方法,讓你等的 completionQueue 隊列裡面一定是完成了的 task;

作為網關 RPC 層,我們不用因為某一個接口的響應慢拖累所有的請求,可以在處理最快響應的業務場景里使用 CompletionService。

但是請注意!也是本次事故的核心問題。

只有調用了 ExecutorCompletionService 下面的 3 個方法的任意一個時,阻塞隊列中的 task 執行結果才會從隊列中移除掉,釋放堆內存。

由於該業務不需要使用任務的返回值,沒有調用 take、poll 方法,從而導致沒有釋放堆內存。堆內存會隨着調用量的增加一直增長。

所以,業務場景中不需要使用任務返回值的,別沒事兒使用 CompletionService。假如使用了,記得一定要從阻塞隊列中移除掉 task 執行結果,避免 OOM!

總結

知道事故的原因,我們來總結下方法論。畢竟孔子他老人家說過:自省吾身,常思己過,善修其身!

上線前

嚴格的代碼 review 習慣,一定要交給 back 人去看,畢竟自己寫的代碼自己是看不出問題的,相信每個程序猿都有這個自信;

上線記錄:備註好上一個可回滾的包版本(給自己留一個後路);

上線前確認回滾後,業務是否可降級。如果不可降級,一定要嚴格拉長這次上線的監控周期。

上線後

持續關注內存增長情況(這部分極容易被忽略,大家對內存的重視度不如 CPU 使用率);

持續關注CPU使用率增長情況

GC 情況、線程數是否增長、是否有頻繁的 Full GC 等;

關注服務性能報警,TP99、999 、MAX 是否出現明顯的增高。

轉自:樹洞君,

鏈接:juejin.cn/post/7064376361334358046

- EOF -

推薦閱讀點擊標題可跳轉

1、線程池運用不當的一次線上事故

2、乾貨!一次 kafka 卡頓事故排查過程

3、Spring 官方推薦的 @Transactional 還能導致生產事故?

看完本文有收穫?請轉發分享給更多人

關注「ImportNew」,提升Java技能

點讚和在看就是最大的支持❤️

arrow
arrow
    全站熱搜
    創作者介紹
    創作者 鑽石舞台 的頭像
    鑽石舞台

    鑽石舞台

    鑽石舞台 發表在 痞客邦 留言(0) 人氣()