首先感謝王曉老師的[接口優(yōu)化的常見(jiàn)方案實(shí)戰(zhàn)總結(jié)]一文總結(jié)，恰巧最近在對(duì)穩(wěn)健理財(cái)BFF層聚合查詢服務(wù)優(yōu)化治理，針對(duì)文章內(nèi)的串行改并行章節(jié)進(jìn)行展開，分享下實(shí)踐經(jīng)驗(yàn)，主要涉及原同步改異步的過(guò)程、全異步化后衍生的問(wèn)題以及治理方面的思考與改進(jìn)。
希望通過(guò)分享這些經(jīng)驗(yàn)，能夠?qū)Υ蠹业墓ぷ饔兴鶈l(fā)和幫助。如果有任何問(wèn)題或建議，請(qǐng)隨時(shí)提出。
一、問(wèn)題背景
將不同理財(cái)產(chǎn)品（如基金、券商、保險(xiǎn)、銀行理財(cái)?shù)龋┽槍?duì)不同投放渠道人群進(jìn)行個(gè)性化商品推薦，每個(gè)渠道或人群看到的商品或特性數(shù)據(jù)又各不相同，為方便渠道快速對(duì)接，由BFF層統(tǒng)一對(duì)所有數(shù)據(jù)進(jìn)行聚合下發(fā)，因此BFF層聚集依賴了大量底層原子服務(wù)，所以主要問(wèn)題是在依賴大量上游接口的場(chǎng)景下保障TP99、以及可用率。
案例：
以其中比較典型的商品推薦接口為例，需要依賴本地商品池緩存、算法推薦服務(wù)、商品基礎(chǔ)信息服務(wù)、持倉(cāng)查詢服務(wù)、人群標(biāo)簽服務(wù)、券配置服務(wù)，可領(lǐng)用券服務(wù)、其他數(shù)據(jù)服務(wù)ServN……等等，其中大部分上游原子接口對(duì)單次批量查詢支持有限，所以極端情況，單個(gè)推品接口單次推薦1-n個(gè)推品，每個(gè)商品如果要綁定10個(gè)動(dòng)態(tài)屬性，至少需要發(fā)起(1~n)*10次io調(diào)用。
改造前的流程和問(wèn)題：
流程：
問(wèn)題：
-
一是邏輯流程強(qiáng)耦合，很多上下游服務(wù)強(qiáng)同步依賴；
-
二是鏈路較長(zhǎng)，其中某個(gè)上游服務(wù)不穩(wěn)定時(shí)很容易造成整體鏈路失敗。
改造后的流程和實(shí)現(xiàn)的目標(biāo)：
流程：
目標(biāo)：
- 改造目標(biāo)也很明確，就是對(duì)現(xiàn)有邏輯改造，盡可能增加弱依賴比例，一是方便異步提前加載，二是弱依賴代表可摘除，為降級(jí)操作奠定基礎(chǔ)，減少因某個(gè)鏈路抖動(dòng)影響整體鏈路失敗；
初步改造后的新問(wèn)題【【重點(diǎn)解決】】：
?邏輯上解耦比較簡(jiǎn)單，無(wú)非就是前置參數(shù)或冗余加載，本次不展開探討；
?技術(shù)上改造前期異步邏輯主要是采用@Async("tpXXX")標(biāo)注，這也是最快捷實(shí)現(xiàn)的方式，但也存在以下幾個(gè)問(wèn)題，主要是涉及治理方面：
-
隨著項(xiàng)目和人員不斷迭代，造成@Async注解滿天飛；
-
不同人員在不熟悉其他模塊的情況下，無(wú)法界定不同線程池的是否可公用，大多都會(huì)采用聲明新的線程池，造成線程池資源泛濫；
-
部分調(diào)用場(chǎng)景不合理造成@Async嵌套過(guò)多或注解失效問(wèn)題；
-
降級(jí)機(jī)制重復(fù)代碼太多，需要頻繁手動(dòng)聲明各種降級(jí)開關(guān)；
-
缺少統(tǒng)一的請(qǐng)求級(jí)別的緩存機(jī)制，雖然jsf已經(jīng)提供了一定程度的支持；
-
線程池上下文傳遞問(wèn)題；
-
缺少線程池狀態(tài)的統(tǒng)一監(jiān)控報(bào)警，無(wú)法觀測(cè)實(shí)際運(yùn)行過(guò)程中的每個(gè)線程池狀態(tài)，可能每次都是拍腦袋覺(jué)設(shè)置線程池參數(shù)。
二、整體改造路徑
切入點(diǎn)：
鑒于大部分項(xiàng)目都會(huì)封裝單獨(dú)的io調(diào)用層，比如 com.xx.package.xxx.client，所以以此為切入點(diǎn)進(jìn)行重點(diǎn)改造治理。
最終目標(biāo)：
實(shí)現(xiàn)、應(yīng)用簡(jiǎn)單，對(duì)老代碼改造友好，盡可能降低改造成本；
-
抽象io調(diào)用模板，統(tǒng)一io調(diào)用層封裝規(guī)范，標(biāo)準(zhǔn)化io調(diào)用需要的增強(qiáng)屬性聲明并提供默認(rèn)配置，如所屬線程池分配、超時(shí)、緩存、熔斷、降級(jí)等；
-
優(yōu)化@Async調(diào)用，所有io異步操作統(tǒng)一收縮至io調(diào)用層，在模板層實(shí)現(xiàn)回調(diào)機(jī)制，老代碼僅繼承模板即可實(shí)現(xiàn)異步回調(diào);
-
請(qǐng)求級(jí)別的緩存實(shí)現(xiàn)，默認(rèn)支持r2m;
-
請(qǐng)求級(jí)別的熔斷降級(jí)支持，在上游故障時(shí)使服務(wù)實(shí)現(xiàn)一定程度的自治理；
-
線程池集中管理，對(duì)上下文自動(dòng)傳遞MDC參數(shù)提供支持；
-
線程池狀態(tài)自動(dòng)可視化監(jiān)控、報(bào)警實(shí)現(xiàn)；
-
支持配置中心動(dòng)態(tài)設(shè)置。
具體實(shí)現(xiàn)：
1. io調(diào)用抽象模板
模板主要作用是進(jìn)行規(guī)范和增強(qiáng)，目前提供兩種模板，默認(rèn)模板、緩存模板，核心思想就是對(duì)io操作涉及的大部分行為進(jìn)行聲明，比如當(dāng)前服務(wù)所屬線程池分組、請(qǐng)求分組等，由委托組件按照聲明的屬性進(jìn)行增強(qiáng)實(shí)現(xiàn)，示例如下：
主要是提供代碼級(jí)別的默認(rèn)聲明，從日常實(shí)踐看大部分采用開發(fā)時(shí)的代碼級(jí)別的配置即可。
2. 委托代理
此委托屬于整個(gè)執(zhí)行過(guò)程的橋接實(shí)現(xiàn)，io封裝實(shí)現(xiàn)繼承抽象模板后，由模板創(chuàng)建委托代理實(shí)例，主要用于對(duì)io封裝進(jìn)行增強(qiáng)實(shí)現(xiàn)，比如調(diào)用前、調(diào)用后、以及調(diào)用失敗自動(dòng)調(diào)用聲明的降級(jí)方法等處理。
可以理解為：模板專注請(qǐng)求行為，委托關(guān)注對(duì)象行為進(jìn)行組合增強(qiáng)。
3. 執(zhí)行器選型
基于前面的實(shí)現(xiàn)目標(biāo)，減少自研成本，調(diào)研目前已有框架，如 hystrix、sentinel、resilience4j，由于主要目的是期望支持線程池級(jí)別的壁艙模式實(shí)現(xiàn)，且hystrix集成度要優(yōu)于resilience4j，最終選型默認(rèn)集成hystrix，備選resilience4j， 以此實(shí)現(xiàn)線程池的動(dòng)態(tài)創(chuàng)建管理、熔斷降級(jí)、半連接重試等機(jī)制，HystrixCommander實(shí)現(xiàn)如下：
4. hystrix 適配 concrete 動(dòng)態(tài)配置
1、繼承concrete.PropertiesNotifier, 注冊(cè)HystrixPropertiesNotifier監(jiān)聽(tīng)器，緩存配置中心所有以hystrix起始的key配置；
2、實(shí)現(xiàn)HystrixDynamicProperties，注冊(cè)ConcreteHystrixDynamicProperties替換默認(rèn)實(shí)現(xiàn)，最終支持所有的hystrix配置項(xiàng)，具體用法參考hystrix文檔。
5. hystrix 線程池上下文傳遞改造
hystrix已經(jīng)提供了改造點(diǎn)，主要是對(duì)HystrixConcurrencyStrategy#wrapCallable方法重寫實(shí)現(xiàn)即可，在submit任務(wù)前暫存主線程上下文進(jìn)行傳遞。
6. hystrix、jsf、spring注冊(cè)線程池狀態(tài)多維可視化監(jiān)控、報(bào)警
主要依賴以下三個(gè)自定義組件，注冊(cè)一個(gè)狀態(tài)監(jiān)控處理器，單獨(dú)啟動(dòng)一個(gè)線程，定期(每秒)收集所有實(shí)現(xiàn)數(shù)據(jù)上報(bào)模板的實(shí)例，通過(guò)指定的通道實(shí)現(xiàn)狀態(tài)數(shù)據(jù)推送，目前默認(rèn)使用PFinder上報(bào)：
-
ThreadPoolMonitorHandler 定義一個(gè)線程狀態(tài)監(jiān)控處理器，定期執(zhí)行上報(bào)過(guò)程；
-
ThreadPoolEndpointMetrics 定義要上報(bào)的數(shù)據(jù)模板，包括應(yīng)用實(shí)例、線程類型（spring、jsf、hystrix……）、類型線程分組、以及線程池的幾個(gè)核心參數(shù)；
-
AbstractThreadPoolMetricsPublisher 定義監(jiān)控處理器執(zhí)行上報(bào)時(shí)依賴的通道（Micrometer、PFinder、UMP……）。
例如以下是hystrix的狀態(tài)收集實(shí)現(xiàn)，最終可實(shí)現(xiàn)基于機(jī)房、分組、實(shí)例、線程池類型、名稱等不同維度的狀態(tài)監(jiān)控：
PFinder實(shí)際效果：支持不同維度組合查看及報(bào)警
7. 提供統(tǒng)一await future工具類
由于大部分調(diào)用是基于列表形式的異步結(jié)果List<Future
8. 其他小功能
1、除了sgm traceId支持，同時(shí)內(nèi)置自定義的traceId實(shí)現(xiàn)，主要是處理sgm在子線程內(nèi)打印traceId需要在控制臺(tái)手動(dòng)添加監(jiān)控方法的問(wèn)題以及提供對(duì)部分無(wú)sgm環(huán)境的鏈路Id支持，方便日志跟蹤；
2、比如針對(duì)jsf調(diào)用，基于jsf過(guò)濾器實(shí)現(xiàn)跨應(yīng)用級(jí)別的前后請(qǐng)求id傳遞支持；
3、默認(rèn)增加jsf過(guò)濾器實(shí)現(xiàn)日志打印，同時(shí)支持provider、consume的動(dòng)態(tài)日志打印開關(guān)，方便線上隨時(shí)開關(guān)jsf日志，不再需要在client層重復(fù)logger.isDebugerEnabled()；
4、代理層自動(dòng)上報(bào)io調(diào)用方法、fallback等信息至ump，方便監(jiān)控報(bào)警。
日常使用示例：
1. 一個(gè)最簡(jiǎn)單的io調(diào)用封裝
僅增加繼承即可支持異步回調(diào)，不重寫線程池分組時(shí)使用默認(rèn)分組。
2. 一個(gè)支持請(qǐng)求級(jí)別熔斷的io調(diào)用封裝
默認(rèn)支持的熔斷級(jí)別是服務(wù)級(jí)別，老服務(wù)僅需要繼承原請(qǐng)求參數(shù)，實(shí)現(xiàn)FallbackRequest接口即可，可防止因?yàn)槟骋粋€(gè)特殊參數(shù)引起的整體接口熔斷。
3. 一個(gè)支持請(qǐng)求級(jí)別緩存、接口級(jí)別熔斷降級(jí)、獨(dú)立線程池的io調(diào)用封裝
4. 上層調(diào)用，實(shí)際效果
1、直接將一個(gè)商品列表轉(zhuǎn)換成一個(gè)異步屬性綁定任務(wù)；
2、利用工具類await List<Future
3、在上層無(wú)感知的狀態(tài)下，實(shí)現(xiàn)線程池的管理、熔斷、降級(jí)、或緩存邏輯的增強(qiáng)，且可根據(jù)pfinder監(jiān)控的可視化線程池狀態(tài)，通過(guò)concrete實(shí)時(shí)調(diào)整線程池及超時(shí)或熔斷參數(shù)；
4、舉例：比如某接口頻繁500ms超時(shí)，可通過(guò)配置直接打開短路返回降級(jí)結(jié)果，或者調(diào)低超時(shí)為100ms，快速觸發(fā)熔斷，默認(rèn)10s內(nèi)請(qǐng)求總數(shù)達(dá)到20個(gè)，50%失敗時(shí)打開斷路器，每隔5s半鏈接重試。
三、最后
本篇主要是思考如何依賴現(xiàn)有框架、環(huán)境的能力，從代碼層面系統(tǒng)化的實(shí)現(xiàn)相關(guān)治理規(guī)范。
最后仍引用王曉老師文章結(jié)尾來(lái)結(jié)束
接口性能問(wèn)題形成的原因思考我相信很多接口的效率問(wèn)題不是一朝一夕形成的，在需求迭代的過(guò)程中，為了需求快速上線，采取直接累加代碼的方式去實(shí)現(xiàn)功能，這樣會(huì)造成以上這些接口性能問(wèn)題。 變換思路，更高一級(jí)思考問(wèn)題，站在接口設(shè)計(jì)者的角度去開發(fā)需求，會(huì)避免很多這樣的問(wèn)題，也是降本增效的一種行之有效的方式。 以上，共勉！
作者：京東科技 劉大朋文章來(lái)源：http://www.zghlxwxcb.cn/news/detail-468216.html
來(lái)源：京東云開發(fā)者社區(qū)文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-468216.html
到了這里，關(guān)于BFF層聚合查詢服務(wù)異步改造及治理實(shí)踐 | 京東云技術(shù)團(tuán)隊(duì)的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
