From 14e4cc03a86bec86c742cccd8af1df3f08631f43 Mon Sep 17 00:00:00 2001 From: yanglbme Date: Sat, 1 Dec 2018 16:49:52 +0800 Subject: [PATCH] docs(hystrix): add hystrix-introduction.md MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit hystrix的相关介绍与设计原则 --- README.md | 5 +- .../high-availability/hystrix-introduction.md | 45 ++++++++++++++++++ img/service-invoke-road.png | Bin 0 -> 7320 bytes 3 files changed, 49 insertions(+), 1 deletion(-) create mode 100644 docs/high-availability/hystrix-introduction.md create mode 100644 img/service-invoke-road.png diff --git a/README.md b/README.md index 6aedf51..e8ff71d 100644 --- a/README.md +++ b/README.md @@ -6,6 +6,8 @@ 本系列知识出自中华石杉,我对这部分知识做了一个系统的整理,方便学习查阅。 +😄可以关注石杉老师的微信公众号:**石杉的架构笔记** @shishan100,有很多干货噢~ + ## [分布式系统](/docs/distributed-system/distributed-system-interview.md) ### 系统拆分 @@ -77,6 +79,7 @@ ## 高可用架构 +- [Hystrix 介绍](/docs/high-availability/hystrix-introduction.md) ### 高可用系统 - 如何设计一个高可用系统? @@ -89,4 +92,4 @@ - 熔断框架都有哪些?具体实现原理知道吗? ### 降级 -- 如何进行降级? \ No newline at end of file +- 如何进行降级? diff --git a/docs/high-availability/hystrix-introduction.md b/docs/high-availability/hystrix-introduction.md new file mode 100644 index 0000000..4e5bcd5 --- /dev/null +++ b/docs/high-availability/hystrix-introduction.md @@ -0,0 +1,45 @@ +# 用 Hystrix 构建高可用服务架构 + +## Hystrix 是什么? +在分布式系统中,每个服务都可能会调用很多其他服务,被调用的那些服务就是**依赖服务**,有的时候某些依赖服务出现故障也是很正常的。 + +Hystrix 可以让我们在分布式系统中对服务间的调用进行控制,加入一些**调用延迟**或者**依赖故障**的**容错机制**。 + +Hystrix 通过将依赖服务进行**资源隔离**,进而阻止某个依赖服务出现故障时在整个系统所有的依赖服务调用中进行蔓延;同时Hystrix 还提供故障时的 fallback 降级机制。 + +总而言之,Hystrix 通过这些方法帮助我们提升分布式系统的可用性和稳定性。 + +## Hystrix 的历史 +Hystrix 是高可用性保障的一个框架。Netflix(可以认为是国外的优酷或者爱奇艺之类的视频网站)的 API 团队从 2011 年开始做一些提升系统可用性和稳定性的工作,Hystrix 就是从那时候开始发展出来的。 + +在 2012 年的时候,Hystrix 就变得比较成熟和稳定了,Netflix 中,除了 API 团队以外,很多其他的团队都开始使用 Hystrix。 + +时至今日,Netflix 中每天都有数十亿次的服务间调用,通过 Hystrix 框架在进行,而 Hystrix 也帮助 Netflix 网站提升了整体的可用性和稳定性。 + +## Hystrix 的设计原则 +- 对依赖服务调用时出现的调用延迟和调用失败进行**控制和容错保护**。 +- 在复杂的分布式系统中,阻止某一个依赖服务的故障在整个系统中蔓延。比如某一个服务故障了,导致其它服务也跟着故障。 +- 提供 `fail-fast`(快速失败)和快速恢复的支持。 +- 提供 fallback 优雅降级的支持。 +- 支持近实时的监控、报警以及运维操作。 + + +举个栗子。 + +有这样一个分布式系统,服务 A 依赖于服务 B,服务 B 依赖于服务 C/D/E。在这样一个成熟的系统内,比如说最多可能只有 100 个线程资源。正常情况下,40 个线程并发调用服务 C,各 30 个线程并发调用 D/E。 + +调用服务 C,只需要 20ms,现在因为服务 C 故障了,比如延迟,或者挂了,此时线程会 hang 住 2s 左右。40 个线程全部被卡住,由于请求不断涌入,其它的线程也用来调用服务 C,同样也会被卡住。这样导致服务 B 的线程资源被耗尽,无法接收新的请求,甚至可能因为大量线程不断的运转,导致自己宕机。服务 A 也挂。 + +![service-invoke-road](/img/service-invoke-road.png) + +Hystrix 可以对其进行资源隔离,比如限制服务 B 只有 40 个线程调用服务 C。当此 40 个线程被 hang 住时,其它 60 个线程依然能正常调用工作。从而确保整个系统不会被拖垮。 + + +## Hystrix 更加细节的设计原则 +- 阻止任何一个依赖服务耗尽所有的资源,比如 tomcat 中的所有线程资源。 +- 避免请求排队和积压,采用限流和 `fail fast` 来控制故障。 +- 提供 fallback 降级机制来应对故障。 +- 使用资源隔离技术,比如 `bulkhead`(舱壁隔离技术)、`swimlane`(泳道技术)、`circuit breaker`(短路技术)来限制任何一个依赖服务的故障的影响。 +- 通过近实时的统计/监控/报警功能,来提高故障发现的速度。 +- 通过近实时的属性和配置**热修改**功能,来提高故障处理和恢复的速度。 +- 保护依赖服务调用的所有故障情况,而不仅仅只是网络故障情况。 \ No newline at end of file diff --git a/img/service-invoke-road.png b/img/service-invoke-road.png new file mode 100644 index 0000000000000000000000000000000000000000..46b9c831af6a153542548423d96127069aab6be2 GIT binary patch literal 7320 zcmc&(2~bn#zK?={3L^EkiU=u-QWpe?h%6yiXd$3b7eE#P1xWz`AuN)R1h0x#1q1|S zjb00A*pw|o2th6T5)85vKv}|?u!oR@yzkidzWeTU=FOW<-_3;OBq#a)=ld_e<^1%6 zt);@2-CJNVm;&0$;w%idQ3D3skR&GqUU`?8h68^#U$b(;!eCo>KtCH`X&Jjc4|K|$XY*OuxoQff z3niQ>;Us5C$)rcKq+qgNs7u)uI0&y!DtqYp9zw#d{pj!SpKbXy+Q!CaQpuw|_&aIX zH{aid!D{7{U{7|bZ-o6#(*hQC`Ia2)hX>m?!0st&z)l=F`B$9u#BOGYfm+7Vmv+^_ zx-Z~h9>aYl7`yOOM~@yIee4-)^oe<~GQ?+U88_aV-t9QD;bzqK4cmOiTT)Z?E}cvm z?R0c+tqh%Ju~-R-c4igzL4ovThhu?*0|b0W&gqEZ8?yS|EswAE7LPq)5|~K7*V4p$ zB)9){kY^!%rLQI3P&dU5=c7wj(A&OQY53vp-Mfo}$C|VnH|=zNsHJ@D>IJok(Ri-s z%4~m%GQvA#Xs|NWFQ8g5ek%Q#&gs*qE4Y=@toAu>UQH2w#kr8NzIH0h)acpwF~-Bw z1x_XVz$s28-Z9&6C~oE{Z6NCOQv;dR1YxmHN6t|LgT3f1;@adPx2od>1qBu2mHv*- z&ZL8duQgoCuQnE6X$~Gsa`f)XcS=Q(h`wdcah!fSKK$6#o`<)$?#!Xnk&<CZ9I^z%G@J0`58?y63S3g+H7&hAzP*i3=&(Z}4>}gMJU-&ddjCEi!8Aoc zEBt-aR_M?OJMJ~`Iw(RoOGRA%<*pi&8aCS(IpYa$=79w`=g4d4K@5rL#C^*Gqm5T8 zG&b%zYi@3?7CHCEbanV9n?DOOSmNE<1eVEs|I8B8@KD{U*bBYFWv9oe7?=eI z&5Hsi$!xm2h-t*hNDQ6s8mks^ZRl=H9qK>=YV{_n0WN+I&n_z~6Gn9BJ9UV^U_MYr zEQom|RAy$TnAirJd)hrP;A&uK=$M^JS{KMhnubn&@NG>q=rm*qS}7FDRE*)^^Bg;} zo4vg~a{iYcoeWVk<2*{(%cS7wZlNI|=g;NZ7JyQUZ()OsU5Z^I#hO;3n;`y zZE~bOC^nmf3_Q1@Vm!^S7}T2<+TMP0W~OCnvI8GU^z`)XD!kZF5YmRk0TfD8?N0Xr z!q6Zc5B4oBa;1bkdlMlgvqgR59@fiC?<(DsBX~6L1TWF*d~XF7;}$WNlrkeW7{1AbIRicmZ^-Fv)D0tWPwIYeJ zN!U!oX6=l2ZI0|C4pO70=*r4WZ^hbF9wKa}Cj&S2Le_Ns(|uj<<*82DNEI$9cdTf> zK745Xqax|?MOxU{KkgrHvP7-D=SnVKd$UOyi3^E4s9iIxX%Tg^uiW3o)_C$~b2GDm zf!9^*Ytzbx0j_aET4m)zySd`neRt92uXNoqa&mHJ*fgqezBSzt1Fnos1$j;^VVVh} z-~q?H8XjhVtb%Sit(&Q&w>`o~=J@m6EZl)}Ij0)4ka!koji=^!!cZ%}?6C7{OxO#R zm_z=Bc)=nEGguW7As9=+j>H(|ym+xcoE_?DYc%#qtMMP--7miME?ORLW~!ZW?PLIb zxr@tLOJ@ku&D-V%shgy3rhswcTOX^MYJ~N6c5zvJyH$5I!R9b}ftz#>lNGVgCgpJJ zFF)--fLa@f;AB=v)`f_0?!Z7$y{fE86xY?&^_V&z2 zSsP%hu(b5_yz%jI%F>>inz4KTp*a6HoH+%d-SD+OpIifjW5?DzB^5%7`}!i+onBH> zvN+Dk!gEnVjK0U$J2Xxdy#{%VE~Qc#4tbq*d$_MD6gSCgJ<4pwWoXU8k<=<9?`m$X z2$SE25;WRTUU}Bro(dk9U?(W`aFQr~{qg2qt5ufL69&sT@kh<$Ggh%1%(QOFwfg~# z$jYbq3NLMon0`GHi!UCM*(hVGzHuq7yu4ftP}t;-(WnWSbi5hrji?QFcVTpjL!RnF zc1m=#jBYawDW~+rakj5)+C6c`tihZHs!4F2#FUc1dQy7Aes*>ipGPt739rrf2@D+S z=SgjlO545x$5waCnlF~W1_KLKIv1>nwNx3wj+O-u`1}v1H8p!JqTIScF~)n%;;DXR zea{$Gice(0xj#`TmG1Y9-oisyJg6ciMU#sR-r#iks-n1-WgMJ$dlcV4eKV|y2N#{fIta_X_3I(lI$ zugIHS8S3NX)7Yp@9vFE|9mE|>Hw@%f(*cB=&ecc(R&c8PYHx5mry7)>K5l8kR3ci0 z057ph#e~7fGg4FnUaK<}O&A^89BKJIC#8?)M@L8JyH@C^uaQujcaO{E5~)6xU0jUZS#ckWyvjazy2XqC`<&aa4`JYB>vOVqY&dw%8_F0ueX zY>rzICnr6i=~M0f65mcrwHfk>9z-|%{|w#e+rTvP{qWp1a=tcVzIG>_A#ElNGPy0! ztq245P?j(=i047vOCMCyA=lS>=-{=1T9e@N8MPH=oM}y~^x) z<+%vJP6NG=%8cBH)+dTq_uywd)%ZNXK#kLxBd-WDyK_^fstlr+#$&Ot9stCl8f01?!U1{z$QWv9quPWS{>RaInl^SEQDZ&~EhGk7am)JPtsRofnj?g{}nDU^b9s(ww5p1V!8N;lm?3p6|Un_Ys}&8#|CS9m4aJj8=L) z7bopVmG$;td0hKKqedOM{NY@x{uOIbf{BHNh4QM#rNUR*S=Tjek`Dn^U{id#_FfAa zg<2eMZEn_OWT*sI9f64YbRjLcX@9O3`YRphM+z#(yue~cA8+jlo-UwQ0BNe<N5C4PHirv)>VrG& z9g}t`MJZa{y>|Y0LM-BwB;nQbF@YgNlBR=2qc>#LtbpRFUMVZO0$OZSuJo{#pg&wT z3IT+-EI|B{Y|ioBqOL%(15{lVSkCy!Wq|)_uoPKVMxp#8heqO)dc1Q z^ldGfCe)?tmNB1`_0&+IeDTuoB0ik=JV`BzFOjB(PCGEv?wql==aWOiXZw;szaEF! zf1qR~5F=cfb$WIAyPQ+0EJ9>~!=eOpDJ=a>QvhGh(c<_4)$oC!&%mV>SS|1d>vd_K zgdI1QQ;M|)Q_oh7xcX76@u9l;!aMl79we)_*lntj-3va+25cCbHo=1t97tI}fp>%L z3JDEOQd5XhJaPBhhu*3PtQv0O>4RNIG@#~$hCc^z`4%Xd19%=iyIyKoYP-fB`!L>M zCWM)2NdJy&!Ua~b0INl{?xOD!Mj=hQxJZ^%joyVt!cN|L*5prRCmRl4*W96PJF~t& z53TQ6_uy2j{$7CmOa;S%hd}#Xvxdcfu7)1ZxUpCDYBmWFV8z7nB&OBQ1<8<{e)?2h zw`%TWwV*XHdH0Se#Tq_J5mpTsH;AT~N=9E0W33|oxmADIv2`?pu-7Lyv+F}o&#I$@ z!_6ZKm^9LI8+fFXfijfLkQ;{$J*mq1GhsttXozQk%ur?x4z4>FIH+J>kAS`tkH96X zJ%NO2m-U6e#cug^!293%#?|nigALbo$<@y4Bs@KD?l2sY7e^xIz_1Z{P0)Ktz(}#s5~VkB;TE z)eG@z6FR@ftDt_?3Xc~KQYhP2xKjoYp%oIop4j`(ciYtuFIH65pJ9GpWKi2;3k9ri z$C^JF9{Rzztlqj+ieCHA_k8{Qrmc!s=>4G2-n$RVS{i%~0#Dw)Kc7P3+Tbi#rLe=# zJw9I$?+cCFV7UJ)!9AYV<1cfN*7~I5ziDpNp!ct*L&6B1aL2FA*&Zi1A@ysB3C@!n zh&wPDL3PQ_1z`@8M%Uf#?Wf6vm0qk3GpMwrUn-8xRSm-r@2B@$F5@i@E&fJ-qu+7?QJCOj!5=&FwI1KOcvY*ZjP?VRtM2(v|r~#{afBHY+ zyT!j<;SG^NXW--~LcvwH5cyePILpi6S7s*N8UR1tgKartDXIYS_cSnRsv;KGd`(x& zdi`Y(LZqHtyqn&i;>g^7s5?>O4%FCtOL!|uR8RUDkl4{gyS4)AV47XzryYcAVUdrQ z>jO}~(`l_TXPsx3ac$Z_uZia2lAtydURAZx5i1FgkKbpT0nrjZw{cJHEi2t0fBdnb zDd}LM)=t-J-zIp0p$%+2%gVT3YM?vt1K$(y(_IA>g7I{Oe_ttZ;>Iec3vJBb(TW}c zSJ1Blco>L?h0zDQ4Jbk^m}!|{>KfYHj~#RuSnspT$^b15v3!V)kunaz^~GiV=wd){ zpxI^;&TV0c`x#@??h+hi))f(#^VnoX`U@ZiMjPS@1Z&H^>a6D_?7p7*`K5Hy~ZE4!k}BT&B1MFbI$Lm-{z6 zVKS4jZARMeYpj$7z&Wn~;SAWl3-tdOgdPG8nam`uFHQmi07zVOh8Emf{HlMa+x3s? zjP?Dw83`%wM5ARKyBV=m$r85GZdt*VjYEE{p1ZB<1^GSzmIosjTcKE$%_6VwR#8C! zt{=(8lAD3=11LXl6p*~;6ozOFu)F;b?=S0iOJ~!0}6qYc*v#v5c;gWy|IZ2g0QxvMjqqPlVO6v9W5r4`zUQV^?}H9Jpj2ep^nQ10{9v z`bdmu5hW=>8L=?dTtgm~UJ}=ug*0(=Cxq6;s-~Z_LoP?vy93P#`IV5h9w(%NLLZ4k zRo4?pf)r9J$c*~duMPo-zyldjjOTMj!?LIbD2HZ9#Z?9lOC18X6x1G;aKcfLy$H~; z9}U9pP23lc54$P}6o6~1qn#PTQisEV)96MLFRPVhYF)f|QLsW~WCEdsng3J^nyLvH ztcb|fIju%;^8f+lm>L=S4H0%hondvnE^+>T1mOSr!1fk#dFugjm+uU=lWCb%!riz6 zhi1SOper)C|CLS?aIHIN+M5{XFEdD;Ys=Gk(aR=9g!+OCFi&&!uQWXZ$<+oSK()p9 zv@@NzNIv8QsyZ3sosfYKLP&v15l|J+w6wI~?u+4LkIvbm6An3-exq{iYQx;eci6X^ zwMV;L0+GYhgi%d+qa$OjlW2l6t6KA;YJ<503??E9Wi~LwuTi%knnSz}$jA;bF`!*d zaScW%03TI70x0j|kVzIKUV-J^ni)QrD&#RxAp5O=