什么是異步模式
要知道什么是異步模式,就先要知道什么是同步模式,先看最典型的同步模式:
瀏覽器發(fā)起請求,Web服務器開一個線程處理,處理完把處理結果返回瀏覽器。好像沒什么好說的了,絕大多數(shù)Web服務器都如此般處理。現(xiàn)在想想如果處理的過程中需要調(diào)用后端的一個業(yè)務邏輯服務器,會是怎樣呢?
調(diào)就調(diào)吧,上圖所示,請求處理線程會在Call了之后等待Return,自身處于阻塞狀態(tài)。這也是絕大多數(shù)Web服務器的做法,一般來說這樣做也夠了,為啥?一來“長時間處理服務”調(diào)用通常不多,二來請求數(shù)其實也不多。要不是這樣的話,這種模式會出現(xiàn)什么問題呢?——會出現(xiàn)的問題就是請求處理線程的短缺!因為請求處理線程的總數(shù)是有限的,如果類似的請求多了,所有的處理線程處于阻塞的狀態(tài),那新的請求也就無法處理了,也就所謂影響了服務器的吞吐能力。要更加好地發(fā)揮服務器的全部性能,就要使用異步,這也是標題上所說的“高性能的關鍵”。接下來我們來看看異步是怎么一回事:
最大的不同在于請求處理線程對后臺處理的調(diào)用使用了“invoke”的方式,就是說調(diào)了之后直接返回,而不等待,這樣請求處理線程就“自由”了,它可以接著去處理別的請求,當后端處理完成后,會鉤起一個回調(diào)處理線程來處理調(diào)用的結果,這個回調(diào)處理線程跟請求處理線程也許都是線程池中的某個線程,相互間可以完全沒有關系,由這個回調(diào)處理線程向瀏覽器返回內(nèi)容。這就是異步的過程。
帶來的改進是顯而易見的,請求處理線程不需要阻塞了,它的能力得到了更充分的使用,帶來了服務器吞吐能力的提升。
要使用Spring MVC的異步功能,你得先確保你用的是Servlet 3.0或以上的版本,Maven中如此配置:
1
2
3
4
5
6
7
8
9
10
11
|
< dependency > < groupId >javax.servlet</ groupId > < artifactId >javax.servlet-api</ artifactId > < version >3.1.0</ version > < scope >provided</ scope > </ dependency > < dependency > < groupId >org.springframework</ groupId > < artifactId >spring-webmvc</ artifactId > < version >4.2.3.RELEASE</ version > </ dependency > |
我這里使用的Servlet版本是3.1.0,Spring MVC版本是4.2.3,建議使用最新的版本。
由于Spring MVC的良好封裝,異步功能使用起來出奇的簡單。傳統(tǒng)的同步模式的Controller是返回ModelAndView,而異步模式則是返回DeferredResult<ModelAndView>。
看這個例子:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
@RequestMapping (value= "/asynctask" , method = RequestMethod.GET) public DeferredResult<ModelAndView> asyncTask(){ DeferredResult<ModelAndView> deferredResult = new DeferredResult<ModelAndView>(); System.out.println( "/asynctask 調(diào)用!thread id is : " + Thread.currentThread().getId()); longTimeAsyncCallService.makeRemoteCallAndUnknownWhenFinish( new LongTermTaskCallback() { @Override public void callback(Object result) { System.out.println( "異步調(diào)用執(zhí)行完成, thread id is : " + Thread.currentThread().getId()); ModelAndView mav = new ModelAndView( "remotecalltask" ); mav.addObject( "result" , result); deferredResult.setResult(mav); } }); } |
longTimeAsyncCallService是我寫的一個模擬長時間異步調(diào)用的服務類,調(diào)用之,立即返回,當它處理完成時候,就鉤起一個線程調(diào)用我們提供的回調(diào)函數(shù),這跟“圖3”描述的一樣,它的代碼如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
public interface LongTermTaskCallback { void callback(Object result); } public class LongTimeAsyncCallService { private final int CorePoolSize = 4 ; private final int NeedSeconds = 3 ; private Random random = new Random(); private ScheduledExecutorService scheduler = Executors.newScheduledThreadPool(CorePoolSize); public void makeRemoteCallAndUnknownWhenFinish(LongTermTaskCallback callback){ System.out.println( "完成此任務需要 : " + NeedSeconds + " 秒" ); scheduler.schedule( new Runnable() { @Override public void run() { callback.callback( "長時間異步調(diào)用完成." ); } }, "這是處理結果:)" , TimeUnit.SECONDS); } } |
輸出的結果是:
/asynctask 調(diào)用!thread id is : 46
完成此任務需要 : 3 秒
異步調(diào)用執(zhí)行完成, thread id is : 47
由此可見返回結果的線程和請求處理線程不是同一線程。
還有個叫WebAsyncTask
返回DefferedResult<ModelAndView>并非唯一做法,還可以返回WebAsyncTask來實現(xiàn)“異步”,但略有不同,不同之處在于返回WebAsyncTask的話是不需要我們主動去調(diào)用Callback的,看例子:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
@RequestMapping (value= "/longtimetask" , method = RequestMethod.GET) public WebAsyncTask longTimeTask(){ System.out.println( "/longtimetask被調(diào)用 thread id is : " + Thread.currentThread().getId()); Callable<ModelAndView> callable = new Callable<ModelAndView>() { public ModelAndView call() throws Exception { Thread.sleep( 3000 ); //假設是一些長時間任務 ModelAndView mav = new ModelAndView( "longtimetask" ); mav.addObject( "result" , "執(zhí)行成功" ); System.out.println( "執(zhí)行成功 thread id is : " + Thread.currentThread().getId()); return mav; } }; return new WebAsyncTask(callable); } |
其核心是一個Callable<ModelAndView>,事實上,直接返回Callable<ModelAndView>都是可以的,但我們這里包裝了一層,以便做后面提到的“超時處理”。和前一個方案的差別在于這個Callable的call方法并不是我們直接調(diào)用的,而是在longTimeTask返回后,由Spring MVC用一個工作線程來調(diào)用,執(zhí)行,打印出來的結果:
/longtimetask被調(diào)用 thread id is : 56
執(zhí)行成功 thread id is : 57
可見確實由不同線程執(zhí)行的,但這個WebAsyncTask可不太符合“圖3”所描述的技術規(guī)格,它僅僅是簡單地把請求處理線程的任務轉交給另一工作線程而已。
處理超時
如果“長時間處理任務”一直沒返回,那我們也不應該讓客戶端無限等下去啊,總歸要弄個“超時”出來。如圖:
其實“超時處理線程”和“回調(diào)處理線程”可能都是線程池中的某個線程,我為了清晰點把它們分開畫而已。增加這個超時處理在Spring MVC中非常簡單,先拿WebAsyncTask那段代碼來改一下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
|
@RequestMapping (value= "/longtimetask" , method = RequestMethod.GET) public WebAsyncTask longTimeTask(){ System.out.println( "/longtimetask被調(diào)用 thread id is : " + Thread.currentThread().getId()); Callable<ModelAndView> callable = new Callable<ModelAndView>() { public ModelAndView call() throws Exception { Thread.sleep( 3000 ); //假設是一些長時間任務 ModelAndView mav = new ModelAndView( "longtimetask" ); mav.addObject( "result" , "執(zhí)行成功" ); System.out.println( "執(zhí)行成功 thread id is : " + Thread.currentThread().getId()); return mav; } }; WebAsyncTask asyncTask = new WebAsyncTask( 2000 , callable); asyncTask.onTimeout( new Callable<ModelAndView>() { public ModelAndView call() throws Exception { ModelAndView mav = new ModelAndView( "longtimetask" ); mav.addObject( "result" , "執(zhí)行超時" ); System.out.println( "執(zhí)行超時 thread id is :" + Thread.currentThread().getId()); return mav; } } ); return new WebAsyncTask( 3000 , callable); } |
注意看紅色字體部分代碼,這就是前面提到的為什么Callable還要外包一層的緣故,給WebAsyncTask設置一個超時回調(diào),即可實現(xiàn)超時處理,在這個例子中,正常處理需要3秒鐘,而超時設置為2秒,所以肯定會出現(xiàn)超時,執(zhí)行打印log如下:
/longtimetask被調(diào)用 thread id is : 59
執(zhí)行超時 thread id is :61
執(zhí)行成功 thread id is : 80
嗯?明明超時了,怎么還會“執(zhí)行成功”呢?超時歸超時,超時并不會打斷正常執(zhí)行流程,但注意,出現(xiàn)超時后我們給客戶端返回了“超時”的結果,那接下來即便正常處理流程成功,客戶端也收不到正常處理成功所產(chǎn)生的結果了,這帶來的問題就是:客戶端看到了“超時”,實際上操作到底有沒有成功,客戶端并不知道,但通常這也不是什么大問題,因為用戶在瀏覽器上再刷新一下就好了。:D
好,再來看DefferedResult方式的超時處理:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
|
@RequestMapping (value = "/asynctask" , method = RequestMethod.GET) public DeferredResult<ModelAndView> asyncTask() { DeferredResult<ModelAndView> deferredResult = new DeferredResult<ModelAndView>(2000L); System.out.println( "/asynctask 調(diào)用!thread id is : " + Thread.currentThread().getId()); longTimeAsyncCallService.makeRemoteCallAndUnknownWhenFinish( new LongTermTaskCallback() { @Override public void callback(Object result) { System.out.println( "異步調(diào)用執(zhí)行完成, thread id is : " + Thread.currentThread().getId()); ModelAndView mav = new ModelAndView( "remotecalltask" ); mav.addObject( "result" , result); deferredResult.setResult(mav); } }); deferredResult.onTimeout( new Runnable() { @Override public void run() { System.out.println( "異步調(diào)用執(zhí)行超時!thread id is : " + Thread.currentThread().getId()); ModelAndView mav = new ModelAndView( "remotecalltask" ); mav.addObject( "result" , "異步調(diào)用執(zhí)行超時" ); deferredResult.setResult(mav); } }); return deferredResult; } |
非常類似,對吧,我把超時設置為2秒,而正常處理需要3秒,一定會超時,執(zhí)行結果如下:
/asynctask 調(diào)用!thread id is : 48
完成此任務需要 : 3 秒
異步調(diào)用執(zhí)行超時!thread id is : 51
異步調(diào)用執(zhí)行完成, thread id is : 49
完全在我們預料之中。
異常處理
貌似沒什么差別,在Controller中的處理和之前同步模式的處理是一樣一樣的:
1
2
3
4
5
6
|
@ExceptionHandler (Exception. class ) public ModelAndView handleAllException(Exception ex) { ModelAndView model = new ModelAndView( "error" ); model.addObject( "result" , ex.getMessage()); return model; } |
還要再弄個全局的異常處理啥的,和過去的做法都一樣,在此不表了。
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持服務器之家。
原文鏈接:http://www.cnblogs.com/guogangj/p/5457959.html