思路：對(duì)高并發(fā)的接口，單獨(dú)配置線程池。需考慮線程池內(nèi)的線程數(shù)量，以及tomcat總線程數(shù)量與CPU的關(guān)系。

線程池的配置

接口如何配置單獨(dú)的線程池

異步任務(wù) @Async(“myExecutors”)

對(duì)實(shí)時(shí)性要求高的

分析下：實(shí)時(shí)就是同步，每一次請(qǐng)求就是一條線程，高并發(fā)就意味著同時(shí)運(yùn)行大量線程，大量線程意味著對(duì)CPU時(shí)間片的搶奪會(huì)變多，導(dǎo)致CPU使用率飆升，同時(shí)IO運(yùn)算較多也會(huì)導(dǎo)致內(nèi)存占用飆升。總結(jié)一下就是，單機(jī)是有瓶頸的，我們要測(cè)出單機(jī)的并發(fā)瓶頸，然后使用多機(jī)部署（集群or微服務(wù)）

QPS://todo

TPS://todo

怎么集群

//todo

怎么微服務(wù)

//todo

對(duì)實(shí)時(shí)性要求不高的

⑴ 設(shè)置接口冪等性，返回唯一ID，讓調(diào)用方通過(guò)ID查詢此次的運(yùn)行結(jié)果（這里用UUID標(biāo)識(shí)的唯一ID，正式項(xiàng)目用 SnowFlake）

    @ApiOperation("測(cè)試SUCCESS")
    @RequestMapping("/success")
    @WebLog(description = "請(qǐng)求了測(cè)試接口")
    @Async("myExecutors")
    public ResultVo testSuccess(@ApiParam("入?yún)?) @RequestBody TestVo testVo) {
        //業(yè)務(wù)邏輯處理
        String resultCode = service.run();
        return new ResultVo(resultCode, testVo.getID());
    }

（2）提供回調(diào)，調(diào)用方傳入需要回調(diào)的接口地址，待異步執(zhí)行后，把結(jié)果返回

@ApiOperation("測(cè)試SUCCESS")
@RequestMapping("/success")
@WebLog(description = "請(qǐng)求了測(cè)試接口")
@Async("myExecutors")
public void testSuccess(@ApiParam("入?yún)?) @RequestBody TestVo testVo) {
         //業(yè)務(wù)邏輯處理
        String resultCode = service.run();
    	//結(jié)果回調(diào)
    	AsyncUtil.callBack(testVo.getUrl(),new ResultVo(ResultEnum.SUCCESS, testVo.getID()));
}

線程池的選擇

• 使用ThreadPoolExecutor,不要用Executors,具體原因網(wǎng)上搜，一堆

• BlockingQueue對(duì)應(yīng)三種，ArrayBlockingQuere:需要自己設(shè)置隊(duì)列的容量，隊(duì)列滿了以后，將會(huì)開(kāi)始創(chuàng)建maxPoolSize允許的線程數(shù)；LinkedBlockingQueue:隊(duì)列的容量默認(rèn)設(shè)置成了Integer.MaxValue;SynchronousQueue:不存儲(chǔ)元素的隊(duì)列，會(huì)直接給線程，使用它的話，線程數(shù)量很容易達(dá)到maxPoolSize;

單個(gè)線程池的線程數(shù)量設(shè)置

不要相信什么CPU數(shù)量+1，CPU數(shù)量 X 2 這種公式

理應(yīng)通過(guò)排查當(dāng)前服務(wù)器cpu使用率和負(fù)載，對(duì)要使用線程的任務(wù)進(jìn)行壓測(cè)，通過(guò)不斷的調(diào)整CPU使用率和線程數(shù)，達(dá)到一個(gè)領(lǐng)自己滿意的數(shù)值，這才是最適合的線程數(shù)量，如果非要給一個(gè)初始值，那么就是核的數(shù)量吧，然后反復(fù)調(diào)整，確定最終的值。

top：命令查詢cpu使用率

cpuinfo:文件里查看核心數(shù)

線程總數(shù)量和CPU的關(guān)系

linux中，對(duì)于進(jìn)程所擁有的的線程數(shù)有限制，一個(gè)進(jìn)程最大線程數(shù)為1024

Tomcat和請(qǐng)求的關(guān)系

#最大隊(duì)列數(shù)
server.tomcat.accept-count=100
#最大鏈接數(shù)
server.tomcat.max-connections=8192
#最大線程數(shù)
server.tomcat.max-threads=100

• tomcat的最大線程數(shù)，可以決定同時(shí)處理客戶端的請(qǐng)求數(shù)量。
• 最大連接數(shù)一定要大于最大線程數(shù)，否則會(huì)有很多請(qǐng)求無(wú)響應(yīng)