如何设置tomcat线程池大小？

MartinHan 发布于2019-08-14 12:32 / 1321人阅读

摘要：背景在我们的日常开发中都涉及到使用做为服务器，但是我们该设置多大的线程池呢以及根据什么原则来设计这个线程池呢接下来，我将介绍本人是怎么设计以及计算的。

背景

在我们的日常开发中都涉及到使用tomcat做为服务器，但是我们该设置多大的线程池呢？以及根据什么原则来设计这个线程池呢？接下来，我将介绍本人是怎么设计以及计算的。

具体方法

众所周知，tomcat接受一个request后处理过程中，会涉及到cpu和IO时间。其中IO等待时间，cpu被动放弃执行，其他线程就可以利用这段时间片进行操作。所以我们可以采用服务器IO优化的通用规则。
线程大小 = ( (线程io时间 + 线程cpu) / 线程cpu time) * cpu核数

举例

线程io时间为100ms(IO操作比如数据库查询，同步远程调用等)，线程cpu时间10ms，服务器物理机核数为4个。通过上面的公式，我们计算出来的大小是 ((100 + 10 )/10 ) *4 = 44。理论上我们有依据，但是实际计算过程中我们怎么知道线程IO时间和cpu时间呢？这个就涉及到实际编码过程中的怎么样监控处理时间啦。

通过java 实现内置的filter接口，我们可以拿到一个request消耗的总时间

public class MoniterFilter implements Filter {
  
    @Override
    public void doFilter(ServletRequest request, ServletResponse response,  
                            FilterChain chain) throws IOException,
                             ServletException {
        long start = System.currentTimeMillis();
        String params = getQueryString(httpRequest);
        try {
            chain.doFilter(httpRequest, httpResponse);
        } finally {
            logger.info("access url [{}{}], cost time [{}] ms )", uri, 
                        params, cost);
        }
  
    private String getQueryString(HttpServletRequest req) {
        StringBuilder buffer = new StringBuilder("?");
        Enumeration emParams = req.getParameterNames();
        try {
            while (emParams.hasMoreElements()) {
                String sParam = emParams.nextElement();
                String sValues = req.getParameter(sParam);
                buffer.append(sParam).append("=").append(sValues).append("&");
            }
            return buffer.substring(0, buffer.length() - 1);
        } catch (Exception e) {
        }
        return "";
    }
}

通过添加切面来监控线程IO耗时（jdk，cglib）

public class DaoInterceptor implements MethodInterceptor {

    private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class);

    @Override
    public Object invoke(MethodInvocation invocation) throws Throwable {
        StopWatch watch = new StopWatch();
        watch.start();
        Object result = null;
        Throwable t = null;
        try {
            result = invocation.proceed();
        } catch (Throwable e) {
            t = e == null ? null : e.getCause();
            throw e;
        } finally {
            watch.stop();
            logger.info("({}ms)", watch.getTotalTimeMillis());

        }

        return result;
    }
}

通过上述代码就可以计算出相应时间，从而计算出线程大小啦。但是我们就到此为止了吗？
其实还没有，计算出的数值只是存在理论情况下，我们还是需要通过压测工具（Jmeter）来压测一下线服务器，同时根据qps值来动态微调刚才计算出的线程池大小。

云服务器 GPU云服务器 java线程池大小 java线程池设置 java线程池参数设置 java如何创建线程池

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/64536.html

几种限流技术

摘要：下面是几种常见的限流技术一限流算法常用的限流算法有令牌桶，漏桶令牌桶令牌桶算法是网络流量整形和速率限制中最常使用的一种算法。就秒杀接口来说，当访问频率或者并发请求超过其承受范围的时候，这时候我们就要考虑限流来保证接口的可用性，以防止非预期的请求对系统压力过大而引起的系统瘫痪。通常的策略就是拒绝多余的访问，或者让多余的访问排队等待服务。下面是几种常见的限流技术一、限流算法常用的限流算...

Warren 2019-08-16 17:30 评论0 收藏0
Tomcat使用线程池配置高并发连接

摘要：配置重要参数说明表示使用该参数值对应的线程池服务器启动时创建的处理请求的线程数最大可以创建的处理请求的线程数指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理。 1：配置executor属性打开/conf/server.xml文件，在Connector之前配置一个线程池：重要参数说明：name：共享线程池的名字。这是Conn...

Meathill 2019-08-19 10:23 评论0 收藏0
Tomcat 7 server.xml 配置文件详解

摘要：每个可以创建一个线程池，但是可以在以及其他组件之间共享，只要那些组件配置之后支持。线程池最大活跃线程数量，默认。如果配置了组件防止泄露的监听器，它会通知停止环境。如果未指定此属性，会使用一个私有的内部来提供线程池。概览 Tomcat7作为Servlet/JSP容器，它的全部行为的配置指令，包含在/conf/server.xml文件中，这个文件是一个无预定义结构的XML文件，所有的属性...

crossoverJie 2019-08-14 17:56 评论0 收藏0