Tomcat 配置与优化(内存、并发)

1.JVM内存配置优化

在应用服务器启动时,会将应用引用到的所有类通过ClassLoader依次全部加载到内存当中。Java的逻辑内存模型大致分为堆内存、栈内存、静态内存区,也称持久区,该区的内存不会被GC回收。堆内存用于存储类的实例、数组等引用类型数据,也就是用new生成的对象,都存放在这里,栈内存存储局部变量(如:方法参数),静态内存区存储常量、静态变量、类元数据信息(方法、属性等)。
开发当中常遇到的三类内存溢出异常:

  • java.lang.OutOfMemoryError: Java heap space异常
    堆内存空间满了,如果不是程序逻辑的bug,可能是因为项目中引用的jar比较多,导到内存溢出。JVM默认堆的最小使用内存为物理内存的1/64,最大使用内存为物理内存的1/4。通过调整JVM的-Xms(初始内存)和-Xmx(最大内存)两个参数加大内存使用限制。
  • java.lang.OutOfMemoryError: PermGen space异常
    静态内存区满了,通常是由于加载的类过多导致。jdk8以下版本通过修改JVM的-XX:PermSize-XX:MaxPermSize两个参数,限制静态区最小和最大内存范围。jdk8改变了内存模型,将类定义存放到了元数据(MetaspaceSize)空间,而元数据空间是与堆空间共享同一块内存区域的,所以在JDK8以后版本不会存在PermGen space异常了,故不用设置此参数。
  • java.lang.StackOverflowError异常
    表示栈内存溢出。通常是由于死循环、无限递归导致。

打开$TOMCAT_HOME/bin/catalina.sh文件,在JAVA_OPTS参数上添加内存参数设置即可修改Tomcat的内存配置。
Just like this:

JAVA_OPTS="$JAVA_OPTS -server -Xms2048m -Xmx2048m -XX:PermSize=128m -XX:MaxPermSize=256 -Djava.awt.headless=true"  
  • -server 参数:表示以服务模式启动,启动速度会稍微慢一点,但性能会高很多。不加这个参数,默认是以客户端模式启动。
  • java.awt.headless=true 参数:与图形操作有关,适用于linux系统。如生成验证码,含义是当前使用的是没有安装图安装图形界面的服务器,应用中如果获取系统显示有关参数会抛异常,可通过jmap -heap proccess_id查看设置是否成功。

2.并发配置优化

主要配置Tomcat能处理的请求数,当一个进程的线程数超过 500 个的话,那么这个进程的运行效率就很低了。表面上看线程越多处理的请求越多,其实过多的线程会占用 CPU 在不同线程之间切换的资源,导致CPU在每个线程上处理的时间片极期有限,反而会降低服务器的响应性能。

<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"  
               connectionTimeout="20000"
               redirectPort="8443" 

                maxThreads="500"
                minSpareThreads="100"
                maxSpareThreads="200"
                acceptCount="200"
                maxIdleTime="30000"
                enableLookups="false"
               />

Tomcat的并发请求处理数量 = maxThreads + acceptCount

  • protocol:连接运行模式,可以启用APR,以提高异步IO处理性能。
  • maxThreads:最大能接受的请求数,默认为200
  • minSpareThreads:最少备用线程数,默认初始化,默认为25
  • maxSpareThreads:最多备用线程数,一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程
  • acceptCount:等待处理的请求队列,默认为100,超过队列长度,服务器则拒绝客户端请求,直接返回403
  • maxIdleTime:如果一个线程在30秒以内没有活跃,则终止运行并从线程池中移除。除非线程池数量小于或等于 minSpareThreads 数量。默认值是1分钟
  • enableLookups:如果为true,调用request.getRemoteHost会执行DNS反查,反向解析IP对应的域名或主机,效率较低,建议设为false。

更多参数设置,请参考Tomcat官方文档:http://tomcat.apache.org/tomcat-8.0-doc/config/http.html

3.开启Tomcat APR运行模式,优化并发性能

3.1 Tomcat支持三种接收请求的处理方式:BIO、NIO、APR

1.BIO模式:
阻塞式I/O操作,表示Tomcat使用的是传统Java I/O操作(即java.io包及其子包)。Tomcat7以下版本默认情况下是以bio模式运行的,由于每个请求都要创建一个线程来处理,线程开销较大,不能处理高并发的场景,在三种模式中性能也最低。
2.NIO模式:
是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,它拥有比传统I/O操作(bio)更好的并发运行性能。要让Tomcat以nio模式来运行比较简单,只需要在$TOMCAT_HOME/conf/server.xml文件中将如下配置:

<Connector port="8080" protocol="HTTP/1.1"  
connectionTimeout="20000"  
redirectPort="8443" />  

修改成:

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"  
connectionTimeout="20000"  
redirectPort="8443" />  

注意:Tomcat8以上版本,默认使用的就是NIO模式,不需要额外修改
3.apr模式:
简单理解,就是从操作系统级别解决异步IO问题,大幅度的提高服务器的处理和响应性能,也是Tomcat运行高并发应用的首选模式。
启用这种模式稍微麻烦一些,需要安装一些依赖库。

3.2 启用 apr 模式步聚

3.2.1 安装 apr (需要提前下载相关 tar 包)

# apr
echo 'apr 安装开始...'  
mkdir ~/apr  
tar -xzvf apr-1.6.2.tar.gz -C ~/apr  
cd ~/apr/apr-1.6.2  
mkdir -p /usr/local/apr  
./configure --prefix=/usr/local/apr
make && make install && make clean && make distclean  
echo 'apr 安装成功'  
# apr dependence expact
yum install -y expat-devel  
echo 'apr-util 安装开始...'  
# apr-util
mkdir ~/apr  
tar -xzvf apr-util-1.6.0.tar.gz -C ~/apr  
cd ~/apr/apr-util-1.6.0  
mkdir -p /usr/local/apr-util  
./configure --prefix=/usr/local/apr-util --with-apr=/usr/local/apr
make && make install && make clean && make distclean  
echo 'apr-util 安装成功'  
echo 'apr-iconv 安装开始...'  
# apr-iconv
mkdir ~/apr  
tar -xzvf apr-iconv-1.2.1.tar.gz -C ~/apr  
cd ~/apr/apr-iconv-1.2.1  
mkdir -p /usr/local/apr-iconv  
./configure --prefix=/usr/local/apr-iconv --with-apr=/usr/local/apr
make && make install && make clean && make distclean  
# openssl
yum install -y openssl-devel  
echo 'apr-iconv 安装成功'  
echo 'tomcat-native 安装开始...'  
# tomcat-native
cd ~ && mv /opt/storage/refs/tomcat-native-1.1.27-src.tar.gz ./  
tar -xzvf tomcat-native-1.1.27-src.tar.gz -C ~/apr  
cd ~/apr/tomcat-native-1.1.27-src/jni/native  
mkdir -p /usr/local/tomcat-native  
./configure --with-apr=/usr/local/apr  --with-java-home=/opt/jdlserver_prd/jdk1.7.0_67 --prefix=/usr/local/tomcat-native
make && make install && make clean && make distclean  
echo 'tomcat-native 安装成功...'  

3.2.2 设置环境变量

# 设置环境变量
echo 'LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/tomcat-native/lib  
export LD_LIBRARY_PATH' >> /etc/profile  
#使环境变量生效
source /etc/profile  

还有一种方法: 编辑$TOMCAT_HOME/bin/catalina.sh文件,在JAVA_OPTS中添加java.library.path参数,指定 apr 库的路径

JAVA_OPTS="$JAVA_OPTS -Djava.library.path=/usr/local/apr/lib"  

3.2.3 修改server.xml

Tomcat8以下版本,需要指定运行模式,将 protocol 从 HTTP/1.1 改成org.apache.coyote.http11.Http11AprProtocol

<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"  
connectionTimeout="20000"  
redirectPort="8443" />  

如果没有配置 SSL 相关参数,并且开启了SSL,启动时会发生org.apache.tomcat.jni.Error: 70023: This function has not been implemented on this platform异常: 如果不想启用SSL,将server.xml中apr模式下 ssl 关闭即可:

<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="off" />  

Tomcat 6.x版本从6.0.32开始就默认支持apr。 Tomcat 7.x版本从7.0.30开始就默认支持apr。
因此,如果使用的Tomcat版本比较陈旧的话,强烈建议升级到最新的稳定版本。

参考:
Tomcat配置与优化(内存、并发、管理)
开启Tomcat APR运行模式,优化并发性能