技术

并发的成本 基础设施优化 hashicorp raft源码学习 docker 架构 mosn细节 与微服务框架整合 Java动态代理 编程范式 并发通信模型 《网络是怎样连接的》笔记 go细节 codereview mat使用 jvm 线程实现 go打包机制 go interface及反射 如何学习Kubernetes 《编译原理之美》笔记——后端部分 《编译原理之美》笔记——前端部分 Pilot MCP协议分析 go gc 内存管理玩法汇总 软件机制 istio流量管理 Pilot源码分析 golang io 学习Spring mosn源码浅析 MOSN简介 《datacenter as a computer》笔记 学习JVM Tomcat源码分析 Linux可观测性 MVCC 学习存储 学计算 Gotty源码分析 kubernetes operator kaggle泰坦尼克问题实践 kubernetes自动扩容缩容 神经网络模型优化 直觉上理解机器学习 knative入门 如何学习机器学习 神经网络系列笔记 TIDB源码分析 《阿里巴巴云原生实践15讲》笔记 Alibaba Java诊断工具Arthas TIDB存储——TIKV 《Apache Kafka源码分析》——简介 netty中的线程池 guava cache 源码分析 Springboot 启动过程分析 Spring 创建Bean的年代变迁 Linux内存管理 自定义CNI IPAM 扩展Kubernetes 副本一致性 spring redis 源码分析 kafka实践 spring kafka 源码分析 Linux进程调度 让kafka支持优先级队列 Codis源码分析 Redis源码分析 C语言学习 《趣谈Linux操作系统》笔记 docker和k8s安全机制 jvm crash分析 Prometheus 学习 Kubernetes监控 Kubernetes 控制器模型 容器日志采集 容器狂占cpu怎么办? 容器狂打日志怎么办? Kubernetes资源调度——scheduler 时序性数据库介绍及对比 influxdb入门 maven的基本概念 《Apache Kafka源码分析》——server Kubernetes objects之编排对象 源码分析体会 自动化mock AIOps说的啥 《数据结构与算法之美》——算法新解 Kubernetes源码分析——controller mananger Kubernetes源码分析——apiserver Kubernetes源码分析——kubelet Kubernetes介绍 ansible学习 Kubernetes源码分析——从kubectl开始 jib源码分析之Step实现 kubernetes实践 jib源码分析之细节 线程排队 跨主机容器通信 jib源码分析及应用 为容器选择一个合适的entrypoint kubernetes yaml配置 marathon-client 源码分析 《持续交付36讲》笔记 mybatis学习 程序猿应该知道的 无锁数据结构和算法 CNI 为什么很多业务程序猿觉得数据结构和算法没用? 串一串一致性协议 当我在说PaaS时,我在说什么 《数据结构与算法之美》——数据结构笔记 swagger PouchContainer技术分享体会 harbor学习 用groovy 来动态化你的代码 《深入剖析kubernetes》笔记 精简代码的利器——lombok 学习 编程语言的动态性 rxjava3——背压 rxjava2——线程切换 spring cloud 初识 《深入拆解java 虚拟机》笔记 《how tomcat works》笔记 hystrix 学习 rxjava1——概念 Redis 学习 TIDB 学习 分布式计算系统的那些套路 Storm 学习 AQS1——论文学习 Unsafe Spark Stream 学习 linux vfs轮廓 mysql 批量操作优化 《自己动手写docker》笔记 java8 实践 中本聪比特币白皮书 细读 区块链泛谈 比特币 大杂烩 总纲——如何学习分布式系统 hbase 泛谈 forkjoin 泛谈 看不见摸不着的cdn是啥 《jdk8 in action》笔记 程序猿视角看网络 bgp初识 mesos 的一些tips mesos 集成 calico calico学习 AQS2——粗略的代码分析 我们能用反射做什么 web 跨域问题 《clean code》笔记 硬件对软件设计的影响 《Elasticsearch权威指南》笔记 mockito简介及源码分析 2017软件开发小结—— 从做功能到做系统 《Apache Kafka源码分析》——clients dns隐藏的一个坑 《mysql技术内幕》笔记2 《mysql技术内幕》笔记1 log4j学习 为什么netty比较难懂? 回溯法 apollo client源码分析及看待面向对象设计 学习并发 从一个marathon的问题开始的 docker 环境(主要运行java项目)常见问题 Scala的一些梗 OpenTSDB 入门 spring事务小结 事务一致性 javascript应用在哪里 《netty in action》读书笔记 netty对http2协议的解析 ssl证书是什么东西 http那些事 苹果APNs推送框架pushy apple 推送那些事儿 编写java框架的几大利器 java内存模型 java exception Linux IO学习 network channel network byte buffer 测试环境docker化实践 netty(七)netty在框架中的使用套路 Nginx简单使用 《Linux内核设计的艺术》小结 Go并发机制及语言层工具 mesos深入 Macvlan Linux网络源代码学习——数据包的发送与接收 《docker源码分析》小结 docker中涉及到的一些linux知识 hystrix学习 Linux网络源代码学习——整体介绍 zookeeper三重奏 数据库的一些知识 Spark 泛谈 链式处理的那些套路 netty(六)netty回顾 Thrift基本原理与实践(二) Thrift基本原理与实践(一) 回调 异步执行抽象——Executor与Future Docker0.1.0源码分析 java gc Jedis源码分析 Redis概述 机器学习泛谈 Linux网络命令操作 JTA与TCC 换个角度看待设计模式 Scala初识 向Hadoop学习NIO的使用 以新的角度看数据结构 并发控制相关的硬件与内核支持 systemd 简介 那些有用的sql语句 异构数据库表在线同步 quartz 源码分析 基于docker搭建测试环境(二) spring aop 实现原理简述 自己动手写spring(八) 支持AOP 自己动手写spring(七) 类结构设计调整 分析log日志 自己动手写spring(六) 支持FactoryBean 自己动手写spring(九) 总结 自己动手写spring(五) bean的生命周期管理 自己动手写spring(四) 整合xml与注解方式 自己动手写spring(三) 支持注解方式 自己动手写spring(二) 创建一个bean工厂 自己动手写spring(一) 使用digester varnish 简单使用 关于docker image的那点事儿 基于docker搭建测试环境 分布式配置系统 JVM内存与执行 git spring rmi和thrift maven/ant/gradle使用 再看tcp mesos简介 缓存系统 java nio的多线程扩展 《Concurrency Models》笔记 回头看Spring IOC IntelliJ IDEA使用 Java泛型 vagrant 使用 Go常用的一些库 Python初学 Goroutine 调度模型 虚拟网络 《程序员的自我修养》小结 VPN(Virtual Private Network) Kubernetes存储 Kubernetes 其它特性 访问Kubernetes上的Service Kubernetes副本管理 Kubernetes pod 组件 使用etcd + confd + nginx做动态负载均衡 如何通过fleet unit files 来构建灵活的服务 CoreOS 安装 CoreOS 使用 Go学习 JVM类加载 硬币和扑克牌问题 LRU实现 virtualbox 使用 ThreadLocal小结 docker快速入门

标签


docker 环境(主要运行java项目)常见问题

2017年08月25日

问题列表

1 容器有时会莫名其妙重启

环境:marathon + mesos + docker 集群

现象:容器有时会莫名其妙重启

debug过程

  1. marathon debug tab页发现:Container exited with status 137

  2. 根据mesos link 查看error日志,无收获

  3. 找到最后一次失败所在的物理机test-a3-60-17,并登陆

  4. docker ps -a找到那个失败的容器id812c82c5a7a5,并未发现异常日志,应该不是容器业务本身的原因。

  5. 复制容器id,cat /var/log/messages | grep 812c82c5a7a5 -n确定相关日志的大致行号范围

  6. sed -n 'start_line,end_line p' /var/log/messages看看docker最后发出该容器的信息之前,都发生了什么。

日志内容为

Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff816861cc>] dump_stack+0x19/0x1b
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff81681177>] dump_header+0x8e/0x225
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff811842b6>] ? find_lock_task_mm+0x56/0xc0
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff8118476e>] oom_kill_process+0x24e/0x3c0
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff8118420d>] ? oom_unkillable_task+0xcd/0x120
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff810937ee>] ? has_capability_noaudit+0x1e/0x30
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff811f3131>] mem_cgroup_oom_synchronize+0x551/0x580
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff811f2580>] ? mem_cgroup_charge_common+0xc0/0xc0
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff81184ff4>] pagefault_out_of_memory+0x14/0x90
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff8167ef67>] mm_fault_error+0x68/0x12b
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff81691ed5>] __do_page_fault+0x395/0x450
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff81691fc5>] do_page_fault+0x35/0x90
Aug 25 18:21:35 test-a3-60-17 kernel: [<ffffffff8168e288>] page_fault+0x28/0x30
Aug 25 18:21:35 test-a3-60-17 kernel: Task in /docker/812c82c5a7a5ae054e6f242215bdc4415a2d9b690768962a7bcd8d4676b16f60 killed as a result of limit of /docker/812c82c5a7a5ae054e6f242215bdc4415a2d9b690768962a7bcd8d4676b16f60
Aug 25 18:21:35 test-a3-60-17 kernel: memory: usage 4194304kB, limit 4194304kB, failcnt 25581
Aug 25 18:21:35 test-a3-60-17 kernel: memory+swap: usage 4194304kB, limit 8388608kB, failcnt 0
Aug 25 18:21:35 test-a3-60-17 kernel: kmem: usage 0kB, limit 9007199254740988kB, failcnt 0
Aug 25 18:21:35 test-a3-60-17 kernel: Memory cgroup stats for /docker/812c82c5a7a5ae054e6f242215bdc4415a2d9b690768962a7bcd8d4676b16f60: cache:52KB rss:4194252KB rss_huge:1277952KB mapped_file:0KB swap:0KB inactive_anon:939800KB active_anon:3254256KB inactive_file:8KB active_file:0KB unevictable:0KB
Aug 25 18:21:35 test-a3-60-17 kernel: [ pid ]   uid  tgid total_vm      rss nr_ptes swapents oom_score_adj name
Aug 25 18:21:35 test-a3-60-17 kernel: [76513]     0 76513  6553193  1047384    2363        0             0 java
Aug 25 18:21:35 test-a3-60-17 kernel: Memory cgroup out of memory: Kill process 76756 (java) score 1001 or sacrifice child
Aug 25 18:21:35 test-a3-60-17 kernel: Killed process 76513 (java) total-vm:26212772kB, anon-rss:4189536kB, file-rss:0kB, shmem-rss:0kB
Aug 25 18:21:35 test-a3-60-17 dockerd: time="2017-08-25T18:21:35.949063698+08:00" level=error msg="containerd: deleting container" error="exit status 1: \"container 812c82c5a7a5ae054e6f242215bdc4415a2d9b690768962a7bcd8d4676b16f60 does not exist\\none or more of the container deletions failed\\n\""
Aug 25 18:21:35 test-a3-60-17 mesos-slave[2905]: I0825 18:21:35.965833  2952 slave.cpp:3634] Handling status update TASK_FAILED (UUID: 031c0691-0dd0-4030-872e-d7d210c554c4) for task deploy-to-docker-business-product-rpc-test.a22e5797-897e-11e7-9837-f2f3c189fa2c of framework d637e32a-a1df-43eb-adaf-b1d2e3d6235a-0000 from executor(1)@192.168.60.17:38672

可以看到,在mesos和docker containerd对812c82c5a7a5做出反应之前,kerner因为内存限制的缘故,kill掉了一个进程。

如果有机会找到76513和812c82c5a7a5的对应关系,问题基本就可以确认了。

解决方法:增加内存

但是!

java项目增大内存是不解决问题的

参见

  1. Java and Docker, the limitations 在java9/10 以后jvm 对container提供了原生支持。There’s an experimental support in the JVM that has been included in JDK9 to support cgroup memory limits in container (i.e. Docker) environments. Check it out: http://hg.openjdk.java.net/jdk9/jdk9/hotspot/rev/5f1d1df0ea49

  2. 在 Docker 里跑 Java,趟坑总结, jvm无法感知到自己在容器中进行,默认,堆的上限是物理机内存的四分之一,当容器的jvm没有设置xmx,即便容器内存设置的很大,也没有解决问题,导致容器会周期性重启(没有gc,逐渐累积到容器内存的限制值)。结论:要管控jvm 堆大小等参数,或使用特殊镜像。

  3. 在docker中使用java的内存情况提到了容器内存与jvm堆内存的基本关系。Max memory = [-Xmx] + [-XX:MaxPermSize] + number_of_threads * [-Xss].在设置jvm启动参数的时候 -Xmx的这个值一般要小于docker限制内存数,个人觉得 -Xmx:docker的比例为 4/5 - 3/4

提到docker 与 虚拟机的区别时, 常常会说“虚拟”和“隔离”的区别。假设一个16g内存的物理机,那么创建一个2g内存的虚拟机和2g内存容器,其jvm的表现便会有所不同。Java inside docker: What you must know to not FAIL some applications that collect information from the execution environment have been implemented before the existence of cgroups. Tools like ‘top‘, ‘free‘, ‘ps‘, and even the JVM ** is not optimized for executing inside a container**, a highly-constrained Linux process. Let’s check it out.

单单设置xmx 也是不够的

针对场景:容器设置为1g内存,jvm堆占用80%

一般在生产环境下有个建议,xms与xmx设置为一样:For servers, both params should have the same value to avoid heap resizing during runtime. 这种方式在测试环境下 会导致一个问题:项目启动便占用820m内存。因为测试环境负载不是很高,大部分项目都在“待机”状态,占用820M有点浪费了。为节省内存占用,在测试环境下要设置xms

  含义 默认值  
xms 初始堆大小 物理内存的1/64 默认(MinHeapFreeRatio参数可以调整)空余堆内存小于40%时,JVM就会增大堆直到-Xmx的最大限制.
xmx 最大堆大小 物理内存的1/4 默认(MaxHeapFreeRatio参数可以调整)空余堆内存大于70%时,JVM会减少堆直到 -Xms的最小限制

若想进一步降低内存占用,可以进一步抬高MinHeapFreeRatio的值,降低MaxHeapFreeRatio的值,但这样会增大jvm resize heap的次数

cpu

有赞容器化实践

美团容器平台架构及容器技术实践

jvm 在容器内看到的cpu数不准确,会导致什么问题呢?jvm 以及很多 Java sdk 会根据系统的 CPU 数来决定创建多少线程,比如ParallelGC线程数,这就会导致JVM启动过多的GC线程,直接的结果就导致GC性能下降。Java服务的感受就是延时增加,监控曲线突刺增加,吞吐量下降。

Linux有两种IO:Direct IO和Buffered IO。Direct IO直接写磁盘,Duffered IO会先写到缓存再写磁盘,大部分场景下都是Buffered IO。美团使用的Linux内核3.X,社区版本中所有容器Buffer IO共享一个内核缓存,并且缓存不隔离,没有速率限制,导致高IO容器很容易影响同主机上的其他容器。

很多方面,容器内应用无法感知容器的存在,此外,容器间也在不常见的地方相互影响着。此时需要更改glibc、更深入点比如内核等。大厂的玩的深,小厂表示,有点跟不动了。

jar冲突

tomcat启动遇到NoSuchMethodError错误的排查思路

一次日志打印错乱引出对jvm加载jar包顺序的研究

Understanding class path wildcards

The order in which the JAR files in a directory are enumerated in the expanded class path is not specified and may vary from platform to platform and even from moment to moment on the same machine. A well-constructed application should not depend upon any particular order. If a specific order is required, then the JAR files can be enumerated explicitly in the class path.

大意为:同一个目录下,jvm加载jar包顺序是无法保证的,每个系统的都不一样,甚至同一个系统不同的时刻加载都不一样。

所以问题便来了,很多开发经常抱怨:为什么我的代码可以本地启动成功,到docker环境就不可以。

为此,对于java 启动命令 java -cp /app/resources:/app/classes:/app/libs/.* $mainclass 将其扩充为 java -cp /app/resources:/app/classes:$custom_classpath:/app/libs/.* $mainclass。同一个/app/libs/.* 中的jar 加载顺序无法保证,那便将自定义classpath 提前。

设置磁盘限额(还不是特别懂)

猪八戒网DevOps容器云与流水线

做好容器磁盘使用的限制,不要相信你们的开发,你不知道他们会向容器里输出什么

  1. 应用日志做好轮转
  2. 限制docker stdout标准输出,可以使用Docker的参数配置;
  3. 限制容器rootfs,目前DeviceMapper存储驱动支持较好;
  4. 限制所有挂载到容器的数据卷,不要让一个容器坏掉整个节点;
  5. 并且为节点添加自动驱逐参数,新版本kubelet是默认启用的。

在安装Docker时,使用Devicemapper驱动安装,会默认限制大小10G

Container stuck, can’t be stopped or killed, can’t exec into it either

jdk6 编译的项目运行在jdk8上

  1. 代码本身经由jdk6编译,运行在jdk8上
  2. 代码依赖的jar由jdk6编译

在docker-ce 1.3 以下会出现docker ps可以看到,但容器内jvm进程已经退出的情况。升级到docker-ce 1.7 仍未解决该问题。

2017.12.05 更新

现象描述:

  1. marathon ==> mesos 尝试杀死容器,但杀死失败
  2. docker ps可以看到容器
  3. docker exec无法进入容器
  4. docker rm可以移除容器
  5. journalctl -xe -u docker.service 可以看到:

     time="2017-12-05T10:14:01.066063275+08:00" level=info msg="Container 8f8020e79b13bcbf40298d3c9680cd1a838e16dc810ef3b1357eb3e75f78ef99 failed to exit within 120 seconds
     time="2017-12-05T10:14:01.066755930+08:00" level=warning msg="container kill failed because of 'container not found' or 'no such process': Cannot kill container 8f8020
     time="2017-12-05T10:14:11.067151142+08:00" level=info msg="Container 8f8020e79b13 failed to exit within 10 seconds of kill - trying direct SIGKILL"
     time="2017-12-05T12:52:58.017517865+08:00" level=error msg="Error running exec in container: containerd: container not found"
    

通过观察容器中运行的tomcat日志,可以看到,10:12,docker向容器发送 term signal,tomcat 开始stop,docker logs --tail 200 8f8020e79b13日志如下

[album-facade]10:12:02 420 INFO  org.springframework.beans.factory.support.DefaultListableBeanFactory:444 - Destroying singletons in org.springframework.beans.factory.support.DefaultListableBeanFactory@b342fcf: defining beans [mvcContentNegotiationManager,org.springframework.web.servlet.mvc.method.annotation.RequestMappingHandlerMapping#0,org.springframework.format.support.FormattingConversionServiceFactoryBean#0,org.springframework.web.servlet.mvc.method.annotation.RequestM...
Dec 5, 2017 10:12:05 AM org.apache.catalina.loader.WebappClassLoader checkThreadLocalMapForLeaks
SEVERE: The web application [/album-facade] created a ThreadLocal with key of type [java.lang.ThreadLocal] (value [java.lang.ThreadLocal@64de4a8c]) and a value of type [com.ibatis.sqlmap.engine.mapping.result.ResultObjectFactoryUtil.FactorySettings] (value [com.ibatis.sqlmap.engine.mapping.result.ResultObjectFactoryUtil$FactorySettings@70748134]) but failed to remove it when the web application was stopped. This is very likely to create a memory leak.
Dec 5, 2017 10:12:15 AM org.apache.coyote.http11.Http11Protocol destroy
INFO: Stopping Coyote HTTP/1.1 on http-8080

tomcat花了12秒停掉,但是docker认为容器还未停掉,等了120s到10:14,尝试kill,10s后仍然失败,然后任何对容器的操作就container not found。可能原因:移除容器的操作确实开始执行,但到了某一个步骤卡住或失败,导致一部分数据结构显示docker还在,但另一个部分数据结构已经删掉了。

docker认为容器一直“活着”,但主进程已经退出了。所以,主进程退出不等于容器退出。主进程退出后,docker还要回收各种资源,比如volume等等,耗时太长,或者干脆操作失败。

docker kill 失败,docker rm 成功,具体原因仍需解决!

Can’t stop docker container #35933 仍待解决。

2018.05.22补充, mesos 升级为1.6.0 时,可以强杀 该容器,算是变相解决了该问题。

3 docker 停住

环境:

  1. ubuntu 16.04
  2. kernel 4.4.0
  3. docker 17.09-ce

12月13日下午排查时发现

  1. docker 日志停留在 12.12 18.52
  2. docker rm 容器无法remove掉
  3. docker 无法停掉,systemctl stop docker卡住
  4. kill docker 所有进程,rm /var/lib/docker 时,部分文件无法删除,deivce or resource is busy
  5. /var/log/kern.log 大量的

     [1055520.745390] unregister_netdevice: waiting for veth54a2de6 to become free. Usage count = 1
     Dec 13 15:53:58 test-a1-60-36 kernel: [1055530.985735] unregister_netdevice: waiting for veth54a2de6 to become free. Usage count = 1
     Dec 13 15:54:09 test-a1-60-36 kernel: [1055541.226086] unregister_netdevice: waiting for veth54a2de6 to become free. Usage count = 1
     Dec 13 15:54:19 test-a1-60-36 kernel: [1055551.466446] unregister_netdevice: waiting for veth54a2de6 to become free. Usage count = 1
    

60.36 ad 项目日志打了4t

解决 Swarm Kernel Panic after “unregister_netdevice”,升级了内核版本到4.14.5

4 docker pull 镜像失败

一开始认为是权限不够,后来发现同样配置的其它机器没有问题,同时将images server地址配置为了insecurity-registry。后来一个很偶然的原因发现整个物理机的磁盘都满了。

df -h 查看整个磁盘的占用情况。docker 还有一个现象

Filesystem      Size  Used Avail Use% Mounted on
udev             32G     0   32G   0% /dev
tmpfs           6.3G  675M  5.7G  11% /run
/dev/sda3       7.1T  217G  6.5T   4% /
tmpfs            32G   12K   32G   1% /dev/shm
tmpfs           5.0M     0  5.0M   0% /run/lock
tmpfs            32G     0   32G   0% /sys/fs/cgroup
/dev/sda2       181M  126M   43M  75% /boot
overlay         7.1T  217G  6.5T   4% /var/lib/docker/overlay2/45cdd4a0e6f230a0018ed098edb136b56b4994143eb585f9f5fa5eb36921825d/merged
shm              64M     0   64M   0% /var/lib/docker/containers/7ec38089c44abdd72b4fa208f66415bbd6fe49d1bf468419764ed50724f932a2/shm
overlay         7.1T  217G  6.5T   4% /var/lib/docker/overlay2/49f77221ecc6424de4a3523862a16b1a061621f25f1d1537f519eb33ac2d9e55/merged
shm              64M     0   64M   0% /var/lib/docker/containers/4d50cb3eb2cd73c0e951df190299c0e0fdff87dd51c4a371c5b8a0c15706435b/shm
overlay         7.1T  217G  6.5T   4% /var/lib/docker/overlay2/0f5d0f0db15bb500ad4c881ad200934d0ab9f2511e2be17dca3ec456e0ea5829/merged
shm              64M     0   64M   0% /var/lib/docker/containers/ae687ad77a157b2b1e1ad8137a1fec92f65926c66fd0675eac6f1b908d98eedf/shm

具体到某一个/var/lib/docker/overlay2/45cdd4a0e6f230a0018ed098edb136b56b4994143eb585f9f5fa5eb36921825d/merged 之类的文件夹,其磁盘使用情况与物理机磁盘/dev/sda3 是一致的。笔者一开始不知道这个情况,尝试分析 45cdd4a0e6f 归哪个容器所有:docker ps | awk '{print $1}' | xargs docker inspect | grep 45cdd4a0e6f

发现磁盘占满后,du -sh * 逐步查看耗费空间最大的文件(不要直接使用du -sh /

$ cd /
$ du -sh *
$ cd /var
$ du -sh *
$ cd /var/log
$ du -sh *

后来发现是某一个项目日志打的太多了,在此建议测试环境配置定时任务,周期性的清理掉项目的日志。

5 项目启动是访问mysql 失败

运行在 docker 18.03.0-ce 的服务,启动时报连接 mysql 超时(如上图所示)。而较老版本17.09.0-ce 则无此问题。

第一回合

怀疑项目启动连接数据库时,容器还未准备好网络。

因此呢,可以修改 c3p0 连接池配置,使 initialPoolSize=0。initialPoolSize 表示连接池初始化时创建的连接数,为0后,c3p0会在第一次接收用户请求时 才建立连接。

结果,没有用

第二回合

验证办法,实现一个BeanFactoryPostProcessor子类,其回调方法 postProcessBeanFactory 执行一个类似ping 的方法

public void ping() {
    int timeOut = 3000;  //超时应该在3钞以上
    boolean status = false;     // 当返回值是true时,说明host是可用的,false则不可。
    try {
        status = InetAddress.getByName("192.168.x.x").isReachable(timeOut);
    } catch (IOException e) {
        e.printStackTrace();
    }
    System.out.println("docker is reachable " + status);
    log.info("docker is reachable {}", status);
}

java doc 对 postProcessBeanFactory 的解释 为 Modify the application context’s internal bean factory after its standard initialization. All bean definitions will have been loaded, but no beans will have been instantiated yet. 意图就是在 jdbc 初始化连接池之前,执行ping方法

结果:可以ping 通,说明不是docker 网络的问题

第三回合

怀疑是 c3p0 配置的问题,以此为出发点 google 一下,c3p0的连接池优化导致的异常 对照实际项目配置,发现确实略短,改大后,问题解决。

原有配置

jdbc.checkoutTimeout=1000

修改后

jdbc.checkoutTimeout=60000

以当下粗浅的理解,checkoutTimeout 表示从连接池中 获取 连接的最大允许时间。若连接池有空闲连接,则直接返回,否则还需要 与远程db 建连接,耗时时间就会略长。

有时间学习下c3p0 源码再与大家分享

发现与预防

如何评估docker集群的健康状态?具体的,对于笔者实践中应用的mesos集群?

对于http://mesos:5050/的completed tasks列表,正常的开发同学更新代码,老的task会是killed状态。而非正常退出,比如上文说的内存不够问题,则是failed。因此当系统中发现大量的failed task时,即需要警惕并排查原因了。