Bert的蓝天 —— 记录自己成长过程的点点滴滴,做一名有专业素养的手艺人
bert82503 · 共 24 篇文章
[线上问题] 线上服务器内存使用量已达到90%报警(内存泄漏)
2016-05-06中午11:56,收到“[sentry2]2016-05-06 11:56:09 xxxxxxhost xxx.xxx.xxx.xxx 内存使用已达到90.18%”报警。首先在脑海浮现的, 应该哪里出现内存泄漏了 。 一、确认问题 马上到 Sentry 监控系统 查看了该服务的“ 服务器监控 ”指标,发现其中2台机器的 内存使用量 都超过了90%,另外2台尽然没有监控数据(以前是有的)。 对于另外2台服务器没有监控数据,只好先登上去查看确认一下喽。通过“ free -m ”确认,线上服务器总内存共 7872 MB,使用了 7098 MB,还有 773 MB(= 406 + …
2016-05-09 00:57 · 线上问题 · 评论(0)
Redis Hash 的 HSET、HGET、HMSET、HMGET 性能测试
【压测环境】 操作系统: Ubuntu 14.04 LTS Linux版本: 3.13.0-24-generic x86_64 GNU/Linux 处理器: 4核 的 AMD Athlon(tm) II X4 640 Processor @ 800MHz 机器内存:共 8GB,已使用 6GB,未使用 2GB,交换区 未使用 Redis版本: 2.8.17 Redis内存:500MB 【压测结果】 压测原生的 Redis 性能(非Java客户端),结果如下: hset 和 hget 都能在 4ms 之内完成,且每秒并发处理量都在 7.5万个请求 之上; hmset 和 hmget 一次操作两个…
2015-06-09 14:06 · Redis · 评论(0)
[安全] MyBatis如何防止SQL注入
MyBatis如何防止SQL注入 [摘自] mybatis防止sql注入 - chaoge SQL注入 是一种 代码注入技术 ,用于攻击数据驱动的应用, 恶意的****SQL语句 被插入到执行的实体字段中(例如,为了转储数据库内容给 攻击者 )。[摘自] SQL injection - Wikipedia SQL注入 ,大家都不陌生,是一种常见的攻击方式。 攻击者 在界面的表单信息或URL上输入一些奇怪的SQL片段(例如“or ‘1’=’1’”这样的语句),有可能入侵 参数检验不足 的应用程序。所以,在我们的应用中需要做一些工作,来防备这样的攻击方式。在一些安全性要求很高的应用中(比如银行软…
Lua编译器的选择与源码安装
在Nginx上使用Lua脚本能做很多有价值的事情,比如生成请求的唯一标识(排查问题)、统一的权限校验、限流防洪(保证服务正常可用)等。 Lua是什么? Lua 是一种轻量级的多范式编程语言,其被设计为一种可扩展的 语义脚本语言 作为 首要目标 。(英语发音:/ˈluːə/,是葡萄牙语中“ Lua ”(月亮)的意思)[摘自] Lua (programming language) - Wikipedia 、 Lua - 维基百科 Lua是一个功能强大、快速、轻量级、可嵌入的脚本语言。[摘自] Lua: about 官网 本文主要讲述“Lua编译器的选择与安装过程”。 首先,谈谈“ Lua编译器的…
2015-06-06 19:05 · Lua · 评论(0)
Nginx源码构建、编译并安装
本文主要记录自己在“从Nginx源码构建、编译并安装”过程中遇到的一些问题及详细步骤,通过以下方式构建的Nginx集成了 SSL、 Lua 、 Nginx Upstream Health Check 、解压缩 功能。 # 1. 下载安装包 ( http://nginx.org/en/download.html ) wget http://nginx.org/download/ nginx -1.7.10.tar.gz wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/ pcre -8.36.tar.gz wget http:…
2015-05-27 19:25 · Nginx · 评论(0)
使用Shell脚本来组装“Lua配置模板文件”和“属性配置文件”并生成配置文件
【问题背景】 前几天,我们上线了“ 基于’Nginx + Lua‘实现的统一权限校验功能 ”。该功能需要Nginx守护线程定期地从MySQL加载“合作方数据”,我们直接在Lua文件里写死了MySQL等配置信息(硬编码),然后通过一个“中间配置文件”手动修改来针对不同的部署环境选择不同的数据源。 这里有个坑 :当开发和运维都忘记修改这个“中间配置文件”时,部署到不同的环境指向的数据源确一样的,会导致验证失败错误。默认是指向线上数据源,当我们部署完线上之后,确认一切正常之后,就立马着手部署测试联调环境,结果都为了要修改这个“中间配置文件”(部署完成后,没有通过本地 curl 确认, 其实这样可以…
[SQL调优] “查询SQL过滤和排序条件涉及的表字段未创建索引”引起慢查询问题,优化后执行时间从70+s下降到0.01s以下
前几天发现,线上portal “策略中心”的“证据管理”页面加载很慢。经排查发现,是由于 riskbase_core 库的 evidence 表未对 gmt_create 创建索引 和 evidence_details 表未对 refuuid 创建索引引起(因为查询条件涉及到这些字段),导致SQL执行时间要 1分钟+。 # 查询SQL select d.type,d.value,e.fraud_type,e.evidence_time,e.evidence_origin,d.uuid,d.refuuid from evidence_details d inner join evidence …
发言的礼仪 —— 参与开源社区
仔细聆听别人的声音,也努力表达自己对技术的看法,并随时将你的宝贵经验与社区分享 ,这样你不仅能获得技术上的提高,还可以得到整个社区的认可和尊敬。 14.4.3发言的礼仪 通过适当的礼仪和友好的行为方式,可以更有效地通过邮件列表解决项目中的问题。Eric Raymond对此有非常精彩的讨论,见其《 提问的智慧 》一文,以下部分观点就来自于该文。 1. 提问 新加入一个社区总有许多东西是你不了解的,通常我们会 阅读手册和源代码解决大部分的疑问 。但仅靠个人,总有无法解答的问题,在邮件列表上提问是更直接有效的解决问题的方式。 社区的开发者总是乐意帮助别人解答问题的,虽然黑客通常有遇到简单问题就表现…
2015-04-01 17:06 · 基础技能 · 评论(0)
[线上问题] "Redis客户端连接数一直降不下来"的问题分析解决
前段时间,上线了新的 Redis缓存 ( Cache )服务,准备替换掉 Memcached。 为什么要将 Memcached 替换掉? 原因 是 业务数据是 压缩后的列表型数据 ,缓存中保存 最新的3000条数据 。对于 新数据追加操作 ,需要拆解成[ get + unzip + append + zip + set ]这5步操作。若列表长度在O(1k)级别的,其耗时至少在50ms+。而在并发环境下,这样会存在“ 数据更新覆盖问题 ”,因为 追加操作不是原子操作 。(线上也确实遇到了这个问题) 针对“ 追加操作不是原子操作 ”的问题,我们就开始调研有哪些可以 解决这个问题 同时又 满足业务…
[FAQ] Jedis使用过程中踩过的那些坑
4. 一个 大坑 :若实例化 JedisShardInfo 时不设置节点名称(name属性),那么当Redis节点列表的顺序发生变化时,会发生“ 键 rehash 现象 ” 使用BTrace追踪redis.clients.util.Sharded的实时状态,验证“Jedis分片机制的一致性哈希算法”实现; 发现一个致命坑:若JedisShardInfo不设置节点名称(name属性),那么当Redis节点列表的顺序发生变化时,会发生“键 rehash 现象”。见Sharded的initialize(...)方法实现: (I) this.algo.hash("SHARD-" + i + "-NO…
[实现剖析] Apache Commons Pool之空闲对象的驱逐检测机制
本文主要剖析 Apache Commons Pool 的“ 空闲对象的驱逐检测机制 ”的实现原理。 以下面3个步骤来循序渐进地深入剖析其 实现原理 : 启动“空闲对象的 驱逐者线程 ”(startEvictor(...))的2个入口 在启动时,创建一个新的"驱逐者线程"(Evictor),并使用"驱逐者定时器"(EvictionTimer)进行调度 进入真正地"空闲池对象"的驱逐检测操作(evict()) 下图是“ 空闲对象的驱逐检测机制 ”处理流程的 时序图 (阅读代码时结合着看可以加深理解): GenericObjectPool.evict() 处理流程的时序图: **GenericOb…
Redis服务快速部署
官方对Redis的阐述: Redis is an open source, BSD licensed, advanced key-value cache and store . It is often referred to as a data structure server since keys can contain strings , hashes , lists , sets , sorted sets , bitmaps and hyperloglogs . Redis 是一个开源的,BSD许可的,高级的“ 键-值 ” 缓存 与 存储 。它经常被称为是一个 数据结构服务器 ,因为…
[线上问题] Nginx与Tomcat、Client之间请求的长连接配置不一致问题分析解决
前些天,线上出现“ 服务端长连接与客户端短连接引起Nginx产生大量"TIME_WAIT"状态的线程”的问题分析解决 ”,这个是由于“服务端使用HTTPs长连接,而客户端使用短连接”引起。这几天,发现Nginx与Tomcat之间也存在同样的问题,原因是两边的相关配置参数不一致引起的。(这是 心细活 !) 先说说服务为什么使用 HTTPs长连接技术 ?有如下几个原因: 对响应时间要求较高; 服务走的是公网,客户端与服务端的 TCP建立的三次握手 和 断开的四次握手 都需要40ms左右(真实数据包计算出来的),共需要 80ms 左右; 每个接入方使用的IP就若干个,需要建立的请求连接有限。 使用…
[线上问题] “服务端长连接与客户端短连接引起Nginx产生大量"TIME_WAIT"状态的线程”的问题分析解决
近期,线上Nginx服务器的TPS未超过100,但其Writing、Active连接数有时却超过了300。因为服务对响应时间要求较高,同时每个调用方使用的IP地址有限(即总的不同的连接地址有限),所以使用 HTTPs长连接技术 。( HTTP长连接与短连接 ) 问题现象:使用"sudo netstat -antp | grep 80"发现,存在大量的"TIME_WAIT" socket等待中断请求确认的线程(8000+) 原因:使用Wireshark分析tcpdump.txt发现,eleme使用短连接请求(非长连接,Keep-Alive),而服务器端使用的却是长连接。eleme每次请求都会新…
2014-10-25 16:33 · 线上问题 · 评论(0)
[利器] 使用tcpdump和Wireshark分析网络数据包
要想快速使用Wireshark分析请求数据包,可参考其本地文档《 Wireshark过滤器语法与引用 HELP-Manual Pages-Wireshark Filter 》和《 一站式学习Wireshark 》系列文章。 如何使用tcpdump在Linux服务器下抓取网络数据包 【示例】 1. 抓取8080端口上的所有网络数据包 sudo tcpdump -i eth0 -n port 8080 -w keepalive-http.txt 2. 抓取80端口和特定源或目标地址的所有网络数据包 sudo tcpdump -i eth0 -n port 80 and host xxx.xxx.…
2014-10-25 14:20 · HTTP · 评论(0)