Fluentd部署:错误排查
查看日志
如果感觉Fluentd运行异常,请先查看日志。td-agent安装后,默认日志存放在/var/log/td-agent/td-agent.log。
开启详细日志
Fluentd日志支持多个级别,打开详细的日志有助于发现问题。有以下几种方法可以开启详细日志:
通过配置文件的log_level项进行设置,具体可参考Fluentd日志。
使用systemd用户级文件
添加或修改配置文件/etc/systemd/system/td-agent,
增加如下内容,这会覆盖/usr/lib/systemd/system/td-agent中的
配置。
[Service]
ExecStart=...existing options... -vv
修改init.d启动脚本
编辑/etc/init.d/td-agent,在TD_AGENT_OPTIONS后增加"-vv",重启td-agent
# at /etc/init.d/td-agent
...
TD_AGENT_OPTIONS="... -vv"
...
命令行参数
$ fluentd .. -vv
导出fluentd内部信息
Fluentd使用sigdump(https://github.com/frsyuki/sigdump)将内部信息导出到本地文件中,可向fluentd进程发送SIGCONT信号以导出相关信息。
CPU使用率较高的原因
若发现Fluentd占用较高的CPU,一般可能有以下几点原因:
某个插件发生竞态问题
正则表达式错误
系统调用异常,比如inotify监控了过多的文件
某个ruby依赖包异常
检查未捕获的日志
有时候会遇到一些异常退出的情况,这时程序返回值非0。比如:
2016-01-01 00:00:00 +0800 [info]: starting fluentd-0.12.28
2016-01-01 00:00:00 +0800 [info]: reading config file path="/etc/td-agent/td-agent.conf"
[...snip...]
2016-01-01 00:00:02 +0800 [info]: process finished code=6
这类问题可能发生在ruby内部,比如段错误、某些C扩展有bug等。当fluentd以守护进程方式运行时,我们将得不到完整的日志。
使用如下方式运行td-agent,就可以在程序异常时获取到完整的日志。
$ sudo LD_PRELOAD=/opt/td-agent/embedded/lib/libjemalloc.so /usr/sbin/td-agent -c /etc/td-agent/td-agent.conf --user td-agent --group td-agent
出现这些情况时,可使用linux perf工具来检测问题所在。也可使用pid2line.rb(https://gist.github.com/nurse/0619b6af90df140508c2)这个脚本来辅助排查。