Nginx access.log日志详解及统计分析
作者:mmseoamin日期:2024-02-20

Nginx access.log日志详解及统计分析

  • 一、nginx的access.log
  • 二、日志流量统计
    • 统计接口地址访问量
    • PV统计
    • UV统计
    • 独立IP统计
    • 三、配置access.log按天生成
    • 四、nginx.conf配置

      一、nginx的access.log

      1.日志文件一般存放在 /var/log/nginx 下,若是docker启动则可以使用主机挂载位置,直接使用 tail -f命令即可查看access日志。

      2.access.log具体每项的含义:

      参数  说明  示例
      $remote_addr   客户端地址   172.17.0.1
      $remote_user   客户端用户名称 --
      $time_local    访问时间和时区 [29/Dec/2022:10:17:14 +0000]
      $request   请求的URI和HTTP协议   "GET /test/nginx/proxy HTTP/1.1"
      $http_host 请求地址,即浏览器中你输入的地址(IP或域名) 10.1.7.33
      $status    HTTP请求状态    200
      $upstream_status   upstream状态  200
      $body_bytes_sent   发送给客户端文件内容大小    38
      $http_referer  url跳转来源 - 
      $http_user_agent   用户终端浏览器等信息  "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.0.0 Safari/537.36"
      $http_cookie	用户cookie信息  "grafana_session=73d13d456cb4363f8a48f5501348669e"
      $ssl_protocol  SSL协议版本 TLSv1
      $ssl_cipher    交换数据中的算法    RC4-SHA
      $upstream_addr 后台upstream的地址,即真正提供服务的主机地址  "10.1.7.33:8102"
      $request_time  整个请求的总时间    0.012
      $upstream_response_time    请求过程中,upstream响应时间  0.012
      

      3.access.log 的格式是可以自己自定义,输出的信息格式在nginx.conf中设置

      Nginx access.log日志详解及统计分析,在这里插入图片描述,第1张

      可以在location中增加header,输出用户代理服务器地址

      location /test/ {
      	#limit_req zone=allips burst=1 nodelay;
       
      	proxy_pass http://myServer/test/;
      	proxy_set_header Host $host;
      	proxy_set_header X-Real-IP $remote_addr;
      	proxy_set_header REMOTE-HOST $remote_addr;
      	#代理服务器地址
      	proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
      	client_max_body_size 8m;
      }
      

      二、日志流量统计

      Nginx: PV、UV、独立IP

      做网站的都知道,平常经常要查询下网站PV、UV等网站的访问数据,当然如果网站做了CDN的话,nginx本地的日志就没什么意义了,下面就对nginx网站的日志访问数据做下统计;

      • UV(Unique Visitor):独立访客,将每个独立上网电脑(以cookie为依据)视为一位访客,一天之内(00:00-24:00),访问您网站的访客数量。一天之内相同cookie的访问只被计算1次
      • PV(Page View):访问量,即页面浏览量或者点击量,用户每次对网站的访问均被记录1次。用户对同一页面的多次访问,访问量值累计
      • 统计独立IP:00:00-24:00内相同IP地址只被计算一次,做网站优化的朋友最关心这个

        日志统计分析,日志内容如下:

        root@DESKTOP-0NVFL1I:/home/volumes/nginx_vts/log# tail -f access.log
        172.17.0.1 - [30/Dec/2022:02:17:19 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8101" 0.008 0.008
        172.17.0.1 - [30/Dec/2022:02:17:20 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8102" 0.016 0.016
        172.17.0.1 - [30/Dec/2022:02:19:55 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8101" 0.010 0.010
        172.17.0.1 - [30/Dec/2022:02:19:56 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8102" 0.011 0.011
        

        统计接口地址访问量

        grep /test access.log | wc -l
        

        PV统计

        awk '{print }' access.log | wc -l
        

        UV统计

        awk '{print }' access.log | sort -r |uniq -c |wc -l
        

        独立IP统计

        awk '{print }' access.log | sort -r |uniq -c | wc -l
        

        三、配置access.log按天生成

        1.nginx.conf配置文件http代码块中修改成如下代码

        Nginx access.log日志详解及统计分析,在这里插入图片描述,第2张

        #配置按天生成access.log日志文件
        map $time_iso8601 $logdate {
           		'~^(?\d{4}-\d{2}-\d{2})' $ymd;
           		default    'date-not-found';
        }
        #access_log  /var/log/nginx/access.log  main;
        access_log /var/log/nginx/access-$logdate.log main;
        error_log  /var/log/nginx/error.log;
        

        2.重启nginx,再次访问接口,并查看日志,日志按天生成

        root@DESKTOP-0NVFL1I:/home/volumes/nginx_vts/log# ll
        -rwxrwxrwx 1 buckletime buckletime   744 Dec 30 11:14 access-2022-12-30.log
        -rwxrwxrwx 1 buckletime buckletime   744 Dec 30 10:19 access.log
        -rw-r--r-- 1 root       root       12586 Dec 30 10:14 error.log
        

        若权限不够则,修改日志文件权限

        chmod -R 777 /var/log/nginx/
        

        四、nginx.conf配置

        附上完整的nginx.conf配置

        user  nginx;
        worker_processes  auto;
        error_log  /var/log/nginx/error.log warn;
        pid        /var/run/nginx.pid;
        events {
            worker_connections  1024;
        }
        http {
        	#开启nginx监控模块
        	vhost_traffic_status_zone;
            include       /etc/nginx/mime.types;
            default_type  application/octet-stream;
            log_format  main  '$remote_addr $remote_user [$time_local] "$request" '
        					  '"$http_host" $status $upstream_status '
                              '$body_bytes_sent "$http_referer" '
                              '"$http_cookie" "$http_x_forwarded_for" '
        					  '"$upstream_addr" $request_time $upstream_response_time';
            #配置按天生成日志文件
        	map $time_iso8601 $logdate {
            		'~^(?\d{4}-\d{2}-\d{2})' $ymd;
            		default    'date-not-found';
        	}
         
            #access_log  /var/log/nginx/access.log  main;
            access_log /var/log/nginx/access-$logdate.log main;
            error_log  /var/log/nginx/error.log;
            sendfile        on;
            #tcp_nopush     on;
            keepalive_timeout  65;
            #gzip  on;
            #include /etc/nginx/conf.d/*.conf;
        	
        	upstream myServer{
        		server  10.1.7.33:8101;
        		server  10.1.7.33:8102;
        	}
        	
        	server {
                listen       80;
                server_name  10.1.7.33;
        		
        		root         /usr/share/nginx/html;
        		
        		location /test/ {
        			#limit_req zone=allips burst=1 nodelay;
        	  
        			proxy_pass http://myServer/test/;
        			proxy_set_header Host $host;
        			#用户的真实ip
        			proxy_set_header X-Real-IP $remote_addr;
        			proxy_set_header REMOTE-HOST $remote_addr;
        			proxy_set_header Cookie $http_cookie;
        			#用户的真实ip和经过的每一层代理服务器的ip
        			proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        			client_max_body_size 8m;
        		}
        		
        		#nginx状态监控接口
        		#location /status {
        		#	vhost_traffic_status_display;
                #   vhost_traffic_status_display_format html;
        		#}
        	}
        }