PHP前端开发

怎么使用Python3实时操作处理日志文件

百变鹏仔 1个月前 (01-22) #Python
文章标签 实时

一、简单的实时文件处理(单一文件)

假设我们要实时读取的日志的路径为: /data/mongodb/shard1/log/pg.csv

那么我们可以在python文件中使用shell脚本命令tail -F 进行实时读取并操作

代码如下:

import reimport codecsimport subprocess def pg_data_to_elk():    p = subprocess.Popen('tail -F /data/mongodb/shard1/log/pg.csv', shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE,)    #起一个进程,执行shell命令    while True:        line = p.stdout.readline()   #实时获取行        if line:                     #如果行存在的话            xxxxxxxxxxxx            your operation

简单解释一下subprocess模块:

subprocess允许你生成新的进程,连接到它们的 input/output/error 管道,并获取它们的返回(状态)码。

立即学习“Python免费学习笔记(深入)”;

subprocess.Popen介绍

该类用于在一个新的进程中执行一个子程序。

subprocess.Popen的构造函数

class subprocess.Popen(args, bufsize=-1, executable=None, stdin=None, stdout=None, stderr=None,     preexec_fn=None, close_fds=True, shell=False, cwd=None, env=None, universal_newlines=False,    startup_info=None, creationflags=0, restore_signals=True, start_new_session=False, pass_fds=())

参数说明:

  • args: 要执行的shell命令,可以是字符串,也可以是命令各个参数组成的序列。当该参数的值是一个字符串时,该命令的解释过程是与平台相关的,因此通常建议将args参数作为一个序列传递。

  • stdin, stdout, stderr: 分别表示程序标准输入、输出、错误句柄。

  • shell: 该参数用于标识是否使用shell作为要执行的程序,如果shell值为True,则建议将args参数作为一个字符串传递而不要作为一个序列传递。

二、复杂的实时文件处理(不断产生新文件)

如果日志会在满足一定条件下产生新的日志文件,比如log1.csv已经到了20M,那么则会写入log2.csv,这样一天下来大概有1000多个文件,且不断产生新的,那么如何进行实时获取呢?

思路如下:

在实时监听(tail -F)中加入当前文件的大小判定,如果当前文件大小大于20M,那么跳出实时监听,获取新的日志文件。(如果有其他判定条件也是这个思路,只不过把当前文件大小的判定换成你所需要的判定)

代码如下:

import reimport osimport timeimport codecsimport subprocessfrom datetime import datetime path = '/home/liao/python/csv'time_now_day = datetime.now.strftime('%Y-%m-%d') def get_file_size(new_file):    fsize = os.path.getsize(new_file)    fsize = fsize/float(1024*1024)    return fsize def get_the_new_file():    files = os.listdir(path)    files_list = list(filter(lambda x:x[-4:]=='.csv' and x[11:21]==time_now_day, files))    files_list.sort(key=lambda fn:os.path.getmtime(path + '/' + fn) if not os.path.isdir(path + '/' + fn) else 0)    new_file = os.path.join(path, files_list[-1])    return new_file def pg_data_to_elk():    while True:        new_file = get_the_new_file()        p = subprocess.Popen('tail -F {0}'.format(new_file), shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE,)    #起一个进程,执行shell命令        while True:            line = p.stdout.readline()   #实时获取行            if line:                     #如果行存在的话                if get_file_size(new_file) > 20:    #如果大于20M,则跳出循环                    break                xxxxxxxxxxxx                your operation        time.sleep(3)