今天要用php代码来处理一个580M的日志文件,总共有219万多行记录,因为是.log的文件,在windows下面很难将文件按照条数来分割,于是在linux下用split -l 10000 filename 前缀名 将整个文件按10000行一个分割成了200多个小文件,之后用php来循环处理这200多个文件,可是执行到后来就出现了题目上面的错误:
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 2611816 bytes)
去百度了一下,原来是php.ini中的内存分配的问题,默认php代码能够申请到的最大内存字节数就是134217728 bytes,如果代码执行的时候再需要更多的内存,就会报错了,于是就将php.ini文件中的配置改了一下:
memory_limit = 128M;//将128M改成了256M
但是之后一想,一个php脚本一次请求的内存空间就要超过128M,那不管你以后将memory_limit设置成多大,以后肯定有出问题的时候。
究其原因,是我在在编码时,仅仅对变量赋值,却从来没有 unset ($var) 过。导致了内存占用越来越多,所以以后一个变量不再使用之后,一定要记得unset掉它。
下面附上我今天处理这个日志文件的代码:
<?php
set_time_limit(1800) ;
/**
* 获取日志中发送失败的邮箱地址
* @param $directory log日志的目录
* @param $name 失败邮箱保存的文件名
*/
function getmail($directory,$name){
//遍历目录下的.log文件
$files=scandir("$directory");
foreach($files as $v){
if(preg_match_all("|mail\.log\D+|",$v,$log)){
$logs[]=$log[0][0];
}
}
//将所有.log文件中发送失败邮箱提取出来
foreach($logs as $v){
$row=file("$v");
echo "读取".$v."文件<br />";
foreach($row as $key => $value)
{
if(eregi("host name lookup failure|Connection timed out with|Connection refused by|cannot find your reverse hostname", $value)){
if(preg_match("|\w+([-+.]\w+)*@\w+([-.]\w+)*.\w+([-.]\w+)*|", $row[$key],$matches)){
$mail[] = trim($matches[0]);
echo "获取发送失败的邮箱地址".$matches[0]."<br />";
}else{
echo "无法获取日志中发送失败的邮箱,请检查";
}
}
}
unset($row);
}
//将提取出来的发送失败邮箱写入到mail.txt文件中
$mailurl=fopen("$name","a");
foreach($mail as $line)
{
fwrite($mailurl,$line."\r\n");
}
echo "将所有发送失败的邮箱地址写入".$name."<br />";
fclose($mailurl);
}
getmail(".","mail.txt");
?>