python中有许多方便的库可以用来进行数据处理,尤其是numpy和pandas,再搭配matplot画图专用模块,功能十分强大。
csv(comma-separated values)格式的文件是指以纯文本形式存储的表格数据,这意味着不能简单的使用excel表格工具进行处理,而且excel表格处理的数据量十分有限,而使用pandas来处理数据量巨大的csv文件就容易的多了。
我用到的是自己用其他硬件工具抓取得数据,硬件环境是在linux平台上搭建的,当时数据是在运行脚本后直接输出在terminal里的,数据量十分庞大,为了保存获得的数据,在linux下使用了数据流重定向,把数据全部保存到了文本文件中,形成了一个本地csv文件。
pandas读取本地csv文件并设置dataframe(数据格式)
1
2
3
4
5
6
|
import pandas as pd import numpy as np df = pd.read_csv( 'filename' ,header = none,sep = ' ' ) #filename可以直接从盘符开始,标明每一级的文件夹直到csv文件,header=none表示头部为空,sep=' '表示数据间使用空格作为分隔符,如果分隔符是逗号,只需换成 ‘,'即可。 print df.head() print df.tail() #作为示例,输出csv文件的前5行和最后5行,这是pandas默认的输出5行,可以根据需要自己设定输出几行的值 |
数据读取示例
图片中显示了我本地数据的前5行与最后5行,最前面一列没有标号的是行号,数据一共有13列,标号从0到12,一行显示不完全,在第9列以后换了行,并且用反斜杠“\”标注了出来。
2017年4月28日更新
使用pandas直接读取本地的csv文件后,csv文件的列索引默认为从0开始的数字,重定义列索引的语句如下:
1
2
3
4
|
import pandas as pd import numpy as np df = pd.read_csv( 'filename' ,header = none,sep = ' ' ,names = [ "week" , 'month' , 'date' , 'time' , 'year' , 'name1' , 'freq1' , 'name2' , 'freq2' , 'name3' , 'data1' , 'name4' , 'data2' ]) print df |
此时打印出的文件信息如下,列索引已经被重命名:
以上这篇python使用pandas处理csv文件的实例讲解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持服务器之家。
原文链接:https://blog.csdn.net/atnanyang/article/details/70832257