大数据处理经常要用到一堆表格,然后需要把数据导入一个list中进行各种算法分析,简单讲一下自己的做法:
1.如何读取excel文件
网上的版本很多,在xlrd模块基础上,找到一些源码:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
|
import xdrlib ,sys import xlrd def open_excel( file = "C:/Users/flyminer/Desktop/新建 Microsoft Excel 工作表.xlsx" ): data = xlrd.open_workbook( file ) return data #根据索引获取Excel表格中的数据 参数:file:Excel文件路径 colnameindex:表头列名所在行的所以 ,by_index:表的索引 def excel_table_byindex( file = "C:/Users/flyminer/Desktop/新建 Microsoft Excel 工作表.xlsx" ,colnameindex = 0 ,by_index = 0 ): data = open_excel( file ) table = data.sheets()[by_index] nrows = table.nrows #行数 ncols = table.ncols #列数 colnames = table.row_values(colnameindex) #某一行数据 list = [] for rownum in range ( 1 ,nrows): row = table.row_values(rownum) if row: app = {} for i in range ( len (colnames)): app[colnames[i]] = row[i] list .append(app) return list #根据名称获取Excel表格中的数据 参数:file:Excel文件路径 colnameindex:表头列名所在行的所以 ,by_name:Sheet1名称 def excel_table_byname( file = "C:/Users/flyminer/Desktop/新建 Microsoft Excel 工作表.xlsx" ,colnameindex = 0 ,by_name = u 'Sheet1' ): data = open_excel( file ) table = data.sheet_by_name(by_name) nrows = table.nrows #行数 colnames = table.row_values(colnameindex) #某一行数据 list = [] for rownum in range ( 1 ,nrows): row = table.row_values(rownum) if row: app = {} for i in range ( len (colnames)): app[colnames[i]] = row[i] list .append(app) return list def main(): tables = excel_table_byindex() for row in tables: print (row) tables = excel_table_byname() for row in tables: print (row) if __name__ = = "__main__" : main() |
最后一句是重点,所以这里也给代码人点个赞!
最后一句让代码里的函数都可以被复用,简单地说:假设文件名是a,在程序中import a以后,就可以用a.excel_table_byname()和a.excel_table_byindex()这两个超级好用的函数了。
2.然后是遍历文件夹取得excel文件以及路径:,原创代码如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
|
import os import xlrd import test_wy xpath = "E:/唐伟捷/电力/电力系统总文件夹/舟山电力" xtype = "xlsx" typedata = [] name = [] raw_data = [] file_path = [] def collect_xls(list_collect,type1): #取得列表中所有的type文件 for each_element in list_collect: if isinstance (each_element, list ): collect_xls(each_element,type1) elif each_element.endswith(type1): typedata.insert( 0 ,each_element) return typedata #读取所有文件夹中的xls文件 def read_xls(path,type2): #遍历路径文件夹 for file in os.walk(path): for each_list in file [ 2 ]: file_path = file [ 0 ] + "/" + each_list #os.walk()函数返回三个参数:路径,子文件夹,路径下的文件,利用字符串拼接file[0]和file[2]得到文件的路径 name.insert( 0 ,file_path) all_xls = collect_xls(name, type2) #遍历所有type文件路径并读取数据 for evey_name in all_xls: xls_data = xlrd.open_workbook(evey_name) for each_sheet in xls_data.sheets(): sheet_data = test_wy.excel_table_byname(evey_name, 0 ,each_sheet.name) #请参考读取excel文件的代码 raw_data.insert( 0 , sheet_data) print (each_sheet.name, ":Data has been done." ) return raw_data a = read_xls(xpath,xtype) print ( "Victory" ) |
欢迎各种不一样的想法。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:http://blog.csdn.net/u012013017/article/details/58082064