由于Caffe使用的存储图像的数据库是lmdb,因此有时候需要对lmdb文件进行操作,本文主要讲解如何用Python合并lmdb文件。没有lmdb支持的,需要用pip命令安装。
1
|
pip install lmdb |
代码及注释如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
|
# coding=utf-8 # filename: merge_lmdb.py import lmdb # 将两个lmdb文件合并成一个新的lmdb def merge_lmdb(lmdb1, lmdb2, result_lmdb): print 'Merge start!' # env代表Environment, txn代表Transaction # 打开lmdb文件,读模式 env_1 = lmdb. open (lmdb1) env_2 = lmdb. open (lmdb2) # 创建事务 txn_1 = env_1.begin() txn_2 = env_2.begin() # 打开数据库 database_1 = txn_1.cursor() database_2 = txn_2.cursor() # 打开lmdb文件,写模式, env_3 = lmdb. open (result_lmdb, map_size = int ( 1e12 )) txn_3 = env_3.begin(write = True ) count = 0 # 遍历数据库 for (key, value) in database_1: # 将数据放到结果数据库事务中 txn_3.put(key, value) count + + if (count % 1000 = = 0 ): # 将数据写入数据库,必须的,否则数据不会写入到数据库中 txn_3.commit() count = 0 txn_3 = env_3.begin(write = True ) if (count % 1000 ! = 0 ): txn_3.commit() count = 0 txn_3 = env_3.begin(write = True ) for (key, value) in database_2: txn_3.put(key, value) if (count % 1000 = = 0 ): txn_3.commit() count = 0 txn_3 = env_3.begin(write = True ) if (count % 1000 ! = 0 ): txn_3.commit() count = 0 txn_3 = env_3.begin(write = True ) # 关闭lmdb env_1.close() env_2.close() env_3.close() print 'Merge success!' # 输出结果lmdb的状态信息,可以看到数据是否合并成功 print env_3.stat() def main(): fr = open ( 'lmdb.txt' ) # lmdb1的目录 lmdb1 = fr.readline().strip() # lmdb2的目录 lmdb2 = fr.readline().strip() # result lmdb的目录 result_lmdb = fr.readline().strip() fr.close() merge_lmdb(lmdb1, lmdb2, result_lmdb) if __name__ = = '__main__' : main() |
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:https://blog.csdn.net/Quincuntial/article/details/56306024