对Python多线程读写文件加锁的实例详解_Python

Python的多线程在io方面比单线程还是有优势，但是在多线程开发时，少不了对文件的读写操作。在管理多个线程对同一文件的读写操作时，就少不了文件锁了。

使用fcntl

在linux下，python的标准库有现成的文件锁，来自于fcntl模块。这个模块提供了unix系统fcntl()和ioctl()的接口。

对于文件锁的操作，主要需要使用 fcntl.flock(fd, operation)这个函数。

其中，参数 fd 表示文件描述符；参数 operation 指定要进行的锁操作，该参数的取值有如下几种：

LOCK_SH：表示要创建一个共享锁，在任意时间内，一个文件的共享锁可以被多个进程拥有

LOCK_EX：表示创建一个排他锁，在任意时间内，一个文件的排他锁只能被一个进程拥有

LOCK_UN：表示删除该进程创建的锁

LOCK_MAND：它主要是用于共享模式强制锁，它可以与 LOCK_READ 或者 LOCK_WRITE联合起来使用，从而表示是否允许并发的读操作或者并发的写操作

demo

				?

									import fcntl

									import threading

									import time

									def writetoTxt(txtFile):

									 id = threading.currentThread().getName()

									 with open(txtFile, 'a') as f:

									  fcntl.flock(f.fileno(), fcntl.LOCK_EX) #加锁

									  print "{0} acquire lock".format(id)

									  f.write("write from {0} \r\n".format(id))

									  time.sleep(3)

									 # 在with块外，文件关闭，自动解锁

									 print "{0} exit".format(id)

									for i in range(5):

									 myThread = threading.Thread(target=writetoTxt, args=("test.txt",))

									 myThread.start()

代码运行期间，控制台将依次打印哪个线程获得了锁，在对文件进行读写。

				?

									Thread-1 acquire lock

									Thread-1 exit

									Thread-2 acquire lock

									Thread-2 exit

									Thread-3 acquire lock

									Thread-3 exit

									Thread-5 acquire lock

									Thread-5 exit

									Thread-4 acquire lock

									Thread-4 exit

小结

通过调用

				?

									fcntl.flock(f.fileno(), fcntl.LOCK_EX)

对文件加锁，如果有其他线程尝试对test文件加锁，会被阻塞。

当线程执行完毕的时候，锁会自动释放。或者也可以采取主动的方式解锁：调用

				?

									fcntl.flock(f.fileno(),fcntl.LOCK_UN)

函数，对文件test解锁

使用线程锁

当多个线程共享一个数据的时候，必须要进行同步的控制，不然会出现不可预期的结果，即 “线程不安全”

				?

									线程同步能够保证多个线程安全访问竞争资源，最简单的同步机制是引入互斥锁。

									互斥锁为资源引入一个状态：锁定/非锁定。

									某个线程要更改共享数据时，先将其锁定，此时资源的状态为“锁定”，其他线程不能更改；

									直到该线程释放资源，将资源的状态变成“非锁定”，其他的线程才能再次锁定该资源。

									互斥锁保证了每次只有一个线程进行写入操作，从而保证了多线程情况下数据的正确性。

threading模块中定义了Lock类，可以方便的处理锁定：

				?

									#创建锁

									mutex = threading.Lock()

									#锁定

									mutex.acquire([timeout])

									#解锁

									mutex.release()

Demo

使用互斥锁实现上面的例子的代码如下：

				?

									import threading

									import time

									def writetoTxt(txtFile):

									 id = threading.currentThread().getName()

									 mutex.acquire(10)

									 with open(txtFile, 'a') as f:

									  print "Thread {0} acquire lock".format(id)

									  f.write("write from thread {0} \r\n".format(id))

									  time.sleep(3)

									 mutex.release()

									 print "Thread {0} exit".format(id)

									mutex = threading.Lock()

									for i in range(5):

									 myThread = threading.Thread(target=writetoTxt, args=("test.txt",))

									 myThread.start()

（上述代码本质上是一个顺序执行的单线程）

结果：

				?

									Thread Thread-1 acquire lock

									Thread Thread-1 exit

									Thread Thread-2 acquire lock

									Thread Thread-2 exit

									Thread Thread-3 acquire lock

									Thread Thread-3 exit

									Thread Thread-4 acquire lock

									Thread Thread-4 exit

									Thread Thread-5 acquire lock

									Thread Thread-5 exit