解决python3 整数数组转bytes的效率问题_Python

昨天在做一道CTF题的时候碰到了一个图片异或的问题，操作大概如下：

将一个图片读入，然后每字节进行异或操作，核心代码可简化为以下：

				?

									#coding:utf-8

									'''

									 @DateTime: 2017-11-25 13:51:33

									 @Version: 1.0

									 @Author: Unname_Bao

									'''

									import six

									key = b'\xdcd~\xb6^g\x11\xe1U7R\x18!+9d\xdcd~\xb6^g\x11\xe1U7R\x18!+9d'

									with open('flag.encrypted','rb') as f:

									 c = f.read()

									flag = b''

									for i in range(32):

									 flag += six.int2byte(key[i%32]^c[i])

									with open('flag.png','wb') as f:

									 f.write(flag)

然后就碰到了一个效率问题，跑了十几分钟都没有跑出结果，起初以为是类型转换的问题，因为比较急，于是换了成了C++的代码去解决，后来一直没多想。

今天闲下来的时候才发现代码之前的代码中存在一个非常大的问题：

内存申请问题

由于flag.encrypted文件大小为6.47MB之大，由于我的脚本思路是不断在byte数组后添加，但忽略了其本质。

就是在内存申请过程中，由于数组长度最终为600+W大小，期间存在多次数组内存不够，需要重新申请内存的问题，而python中的内存申请显然没有C++的vector的push_back有效率。

而且python中，无论是list、string还是byte，也没有reserve这种函数，不能预留内存空间（这时候真的要吐槽一下python设计者对速度优化的考量了）。

于是只能用另一种方法进行优化，就是先用list申请一个需求大小的内存空间，然后再转为bytes使用，

代码如下：

				?

									#coding:utf-8

									'''

									 @DateTime: 2017-11-26 14:09:29

									 @Version: 2.0

									 @Author: Unname_Bao

									'''

									key = b'\xdcd~\xb6^g\x11\xe1U7R\x18!+9d\xdcd~\xb6^g\x11\xe1U7R\x18!+9d'

									with open('flag.encrypted','rb') as f:

									 c = f.read()

									flag = list('1'*len(c))

									for i in range(len(c)):

									 flag[i] = key[i%32]^c[i]

									flag = bytes(flag)

									with open('flag.png','wb') as f:

									 f.write(flag)

这样写的话几乎是瞬间完成任务了，但还是比C++慢很多，这是不可避免的。

补充：python2与python3的bytes问题

				?

									>>> s = '编程'

									>>> print s

									编程

									>>> s

									'\xe7\xbc\x96\xe7\xa8\x8b'

									>>>

在python2中直接调用字符串的变量的话，会打印其bytes(可以理解成用16进制表示字符串的内存地址，本质还是二进制）。在python2中，bytes和str是一回事。

为什么要有个bytes呢？因为所有数据本质都是用二进制进行储存的，当传输数据的时候，要把这些数据先转换成二进制( bytes)在进行传输。除此之外，python2里还有个单独的数据类型，把字符串解码后，就会变成unicode。

				?

									>>> s

									'\xe8\xb7\xaf\xe9\xa3\x9e' #utf-8

									>>> s.decode('utf-8')

									u'\u8def\u98de' #unicode 在unicode编码表里对应的位置

									>>> print(s.decode('utf-8'))

									路飞 #unicode 格式的字符