大数据预测是大数据最核心的应用,是它将传统意义的预测拓展到“现测”。大数据预测的优势体现在,它把一个非常困难的预测问题,转化为一个相对简单的描述问题,而这是传统小数据集根本无法企及的。从预测的角度看,大数据预测所得出的结果不仅仅是用于处理现实业务的简单、客观的结论,更是能用于帮助企业经营的决策。
在过去,人们的决策主要是依赖 20% 的结构化数据,而大数据预测则可以利用另外 80% 的非结构化数据来做决策。大数据预测具有更多的数据维度,更快的数据频度和更广的数据宽度。与小数据时代相比,大数据预测的思维具有 3 大改变:实样而非抽样;预测效率而非精确;相关关系而非因果关系。
而今天我们就将利用python制作可视化的大数据预测部分集成工具,其中数据在这里使用一个实验中的数据。普遍性的应用则直接从文件读取即可。其中的效果图如下:
实验前的准备
首先我们使用的python版本是3.6.5所用到的模块如下:
- sklearn模块用来创建整个模型训练和保存调用以及算法的搭建框架等等。
- numpy模块用来处理数据矩阵运算。
- matplotlib模块用来可视化拟合模型效果。
- Pillow库用来加载图片至GUI界面。
- Pandas模块用来读取csv数据文件。
- Tkinter用来创建GUI窗口程序。
数据的训练和训练的GUI窗口
经过算法比较,发现这里我们选择使用sklearn简单的多元回归进行拟合数据可以达到比较好的效果。
(1)首先是是数据的读取,通过设定选定文件夹函数来读取文件,加载数据的效果:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
|
'''选择文件功能''' def selectPath(): # 选择文件path_接收文件地址 path_ = tkinter.filedialog.askopenfilename() # 通过replace函数替换绝对文件地址中的/来使文件可被程序读取 # 注意:\\转义后为\,所以\\\\转义后为\\ path_ = path_.replace( "/" , "\\\\" ) # path设置path_的值 path. set (path_) return path # 得到的DataFrame读入所有数据 data = pd.read_excel(FILENAME, header = 0 , usecols = "A,B,C,D,E,F,G,H,I" ) # DataFrame转化为array DataArray = data.values # 读取已使用年限作为标签 Y = DataArray[:, 8 ] # 读取其他参数作为自变量,影响因素 X = DataArray[:, 0 : 8 ] # 字符串转变为整数 for i in range ( len (Y)): Y[i] = int (Y[i].replace( "年" , "")) X = np.array(X) # 转化为array Y = np.array(Y) # 转化为array root = Tk() root.geometry( "+500+260" ) # 背景图设置 canvas = tk.Canvas(root, width = 600 , height = 200 , bd = 0 , highlightthickness = 0 ) imgpath = '1.jpg' img = Image. open (imgpath) photo = ImageTk.PhotoImage(img) #背景图大小设置 canvas.create_image( 700 , 400 , image = photo) canvas.pack() path = StringVar() #标签名称位置 label1 = tk.Label(text = "目标路径:" ) label1.pack() e1 = tk.Entry( textvariable = path) e1.pack() bn1 = tk.Button(text = "路径选择" , command = selectPath) bn1.pack() bn2 = tk.Button(text = "模型训练" , command = train) bn2.pack() bn3 = tk.Button(text = "模型预测" , command = test) bn3.pack() #标签按钮等放在背景图上 canvas.create_window( 50 , 50 , width = 150 , height = 30 , window = label1) canvas.create_window( 280 , 50 , width = 300 , height = 30 , window = e1) canvas.create_window( 510 , 50 , width = 150 , height = 30 , window = bn1) canvas.create_window( 50 , 100 , width = 150 , height = 30 , window = bn2) canvas.create_window( 510 , 100 , width = 150 , height = 30 , window = bn3) root.mainloop() |
效果如下可见:
(2)然后是数据的拟合和可视化模型效果:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
|
# 模型拟合 reg = LinearRegression() reg.fit(X, Y) # 预测效果 predict = reg.predict(np.array([X[ 0 ]])) Y_predict = reg.predict(X) print (Y_predict) # 横坐标 x_label = [] for i in range ( len (Y)): x_label.append(i) # 绘图 fig, ax = plt.subplots() # 真实值分布散点图 plt.scatter(x_label, Y) # 预测值分布散点图 plt.scatter(x_label, Y_predict) # 预测值拟合直线图 plt.plot(x_label, Y_predict) # 横纵坐标 ax.set_xlabel( '预测值与真实值模型拟合效果图' ) ax.set_ylabel( '蓝色为真实值,黄色为预测值' ) # 将绘制的图形显示到tkinter:创建属于root的canvas画布,并将图f置于画布上 canvas = FigureCanvasTkAgg(fig, master = root) canvas.draw() # 注意show方法已经过时了,这里改用draw canvas.get_tk_widget().pack() # matplotlib的导航工具栏显示上来(默认是不会显示它的) toolbar = NavigationToolbar2Tk(canvas, root) toolbar.update() canvas._tkcanvas.pack() #弹窗显示 messagebox.showinfo(title = '模型情况' , message = "模型训练完成!" ) 其中的效果如下可见: |
其中的效果如下可见:
模型的预测和使用
其中模型的预测主要通过两种方式进行预测,分别是:手动输入单个数据进行预测和读取文件进行预测。
其中手动输入数据进行预测需要设置更多的GUI按钮,其中代码如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
|
#子窗口 LOVE = Toplevel(root) LOVE.geometry( "+100+260" ) LOVE.title = "模型测试" #子窗口各标签名 label = [ "上升沿斜率(v/us)" , "下降沿斜率(v/us)" , "脉宽(ns)" , "低状态电平(mv)" , "低电平方差(mv2)x10-3" , "高状态电平(v)" , "高电平方差(v2)" , "信号质量因子" ] Label(LOVE, text = "1、输入参数预测" , font = ( "微软雅黑" , 20 )).grid(row = 0 , column = 0 ) #标签名称,字体位置 Label(LOVE, text = label[ 0 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 0 ) Label(LOVE, text = label[ 1 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 1 ) Label(LOVE, text = label[ 2 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 2 ) Label(LOVE, text = label[ 3 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 3 ) Label(LOVE, text = label[ 4 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 4 ) Label(LOVE, text = label[ 5 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 5 ) Label(LOVE, text = label[ 6 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 6 ) Label(LOVE, text = label[ 7 ], font = ( "微软雅黑" , 10 )).grid(row = 1 , column = 7 ) #编辑框位置和字体 en1 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en1.grid(row = 2 , column = 0 ) en2 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en2.grid(row = 2 , column = 1 ) en3 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en3.grid(row = 2 , column = 2 ) en4 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en4.grid(row = 2 , column = 3 ) en5 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en5.grid(row = 2 , column = 4 ) en6 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en6.grid(row = 2 , column = 5 ) en7 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en7.grid(row = 2 , column = 6 ) en8 = tk.Entry(LOVE, font = ( "微软雅黑" , 8 )) en8.grid(row = 2 , column = 7 ) Label(LOVE, text = " ", font=(" 微软雅黑", 10 )).grid(row = 3 , column = 0 ) #测试输入框预测 def pp(): x = np.array([ int (en1.get()), int (en2.get()), int (en3.get()), int (en4.get()), int (en5.get()), int (en6.get()), int (en7.get()), int (en8.get())]) # 预测效果 predict = reg.predict(np.array([x])) Label(LOVE, text = "预测结果已使用年数为:" + str (predict[ 0 ]) + "年" , font = ( "微软雅黑" , 10 )).grid(row = 4 , column = 3 ) print (predict) Button(LOVE, text = "预测:" , font = ( "微软雅黑" , 15 ),command = pp).grid(row = 4 , column = 0 ) Label(LOVE, text = "2、选择文件预测" , font = ( "微软雅黑" , 20 )).grid(row = 5 , column = 0 ) path1 = StringVar() label1 = tk.Label(LOVE,text = "目标路径:" , font = ( "微软雅黑" , 10 )) label1.grid(row = 6 , column = 0 ) e1 = tk.Entry(LOVE,textvariable = path1, font = ( "微软雅黑" , 10 )) e1.grid(row = 6 , column = 2 ) label = [ "上升沿斜率(v/us)" , "下降沿斜率(v/us)" , "脉宽(ns)" , "低状态电平(mv)" , "低电平方差(mv2)x10-3" , "高状态电平(v)" , "高电平方差(v2)" , "信号质量因子" ] n = 0 for i in predict_value: print ( str (label) + "分别为" + str (X[n]) + "预测出来的结果为:" + str (i) + "年" + "\n" ) f = open ( "预测结果.txt" , "a" ) f.write( str (label) + "分别为" + str (X[n]) + "预测出来的结果为:" + str (i) + "年" + "\n" ) f.close() f = open ( "result.txt" , "a" ) f.write( str (i) + "\n" ) f.close() n + = 1 messagebox.showinfo(title = '模型情况' , message = "预测结果保存在当前文件夹下的TXT文件中!" ) os.system( "result.txt" ) os.system( "预测结果.txt" ) Button(LOVE, text = "预测:" , font = ( "微软雅黑" , 15 ), command = ppt).grid(row = 7 , column = 0 ) |
效果如下可见:
选择文件进行读取预测和模型训练数据的读取类似,代码如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
|
#选择文件预测 def selectPath1(): # 选择文件path_接收文件地址 path_ = tkinter.filedialog.askopenfilename() # 通过replace函数替换绝对文件地址中的/来使文件可被程序读取 # 注意:\\转义后为\,所以\\\\转义后为\\ path_ = path_.replace( "/" , "\\\\" ) # path设置path_的值 path1. set (path_) return path bn1 = tk.Button(LOVE,text = "路径选择" , font = ( "微软雅黑" , 10 ), command = selectPath1) bn1.grid(row = 6 , column = 6 ) def ppt(): try : os.remove( "预测结果.txt" ) os.remove( "result.txt" ) except : pass # 文件的名字 FILENAME = path1.get() # 禁用科学计数法 pd.set_option( 'float_format' , lambda x: '%.3f' % x) np.set_printoptions(threshold = np.inf) # 得到的DataFrame读入所有数据 data = pd.read_excel(FILENAME, header = 0 , usecols = "A,B,C,D,E,F,G,H" ) # DataFrame转化为array DataArray = data.values # 读取其他参数作为自变量,影响因素 X = DataArray[:, 0 : 8 ] predict_value = reg.predict(X) print (predict_value) |
效果如下:
由于读取文件进行预测的话,数据较多故直接存储在TXT中方便查看
以上就是Python制作数据预测集成工具(值得收藏)的详细内容,更多关于python 数据预测的资料请关注服务器之家其它相关文章!
原文链接:https://developer.51cto.com/art/202008/624349.htm?utm_source=tuicool&utm_medium=referral