服务器之家

服务器之家 > 正文

Tensorflow 自定义loss的情况下初始化部分变量方式

时间:2020-05-09 10:00     来源/作者:I_will_____

一般情况下,tensorflow里面变量初始化过程为:

?
1
2
3
4
#variables ...........
#.....................
init = tf.initialize_all_variables()
sess.run(init)

这里 tf.initialize_all_variables() 会初始化所有的变量。

实际过程中,假设有a, b, c三个变量,其中a已经被初始化了,只想单独初始化b,c,那么:

?
1
2
3
4
#variables ...
...
init = tf.variables_initializer([b,c])
sess.run(init)

此外,如果自行修改了optimizer,如下代码就会报错:

?
1
2
3
4
5
#definition of variables a, b, c ...
....
my_optimizer = tf.train.RMSProp(learning_rate = 0.1).minimize(my_cost)
init = tf.variables_initializer([b,c])
sess.run(init)

这是因为自己定义的optimizer会生成新的variables,但是在init里面并没有初始化,所以无法访问,会报错。解决方法如下:

?
1
2
3
4
5
6
7
8
a = tf.Variables(...)      #line N
temp = set(tf.all_variables())
b = tf.Variables(...)
c = tf.Variables(...)
#definition of my optimizer
optimizer = tf.train.......
init = tf.variables_initializer(set(tf.all_varialbles())-temp) # line M
sess.run(init)

首先,temp = set(tf.all_variables()) 将该行(line N)代码之前的所有变量保存在temp中,接下来定义变量b, c,以及自定义的optimizer,然后 set(tf.all_varialbles()存储了改行(line M)之前的所有变量(包括optimizer生成的变量以及temp中所含的变量),set(tf.all_varialbles())-temp相减得到line N~M这几行定义的变量。

以上这篇Tensorflow 自定义loss的情况下初始化部分变量方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持服务器之家。

原文链接:https://blog.csdn.net/chenxicx1992/article/details/56483180

相关文章

热门资讯

2022年最旺的微信头像大全 微信头像2022年最新版图片
2022年最旺的微信头像大全 微信头像2022年最新版图片 2022-01-10
蜘蛛侠3英雄无归3正片免费播放 蜘蛛侠3在线观看免费高清完整
蜘蛛侠3英雄无归3正片免费播放 蜘蛛侠3在线观看免费高清完整 2021-08-24
背刺什么意思 网络词语背刺是什么梗
背刺什么意思 网络词语背刺是什么梗 2020-05-22
yue是什么意思 网络流行语yue了是什么梗
yue是什么意思 网络流行语yue了是什么梗 2020-10-11
暖暖日本高清免费中文 暖暖在线观看免费完整版韩国
暖暖日本高清免费中文 暖暖在线观看免费完整版韩国 2021-05-08
返回顶部