TensorFlow 踩坑记:训练状态的设置
2020-04-08
由于某些层在训练时会使用与测试时不一致的行为(主要指 BN 层与 Dropout 层),所以自己写训练 Loop 时候需要设定一下训练状态,但要如何改变这个状态???嗯由于 TensorFlow 文档基本都用的 fit 方式,所以……基本没有看到与状态设定有关的 API
665 字
|
3 分钟
模拟退火算法
2020-03-22
这是一个热力学问题,能量也是有着局部最优的,但由于分子的热运动导致一部分分子能够跨越势垒进而达到更低的能量状态,而跨越势垒的分子数满足一定的概率分布(阿伦尼乌兹公式)
2125 字
|
11 分钟
初识图卷积神经网络(GCN)
2019-08-16
与传统网络不同的是,GCN 的输入并不只是特征,它额外包含了图中各个结点之间的关系,那么关系用什么表征呢?显而易见,邻接矩阵是一个非常简单易行的表示方法,这里使用邻接矩阵 A 来表示各个顶点之间的关系,显然 A.shape = (N, N)
2353 字
|
12 分钟
Maxout 的简单理解与实现
2019-07-01
Maxout 可以说是一个激活函数,但与其他激活函数所不同的是,它本身是拥有参数的,正因为此,它可以拟合任意的凸函数,那么它是如何实现的呢?
978 字
|
5 分钟