代码之家 › 专栏 › 技术社区 › Blue Bird

有什么方法可以在MxNet中保留培训师的内部变量吗?

mxnet machine-learning

-1

Blue Bird · 技术社区 · 7 年前

我写了一个包含分布式随机梯度下降(DRGD)算法的程序。算法中有一些内部变量用来计算步长。训练算法应该比DRGD复杂得多,因此应该有更多的内部变量。如果我们保留这些变量,我们可以暂停训练并测试模型;然后,我们将再次恢复训练。

2 回复 | 直到 7 年前

1

0

Thomas 6 年前

可以通过调用 .save_states() 和 .load_states() 上的函数 Trainer 在与MXNet Gluon的培训期间上课。

下面是一个例子:

trainer = gluon.Trainer(net.collect_params(), 'adam')
trainer.save_states('training.states')
trainer.load_states('training.states')

2

0

Sergei 7 年前

如果您想跨多个设备(gpu或机器)存储一些数据,可以使用KVStore。这是 the tutorial 如何使用它。

请注意,KVStore被认为是一个相当高级的特性,应该小心使用。

我不确定,但它可能是什么,你所谓的“教练”在MXNet世界实际上可能被称为“优化器”。所以,请考虑阅读 this API page 也。