浏览代码

small fix for FP16 precision

Dimitri Korsch 4 年之前
父节点
当前提交
b2d79d0c21
共有 1 个文件被更改,包括 3 次插入0 次删除
  1. 3 0
      cvfinetune/finetuner/mixins/model.py

+ 3 - 0
cvfinetune/finetuner/mixins/model.py

@@ -106,6 +106,9 @@ class _ModelMixin(abc.ABC):
 		if opts.optimizer == "rmsprop":
 			opt_kwargs["alpha"] = 0.9
 
+		if opts.optimizer in ["rmsprop", "adam"]:
+			opt_kwargs["eps"] = 1e-6
+
 		self.opt = optimizer(opts.optimizer,
 			self.clf,
 			opts.learning_rate,