Browse Source

small fix for FP16 precision

Dimitri Korsch 4 năm trước cách đây
mục cha
commit
b2d79d0c21
1 tập tin đã thay đổi với 3 bổ sung0 xóa
  1. 3 0
      cvfinetune/finetuner/mixins/model.py

+ 3 - 0
cvfinetune/finetuner/mixins/model.py

@@ -106,6 +106,9 @@ class _ModelMixin(abc.ABC):
 		if opts.optimizer == "rmsprop":
 			opt_kwargs["alpha"] = 0.9
 
+		if opts.optimizer in ["rmsprop", "adam"]:
+			opt_kwargs["eps"] = 1e-6
+
 		self.opt = optimizer(opts.optimizer,
 			self.clf,
 			opts.learning_rate,