标签： 优化器

Adam作为一种快速收敛的优化器被广泛采用，但是它较差的收敛性限制了使用范围，为了保证更优的结果，很多情况下我们还在使用SGD。 但SGD较慢的收敛速度也令人头疼，所以人们一直在研究进一步优化Adam … Continue reading Adam优化器再次改进 北大孙栩课题组提出