[摘要]遷移之后你就無需為新的優(yōu)化問題額外訓(xùn)練別的神經(jīng)網(wǎng)絡(luò)。而且他們?cè)O(shè)計(jì)這個(gè)方法的目的不是為了優(yōu)化更新規(guī)則的內(nèi)存,但可以肯定加入了昆明網(wǎng)站建設(shè)技術(shù)之后,還是能夠在得到與Adam或者RMSProp等同的更新規(guī)則的情況下占用更少的內(nèi)存。
昆明網(wǎng)站建設(shè)公司了解到,谷歌大腦的研究員們有一個(gè)研究目標(biāo),那就是在人們已經(jīng)熟悉的領(lǐng)域內(nèi),為神經(jīng)網(wǎng)絡(luò)訓(xùn)練找到更好的更新規(guī)則。換句話說,他們沒打算靠自己重新建立一套全新的網(wǎng)絡(luò)更新規(guī)則,而且是用機(jī)器學(xué)習(xí)算法以在現(xiàn)有的更新規(guī)則中找到比較好用的網(wǎng)絡(luò)優(yōu)化方案。
當(dāng)然昆明網(wǎng)站建設(shè)公司也有研究人員提出類似的方法,用模型學(xué)習(xí)生成更新數(shù)值。這里的關(guān)鍵區(qū)別是谷歌大腦的這項(xiàng)研究是為權(quán)重更新生成數(shù)學(xué)形式的方程,而不是直接生成數(shù)值或生成一個(gè)方程。而這樣做的好處是可以輕松地把網(wǎng)絡(luò)優(yōu)化技術(shù)遷移到更大的任務(wù)中。
遷移之后你就無需為新的優(yōu)化問題額外訓(xùn)練別的神經(jīng)網(wǎng)絡(luò)。而且他們?cè)O(shè)計(jì)這個(gè)方法的目的不是為了優(yōu)化更新規(guī)則的內(nèi)存,但可以肯定加入了昆明網(wǎng)站建設(shè)技術(shù)之后,還是能夠在得到與Adam或者RMSProp等同的更新規(guī)則的情況下占用更少的內(nèi)存。