用于訓(xùn)練RBM的算法被稱作對(duì)比發(fā)散CD（contrastive divergence） 算法 。對(duì)比發(fā)散CD算法，目前已經(jīng)成為訓(xùn)練RBM的標(biāo)準(zhǔn)算法。訓(xùn)練過(guò)程如下圖所示。

RBM問(wèn)題實(shí)質(zhì)：

RBM求解目標(biāo)可認(rèn)為是讓RBM網(wǎng)絡(luò)表示的Gibbs分布與輸入樣本的分布盡可能地接近。

RBM問(wèn)題最終可以轉(zhuǎn)化為極大似然來(lái)求解。

RBM功能：

深信任網(wǎng)絡(luò)DBN和深玻爾茲曼機(jī)DBM，由多層神經(jīng)元組成，已經(jīng)應(yīng)用于許多機(jī)器學(xué)習(xí)任務(wù)中，能夠很好地解決一些復(fù)雜問(wèn)題，在一定程度上提高了學(xué)習(xí)性能。深神經(jīng)網(wǎng)絡(luò)由許多受限玻爾茲曼機(jī)RBM堆棧構(gòu)成，RBM的可見(jiàn)層神經(jīng)元之間和隱層神經(jīng)元之間假定無(wú)連接。深神經(jīng)網(wǎng)絡(luò)用層次無(wú)監(jiān)督貪婪預(yù)訓(xùn)練方法分層預(yù)訓(xùn)練RBM，將得到的結(jié)果作為監(jiān)督學(xué)習(xí)訓(xùn)練概率模型的初始值，學(xué)習(xí)性能得到很大改善。無(wú)監(jiān)督特征學(xué)習(xí)就是將RBM的復(fù)雜層次結(jié)構(gòu)與海量數(shù)據(jù)集之間實(shí)現(xiàn)統(tǒng)計(jì)建模。通過(guò)無(wú)監(jiān)督預(yù)訓(xùn)練使網(wǎng)絡(luò)獲得高階抽象特征，并且提供較好的初始權(quán)值，將權(quán)值限定在對(duì)全局訓(xùn)練有利的范圍內(nèi)，使用層與層之間的局部信息進(jìn)行逐層訓(xùn)練，注重訓(xùn)練數(shù)據(jù)自身的特性，能夠減小對(duì)學(xué)習(xí)目標(biāo)過(guò)擬合的風(fēng)險(xiǎn)，并避免深神經(jīng)網(wǎng)絡(luò)中誤差累積傳遞過(guò)長(zhǎng)的問(wèn)題。RBM由于表示力強(qiáng)、易于推理等優(yōu)點(diǎn)被成功用作深神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)單元使用，在近些年受到廣泛關(guān)注，作為實(shí)際應(yīng)用，RBM的學(xué)習(xí)算法已經(jīng)在MNIST和NORB等數(shù)據(jù)集上顯示出優(yōu)越的學(xué)習(xí)性能。RBM的學(xué)習(xí)在深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)中占據(jù)核心的地位。

RBM應(yīng)用場(chǎng)景：

玻爾茲曼機(jī)BM及其模型已經(jīng)成功應(yīng)用于協(xié)同濾波、分類、降維、圖像檢索、信息檢索、語(yǔ)言處理、語(yǔ)音識(shí)別、時(shí)間序列建模、文檔分類、非線性嵌入學(xué)習(xí)、暫態(tài)數(shù)據(jù)模型學(xué)習(xí)和信號(hào)與信息處理等任務(wù)。

受限玻爾茲曼機(jī)RBM在降維、分類、協(xié)同過(guò)濾、特征學(xué)習(xí)和主題建模中得到了應(yīng)用。根據(jù)任務(wù)的不同，受限玻爾茲曼機(jī)可以使用監(jiān)督學(xué)習(xí)或無(wú)監(jiān)督學(xué)習(xí)的方法進(jìn)行訓(xùn)練。

結(jié)語(yǔ)：

受限玻爾茲曼機(jī)RBM是一種可通過(guò)輸入數(shù)據(jù)集學(xué)習(xí)概率分布的隨機(jī)生成神經(jīng)網(wǎng)絡(luò)。它是一種玻爾茲曼機(jī)BM的變體，限制玻爾茲曼機(jī)RBM和玻爾茲曼機(jī)BM相比，主要是加入了“限制”。所謂的限制就是，將完全圖變成了二分圖。RBM算法在人工智能之機(jī)器學(xué)習(xí)、降維、分類、協(xié)同過(guò)濾、特征學(xué)習(xí)和主題建模等領(lǐng)域有著廣泛應(yīng)用。