人工神經(jīng)網(wǎng)絡(luò)模型：

人工神經(jīng)網(wǎng)絡(luò)模型主要考慮網(wǎng)絡(luò)連接的拓?fù)浣Y(jié)構(gòu)、神經(jīng)元的特征、學(xué)習(xí)規(guī)則等。目前，已有近40種神經(jīng)網(wǎng)絡(luò)模型，其中有反傳網(wǎng)絡(luò)、感知器、自組織映射、Hopfield網(wǎng)絡(luò)、波耳茲曼機(jī)、適應(yīng)諧振理論等。根據(jù)連接的拓?fù)浣Y(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)模型可以分為：

1）前向網(wǎng)絡(luò)

網(wǎng)絡(luò)中各個(gè)神經(jīng)元接受前一級(jí)的輸入，并輸出到下一級(jí)，網(wǎng)絡(luò)中沒(méi)有反饋，可以用一個(gè)有向無(wú)環(huán)路圖表示。這種網(wǎng)絡(luò)實(shí)現(xiàn)信號(hào)從輸入空間到輸出空間的變換，它的信息處理能力來(lái)自于簡(jiǎn)單非線性函數(shù)的多次復(fù)合。網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單，易于實(shí)現(xiàn)。反傳網(wǎng)絡(luò)是一種典型的前向網(wǎng)絡(luò)。

2）反饋網(wǎng)絡(luò)

網(wǎng)絡(luò)內(nèi)神經(jīng)元間有反饋，可以用一個(gè)無(wú)向的完備圖表示。這種神經(jīng)網(wǎng)絡(luò)的信息處理是狀態(tài)的變換，可以用動(dòng)力學(xué)系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關(guān)系。Hopfield網(wǎng)絡(luò)、波耳茲曼機(jī)均屬于反饋網(wǎng)絡(luò)類(lèi)型。

人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)類(lèi)型：

學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)研究的一個(gè)重要內(nèi)容，它的適應(yīng)性是通過(guò)學(xué)習(xí)實(shí)現(xiàn)的。根據(jù)環(huán)境的變化，對(duì)權(quán)值進(jìn)行調(diào)整，改善系統(tǒng)的行為。根據(jù)學(xué)習(xí)環(huán)境不同，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式可分為監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)。

1）在監(jiān)督學(xué)習(xí)時(shí)，將訓(xùn)練樣本的數(shù)據(jù)加到網(wǎng)絡(luò)輸入端，同時(shí)將相應(yīng)的期望輸出與網(wǎng)絡(luò)輸出相比較，得到誤差信號(hào)，以此控制權(quán)值連接強(qiáng)度的調(diào)整，經(jīng)多次訓(xùn)練后收斂到一個(gè)確定的權(quán)值。當(dāng)樣本情況發(fā)生變化時(shí)，經(jīng)學(xué)習(xí)可以修改權(quán)值以適應(yīng)新的環(huán)境。使用監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型有反傳網(wǎng)絡(luò)、感知器等。

2）非監(jiān)督學(xué)習(xí)時(shí)，事先不給定標(biāo)準(zhǔn)樣本，直接將網(wǎng)絡(luò)置于環(huán)境之中，學(xué)習(xí)階段與工作階段成為一體。此時(shí)，學(xué)習(xí)規(guī)律的變化服從連接權(quán)值的演變方程。非監(jiān)督學(xué)習(xí)最簡(jiǎn)單的例子是Hebb學(xué)習(xí)規(guī)則。競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則是一個(gè)更復(fù)雜的非監(jiān)督學(xué)習(xí)的例子，它是根據(jù)已建立的聚類(lèi)進(jìn)行權(quán)值調(diào)整。自組織映射、適應(yīng)諧振理論網(wǎng)絡(luò)等都是與競(jìng)爭(zhēng)學(xué)習(xí)有關(guān)的典型模型。

有效的學(xué)習(xí)算法，使得神經(jīng)網(wǎng)絡(luò)能夠通過(guò)連接權(quán)值的調(diào)整，構(gòu)造客觀世界的內(nèi)在表示，形成具有特色的信息處理方法，信息存儲(chǔ)和處理體現(xiàn)在網(wǎng)絡(luò)的連接中。

人工神經(jīng)網(wǎng)絡(luò)分析方法：

研究神經(jīng)網(wǎng)絡(luò)的非線性動(dòng)力學(xué)性質(zhì)，主要采用動(dòng)力學(xué)系統(tǒng)理論、非線性規(guī)劃理論和統(tǒng)計(jì)理論，來(lái)分析神經(jīng)網(wǎng)絡(luò)的演化過(guò)程和吸引子的性質(zhì)，探索神經(jīng)網(wǎng)絡(luò)的協(xié)同行為和集體計(jì)算功能，了解神經(jīng)信息處理機(jī)制。為了探討神經(jīng)網(wǎng)絡(luò)在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會(huì)發(fā)揮作用。

人工神經(jīng)網(wǎng)絡(luò)特點(diǎn)：

人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)如下：

1）  具有自學(xué)習(xí)功能。自學(xué)習(xí)功能對(duì)于預(yù)測(cè)有特別重要的意義。預(yù)期未來(lái)的人工神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)將為人類(lèi)提供經(jīng)濟(jì)預(yù)測(cè)、市場(chǎng)預(yù)測(cè)、效益預(yù)測(cè)，其應(yīng)用前途是很遠(yuǎn)大的。

2）  具有聯(lián)想存儲(chǔ)功能。用人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實(shí)現(xiàn)這種聯(lián)想。

3）  具有高速尋找優(yōu)化解的能力。尋找一個(gè)復(fù)雜問(wèn)題的優(yōu)化解，往往需要很大的計(jì)算量，利用一個(gè)針對(duì)某問(wèn)題而設(shè)計(jì)的反饋型人工神經(jīng)網(wǎng)絡(luò)，發(fā)揮計(jì)算機(jī)的高速運(yùn)算能力，可能很快找到優(yōu)化解。

人工神經(jīng)網(wǎng)絡(luò)研究方向：

人工神經(jīng)網(wǎng)絡(luò)的研究可以分為理論研究和應(yīng)用研究?jī)纱蠓矫妗?/p>

1）理論研究可分為以下兩類(lèi)：

a）利用神經(jīng)生理與認(rèn)知科學(xué)研究人類(lèi)思維以及智能機(jī)理。

b）利用神經(jīng)基礎(chǔ)理論的研究成果，用數(shù)理方法探索功能更加完善、性能更加優(yōu)越的神經(jīng)網(wǎng)絡(luò)模型，深入研究網(wǎng)絡(luò)算法和性能，如：穩(wěn)定性、收斂性、容錯(cuò)性、魯棒性等；開(kāi)發(fā)新的網(wǎng)絡(luò)數(shù)理理論，如：神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)、非線性神經(jīng)場(chǎng)等。

2）應(yīng)用研究可分為以下兩類(lèi)：

a）神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實(shí)現(xiàn)的研究。

b）神經(jīng)網(wǎng)絡(luò)在各個(gè)領(lǐng)域中應(yīng)用的研究。這些領(lǐng)域主要包括：模式識(shí)別、信號(hào)處理、知識(shí)工程、專(zhuān)家系統(tǒng)、優(yōu)化組合、機(jī)器人控制等。隨著神經(jīng)網(wǎng)絡(luò)理論本身以及相關(guān)理論、相關(guān)技術(shù)的不斷發(fā)展，神經(jīng)網(wǎng)絡(luò)的應(yīng)用定將更加深入。

人工神經(jīng)網(wǎng)絡(luò)發(fā)展趨勢(shì)：

人工神經(jīng)網(wǎng)絡(luò)與其它傳統(tǒng)方法相結(jié)合，將推動(dòng)人工智能和信息處理技術(shù)不斷發(fā)展。近年來(lái)，人工神經(jīng)網(wǎng)絡(luò)正向模擬人類(lèi)認(rèn)知的道路上更加深入發(fā)展，與模糊系統(tǒng)、遺傳算法、進(jìn)化機(jī)制等結(jié)合，形成計(jì)算智能，成為人工智能的一個(gè)重要方向，將在實(shí)際應(yīng)用中得到發(fā)展。將信息幾何應(yīng)用于人工神經(jīng)網(wǎng)絡(luò)的研究，為人工神經(jīng)網(wǎng)絡(luò)的理論研究開(kāi)辟了新的途徑。神經(jīng)計(jì)算機(jī)的研究發(fā)展很快，已有產(chǎn)品進(jìn)入市場(chǎng)。光電結(jié)合的神經(jīng)計(jì)算機(jī)為人工神經(jīng)網(wǎng)絡(luò)的發(fā)展提供了良好條件。具有分布存儲(chǔ)、并行處理、自學(xué)習(xí)、自組織以及非線性映射等優(yōu)點(diǎn)的神經(jīng)網(wǎng)絡(luò)與其他技術(shù)的結(jié)合以及由此而來(lái)的混合方法和混合系統(tǒng)，已經(jīng)成為一大研究熱點(diǎn)。另外還有神經(jīng)網(wǎng)絡(luò)與模糊邏輯、專(zhuān)家系統(tǒng)、遺傳算法、小波分析、混沌、粗集理論、分形理論、證據(jù)理論和灰色系統(tǒng)等的融合。

雖然人工神經(jīng)網(wǎng)絡(luò)已經(jīng)取得了一定的進(jìn)步，但是還存在許多缺陷，比如：應(yīng)用面不夠?qū)掗煛⒔Y(jié)果不夠精確；現(xiàn)有模型算法的訓(xùn)練速度不夠高；算法的集成度不夠高；人們希望在理論上尋找新的突破點(diǎn)，建立新的通用模型和算法。需進(jìn)一步對(duì)生物神經(jīng)元系統(tǒng)進(jìn)行研究，不斷豐富人們對(duì)人腦神經(jīng)的認(rèn)識(shí)。

結(jié)語(yǔ)：

人工神經(jīng)網(wǎng)絡(luò)ANN是深度學(xué)習(xí)DL的基礎(chǔ)。人工神經(jīng)網(wǎng)絡(luò)的種類(lèi)多種多樣，但其分類(lèi)依據(jù)逃不出三個(gè)基本點(diǎn)：神經(jīng)元模型，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)算法。人工神經(jīng)網(wǎng)絡(luò)是由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)與模糊系統(tǒng)、遺傳算法、進(jìn)化機(jī)制等相結(jié)合，成為人工智能的一個(gè)重要方向。當(dāng)然，人工神經(jīng)網(wǎng)絡(luò)還存在許多缺陷，人們希望尋找新的突破點(diǎn)，推動(dòng)人工智能技術(shù)不斷向前發(fā)展。