загрузка...
загрузка...
На головну

Класифікація архітектур НС

  1.  I. Класифікація за наявністю функціональних груп
  2.  III. Класифікація антибіотиків по спектру біологічної дії
  3.  Адреноміметичні засоби прямої дії. Класифікація. Механізм дії. Фармакологічна характеристика окремих препаратів. Застосування.
  4.  Антиагреганти. Класифікація, механізм дії. Застосування, Побічні ефекти.
  5.  Антиангінальні засоби. Класифікація. Механізм дії. Застосування. Побічні ефекти. Принципи терапії інфаркту міокарда.
  6.  Антиаритмічні засоби. Класифікація. Механізм дії. Застосування, побічні ефекти.
  7.  Антигіпертензивні препарати. Класифікація. Фармакологічна характеристика окремих груп препаратів. Побічні ефекти.

2) кожен з входів може приймати тільки одне з двох станів: порушену ( «1») і збудженому ( «0»);

3) в нейроні розрізняються тіло і волокна ( «аксон», «дендрити», «синапси»).

Розрізняють певні типи волокон:

- Збуджуючі ( «+1»);

- Гальмують ( «-1»);

- Забороняють, які блокують проходження сигналу по волокну ( «0»).

Мак-Каллок і Піттс довели, що при вагах, підібраних відповідним чином, сукупність паралельно функціонуючих нейронів подібного типу здатна виконувати універсальні обчислення.

Архітектура нейронних мереж

Основні поняття

план

1. Класифікація архітектур НС.

2. Особливості навчаються нейронних мереж

3. Класифікація принципів навчання нейронних мереж

4. Схеми навчання нейронних мереж

4.1. Схема навчання нейронної мережі без вчителя

4.2. Схема навчання нейронної мережі з учителем

Класифікація архітектур НС

Розглянемо класифікацію штучних нейронних мереж за різними ознаками.

1. Вид сигналів в нейронної мережі. За використовуваним сигналам на входах і виходах НС поділяють на аналогові і бінарні.

2. Характер активаційних функцій. Якщо активаційна функція одна для всіх нейронів мережі, то мережу називають однорідною. Якщо ж активаційна функція залежить ще від деяких параметрів, значення яких змінюються від нейрона до нейрона, то мережу називають неоднорідною (гетерогенної).

 3. Тип активационной функції. За типом активационной функції, використовуваної на різних шарах НС, розрізняють лінійні і нелінійні мережі.

Теорема. Будь-яка багатошарова лінійна мережа може бути замінена еквівалентною одношаровою мережею (рис. 3.2).

4. Модельне час НС. За модельному часу (моделювання часу) нейронні мережі поділяються на мережі з безперервним і дискретним часом.

5. Спосіб синхронізації. Як і в будь-який ВС в нейронних мережах розрізняють два способи синхронізації: - синхронний і асинхронний. При програмної реалізації на цифрових ЕОМ нейронних мереж питання синхронізації не актуальний. Для інших способів реалізації він дуже важливий.

6. Топологія. Під топологією нейронної мережі будемо розуміти графічну ілюстрацію з'єднання нейронів між собою в цій мережі.

Нейросеть, також як і біологічний аналог, повинна мати канали для зв'язку із зовнішнім світом. Одні канали забезпечують надходження інформації з зовнішнього світу на НС, інші виводять інформацію з нейромережі до зовнішнього світу. Тому одні елементи нейронної мережі розглядається як вхідні, інші ж - як вихідні. Частина нейронів може не єднатися з зовнішнім світом, а взаємодіяти з вхідними, вихідними і такими ж нейронами ( "приховані" нейрони).

Очевидно, що існує величезна кількість способів з'єднання нейронів, зростаюче зі збільшенням числа нейронів в мережі.

За цією ознакою виділяють дві базові архітектури НС - одношарові і багатошарові мережі.

Одношарові нейронні мережі

В одношарових мережах нейрони з'єднуються або за принципом кожен з кожним - полносвязанние мережі, або регулярно - регулярні мережі.

У повнозв'язних мережах кожен нейрон передає свій вихідний сигнал іншим нейронам (рис. 3.3). Всі вхідні сигнали подаються всім нейронам. Вихідними сигналами мережі можуть бути всі або деякі вихідні сигнали нейронів після кількох тактів функціонування мережі.

 Якщо полносвязная мережа функціонує до отримання відповіді задане число тактів k, то її можна представити як окремий випадок k-шарової мережі, всі верстви якої однакові, і кожен з них відповідає такту функціонування повно-мережі.

Істотна відмінність між повно і шаруватої мережами стає очевидним, коли число тактів функціонування заздалегідь не обмежена - шаруваті мережі так працювати не можуть.

 
 

 У регулярних мережах для кожного нейрона характерна сувора визначеність числа зв'язків (рис.3.4). Число зв'язків нейрона залежить від місця його розташування в мережі. Особливістю мереж з регулярною топологією є один вид функції активації для всіх нейронів цієї мережі.

Регулярна топологія нейронної мережі, наведена на рис. 3.4, не є єдиною. Можливо інше число зв'язків у кутових, граничних і внутрішніх нейронів, На рис. 3.5 наведено приклад регулярної гексагональної топології.

 
 

 Багатошарові нейронні мережі

У багатошарових мережах нейрони групують по верствам. Зовнішні шари багатошарової мережі називають вхідним і вихідним шарами. Внутрішні шари називають прихованими. Число прихованих шарів необмежено. Шаруваті мережі описуються неполносвязним орієнтованим графом (і часто називаються персептрони).

Зазвичай вектор вхідних сигналів подається на всі нейрони першого шару мережі. Вектор вихідних сигналів утворюється виходами всіх нейронів останнього шару. Структура внутрішніх (прихованих) шарів може бути організована по-різному. Число нейронів в кожному шарі може бути будь-яким і ніяк заздалегідь не пов'язане з кількістю нейронів в інших шарах.

Серед багатошарових мереж виділяють:

мережі з прямими зв'язками;

мережі з перехресними зв'язками;

мережі з зворотними зв'язками;

мережі з латеральними зв'язками.

Нейронна мережа з прямими зв'язками

Всі нейрони вхідного шару активізуються вектором вхідного сигналу, а всі нейрони вихідного шару визначають вихідний вектор.

На рис. 3.6 і 3.7 представлені мереж з прямими зв'язками з одним і двома шарами і точками розгалуження на вході.


 Якщо в НС все вузли кожного шару з'єднані з усіма вузлами смежду шарів, то така мережа називається повно мережею прямого поширення. Якщо деякі з синаптичних зв'язків відсутні, то мережу називається неполносвязной. На рис. 3.8 показана двошаровий полносвязная мережу з прямими зв'язками. Вона називається мережею 10-4-2, тому що має 10 точок розгалуження, 4 прихованих і 2 вихідних нейрона.

Нейронна мережа з перехресними зв'язками

Варіант двошарової мережі з перехресними зв'язками наведено на рис. 3.9. Тут нейрони другого шару мають синаптичні зв'язки як з виходів нейронів першого шару, так і безпосередньо з входу НС. У загальному випадку в багатошарових мережах довільної структури можливі різні конфігурації перехресних зв'язків.

 
 

 Нейронна мережа із зворотними зв'язками


 Зворотним зв'язком можна охоплювати як окремий шар, так і кілька шарів і навіть всю мережу. На рис. 3.10 приведена чотиришарова мережу з різними зворотними зв'язками.

Нейронна мережа з латеральними зв'язків

У нейронних мережах з латеральними зв'язками використовуються бічні зв'язки. Такі зв'язку зазвичай використовуються для мереж розпізнавання графічних об'єктів.

Латеральні зв'язку бувають гальмують і збудливими. На рис. 3.11 наведено приклад контрастування сигналів сусідніх нейронів в окремому шарі.

 
 

 7. Мірність зв'язків. З точки зору уявлення шарів і зв'язків мережі розрізняють одномірні і багатовимірні (двовимірні) НС.


 У двовимірних мережах кожен нейрон своїми синаптическими зв'язками проектується на невелику область наступного шару (рис. 3.12). В даному випадку шари представляють не одновимірними, а плоскими, тобто двомірними. При подібному зменшенні числа міжнейронних зв'язків можна значно скоротити обсяг обчислень при програмному моделюванні мережі і обсяг апаратури при апаратній реалізації.

8. Напрямок зв'язків між нейронами. За цією ознакою нейронні мережі згруповані в два великі класи: мережі прямого поширення (ациклічні), в яких графи не мають петель, і рекурсивні мережі, або мережі з зворотними зв'язками (рис. 3.13).

На рис. 3.13 представлені типові мережі кожного класу. Мережі прямого поширення є статичними, тобто на заданий вхідний вектор вони виробляють одну сукупність вихідних значень, що не залежать від попереднього стану мережі. Рекурсивні мережі є динамічними, так як в силу зворотних зв'язків в них модифікуються входи нейронів, що призводить до зміни стану мережі.

9. Спосіб вирішення завдання. З точки зору цього критерію класифікації Нс ділять на що формуються, мережі з формованої матрицею зв'язку, яких навчають і комбіновані (змішані).

формуються мережі

Мережі цього виду проектують для формалізованих задач, що мають чітко сформульований в нейромережевому базисі алгоритм вирішення конкретного завдання.

Мережі з формованої матрицею зв'язків

Мережі цього виду застосовують для трудноформалізуемих завдань.

навчають мережі

Цей вид мереж використовують для вирішення неформалізованих задач.

комбіновані мережі

Цей клас мереж поєднує в собі ознаки двох, а то й трьох основних видів.

 




 Класифікація принципів навчання нейронних мереж |  Схеми навчання нейронних мереж |  Схема навчання нейронної мережі з учителем |  одношаровий персептрон |  багатошаровий персептрон |

загрузка...
© um.co.ua - учбові матеріали та реферати