asyan.org
добавить свой файл
1 2 ... 9 10

РОЗДІЛ 2. НЕЙРОМЕРЕЖІ ЯК ІНТЕЛЕКТУАЛЬНИЙ ЕЛЕМЕНТ ІНФОРМАЦІЙНОЇ СИСТЕМИ




2.1 Класифікація топологій нейромереж




Архітектури мереж


Структура нейронних мереж тісно пов'язана з використовуваними алгоритмами навчання. Класифікація алгоритмів навчання буде наведена в наступному розділі, а питання їх побудови будуть вивчені у подальших розділах. У даному розділі ми зосередимо увагу на архітектурах мереж (структурах). У загальному випадку можна виділити три фундаментальні класи нейромережевих архітектур.

Одношарові мережі прямого поширення (рисунок 2.1)




Рисунок 2. – Мережа прямого поширення з одним шаром нейронів.

Багатошарові мережі прямого поширення (рисунок 2.2)


  • Повнозв’язні

  • Неповнозв’язні



Рисунок 2. – Повнозв’язна мережа прямого поширення з одним прихованим та одним вихідним шаром

Рекурентні мережі


Рекурентна нейронна мережа (recurrent network) відрізняється від мережі прямого поширення наявністю принаймні одного зворотного зв'язку (feedback loop). Наприклад, рекурентна мережа може складатися з єдиного шару нейронів, кожен з яких спрямовує свій вихідний сигнал на входи всіх інших нейронів шару (рисунок 2.3 і рисунок 2.4).



Рисунок 2. – Рекурентна мережа без прихованих нейронів та зворотних зв’язків нейронів з самими собою



Рисунок 2. – Рекурентна мережа з прихованими нейронами

Навчання


  1. навчання на основі корекції помилок (error-correction learning)

  2. навчання на основі пам'яті (memory-basedlearning)

  3. навчання Хебба (Hebb's learning)

  4. конкурентне навчання (competitive learning)

  5. навчання Больцмана (Boltzmann learning)

Задачі, що вирішуються нейронними мережами


  1. Асоціативна пам’ять

  2. Розпізнавання образів (класифікація, кластеризація)

  3. Апроксимація функцій

  4. Управління

  5. Прийняття рішень

  6. Фільтрація

  7. Прогнозування

Основні типи нейронних мереж

Одношаровий персептрон


Персептрон являє собою найпростішу форму нейронної мережі, призначену для класифікації лінійно-роздільних (linearly separable) сигналів (тобто образи можна розділити деякою гіперплощиною). Персептрон складається з одного нейрона з налаштовуваними синаптичними вагами і порогом [18].

Одиничний нейрон також складає основу адаптивного фільтра (adaptive filter) – функціонального блоку, що є основним для предметної області обробки сигналів (signal processing)(рисунок 2.5).



Рисунок 2. – Граф передачі сигналу для персептрона

Універсальнімережі прямого поширення


Багатошаровий персептрон

Багатошарові персептрони успішно застосовуються для вирішення різноманітних складних завдань. При цьому навчання з учителем виконується за допомогою такого популярного алгоритму, як алгоритм зворотного поширення помилки (errorback-propagationalgorithm) [19]. Цей алгоритм ґрунтується на корекції помилок (error-correction learning rule).

Властивості


Багатошарові персептрони мають три відмінних ознаки.

  1. Кожен нейрон мережі має нелінійну функцію активації (nonlinear activation function). Важливо підкреслити, що дана нелінійна функція є гладкою (тобто всюди диференційованою), на відміну від жорсткої порогової функції, використовуваної в персептроні Розенблатта. Наявність нелінійності відіграє дуже важливу роль, так як в противному випадку відображення «вхід-вихід» мережі можна звести до звичайного одношарового персептрону.

  2. Мережа містить один або кілька шарів прихованих нейронів, які не є частиною входу або виходу мережі. Ці нейрони дозволяють мережі навчатися розв’язку складних завдань, послідовно витягуючи найбільш важливі ознаки з вхідного образу (вектора).

  3. Мережа володіє високим ступенем зв'язності (connectivity), що реалізується за допомогою синаптичних з'єднань. Зміна рівня зв'язності мережі вимагає зміни набору синаптичних з'єднань або їх вагових коефіцієнтів.



следующая страница >>