Головна |
Розглянемо об'єкт (рис. 4.1) з входом , Який може бути вектором , І виходом - Скаляр. Вихідна змінна є дискретною випадковою величиною.
Мал. 4.1. Об'єкт дослідження.
Існує деяка невідома залежність між входом і виходом . Необхідно оцінити дану залежність, побудувавши модель .
Нехай дана вибірка статистично незалежних спостережень випадкової величини , Розподілених з невідомої щільністю , де - «Вказівки вчителя» про приналежність ситуації до того чи іншого класу .
під класом розуміється сукупність спостережень, пов'язаних між собою якихось властивістю або метою.
Необхідно побудувати вирішальне правило , Що дозволяє в автоматизованому режимі приймати рішення про приналежність нових ситуацій до класів .
При наявності двох класів (Рис. 1) приймає значення и . Якщо класифікуються об'єкти характеризуються двома ознаками, то двуальтернатівная завдання розпізнавання образів ілюструється рис. 4.2, де - Розділяє поверхню (вирішальна функція) між класами и .
Мал. 4.2. Завдання розпізнавання образів в двомірному випадку
Для подальшого аналізу побудуємо щільності ймовірності класів в одновимірному випадку (рис. 4.3).
Мал. 4.3. Завдання розпізнавання образів в одновимірному випадку
Визначимо деяку кордон на осі і запишемо вирішальне правило
Тоді помилка розпізнавання першого класу складе
і для другого класу
.
Загальна помилка розпізнавання, наприклад, за однакової кількості апріорних ймовірностей класів
.
Для визначення найкращої кордону знайдемо мінімум сумарної помилки по параметру
.
Візьмемо похідну отриманого критерію по параметру і прирівнюємо до нуля. Похідна від інтеграла відповідає значенню подинтегрального вираження в точці
.
В результаті отримуємо
.
Оптимальна межа знаходиться в точці перетину двох класів. Отримана розділяє поверхню між класами називається байєсівської вирішальною функцією і має вигляд
. (4.1)
Виходячи з цього, вирішальне правило буде мати вигляд:
Вирішальне правило, що відповідає даній байєсівської розділяє поверхні, називається правилом максимальної правдоподібності.
Далі розглянемо ситуацію коли, апріорні ймовірності класів різні. нехай - Загальна кількість спостережень; - Кількість спостережень першого класу; - Кількість спостережень другого класу.
Мал. 4.4. Завдання розпізнавання образів для випадку
Тоді частота появи точок першого і другого класу буде відповідати
.
Тому, якщо , То помилка розпізнавання другого класу буде більше, т. К. Точки другого класу з'являються в області перетину класів частіше.
Помилка для першого класу визначається виразом
і для другого класу
.
Виходячи з цього, запишемо сумарну помилку
.
Знайдемо мінімум сумарної помилки по кордоні і отримаємо Байєсова розділяє поверхню
. (4.2)
Тоді вирішальне правило, що відповідає даній розділяє поверхні, буде мати вигляд
і називається правилом максимуму апостеріорної ймовірності.
ТРИ ВИДУ рівняння Бернуллі | Непараметричні оцінки вирішальних функцій
Непараметричні алгоритми розпізнавання образів колективного типу | Синтез і аналіз непараметрического вирішального правила, заснованого на оцінках щільності ймовірності | Частотні алгоритми розпізнавання образів в просторі дискретних ознак | Непараметричний алгоритм класифікації, заснований на частотному методі розпізнавання образів | Багаторівневі системи розпізнавання образів | Непараметричні алгоритми розпізнавання образів з урахуванням взаємозв'язку між ознаками | Нелінійні непараметричні колективи вирішальних правил в задачах розпізнавання образів | Гібридні алгоритми розпізнавання образів | Непараметричні алгоритми розпізнавання образів, засновані на рандомізованому методі їх ідентифікації | Непараметричні алгоритми класифікації множин випадкових величин |