Головна

Основні визначення теорії кодування.

  1. Cегментація ринку. Основні завдання. Критерії сегментації на В2С ринку.
  2. I. Основні поняття ОРГАНІЗАЦІЙНОЇ СОЦІАЛЬНОЇ ПСИХОЛОГІЇ
  3. I.2.2. Основні будівельні креслення.
  4. I.3.2. Цілі і основні етапи розбивочних робіт.
  5. II.1 Основні елементи грошової маси
  6. II. Системи збудження СД і їх основні властивості
  7. III. Основні конституційні засади організації Російської держави.

код - (1) правило, яке описує відповідність знаків або їх поєднань одного алфавіту знаків або їх сполученням іншого алфавіту; - (2) знаки вторинного алфавіту, використовувані для представлення знаків або їх поєднань первинного алфавіту.
кодування - Переклад інформації, представленої за допомогою первинного алфавіту, в послідовність кодів.
декодування - Операція, зворотна кодуванню, тобто відновлення інформації в первинному алфавіті за отриманою послідовності кодів.

Операції кодування і декодування називаються оборотними, якщо їх послідовне застосування забезпечує повернення до вихідної інформації без будь-яких її втрат.
 прикладом оборотного кодування є уявлення знаків у телеграфному коді і їх відновлення після передачі. Прикладом кодування незворотного може служити переклад з однієї природної мови на іншу - зворотний переклад, взагалі кажучи, не відновлює вихідного тексту. Безумовно, для практичних завдань, пов'язаних із знаковою виставою інформації, можливість відновлення інформації за її кодом є необхідною умовою застосування коду, тому в подальшому викладі обмежимо себе розглядом тільки оборотного кодування.
 Таким чином, кодування передує передачі і зберігання інформації. При цьому, як зазначалося раніше, зберігання пов'язане з фіксацією деякого стану носія інформації, а передача - зі зміною стану з плином часу (тобто процесом).

Розглянемо першу теорему Шеннона.
Перша теорема Шеннона про передачу інформації, яка називається також основною теоремою про кодування при відсутності перешкод, формулюється таким чином:

При відсутності перешкод передачі завжди можливий такий варіант кодування повідомлення, при якому середнє число знаків коду, що припадають на один знак кодованого алфавіту, буде як завгодно близько до відношенню середніх інформацій на знак первинного і вторинного алфавітів.

Використовуючи поняття надмірності коду, можна дати більш коротку формулювання теореми:

При відсутності перешкод передачі завжди можливий такий варіант кодування повідомлення, при якому надмірність коду буде як завгодно близькою до нуля.

Варто згадати також про існування другої теореми Шеннона, її суттєва відмінність полягає в тому, що вона передбачається для реального каналу передачі інформації, тобто для каналу з шумом.

Додавання і віднімання чисел в природному стані | Перешкодостійкість. Відновлення інформації в каналі з шумом


Класифікація граматик. Чотири типу граматик по Хомського | Класифікація мов | Логічні операції | Логічні елементи ЕОМ - кон'юнктор, діз'юнктори, інвертори, суматори. | Приклад 4.2. | Подання чисел з плаваючою точкою. | Подання інформації в ЕОМ | Використання хвильових таблиць дає можливість моделювати звук і аранжувати музику. | правило зошити | Поняття про криптографічних методах захисту інформації |

© 2016-2022  um.co.ua - учбові матеріали та реферати