Використовуючи ресурси Інтернет, знайти відповіді на запитання:
Завдання 1
1. Що таке процес передачі?
Передача інформації- фізичний процес, за допомогою якого здійснюється переміщення інформації в просторі. Записали інформацію на диск та перенесли до іншої кімнати.Цей процес характеризується наявністю наступних компонентів:
2. Загальна схема передачі
3. Перерахуйте відомі вам канали зв'язку
За типом середовища поширення канали зв'язку поділяються на:
4. Що таке телекомунікації та комп'ютерні телекомунікації?Телекомунікації(грецьк. tele - вдалину, далеко і лат. communicatio - спілкування) - це передача та прийом будь-якої інформації (звуку, зображення, даних, тексту) на відстань по різних електромагнітних системах (кабельним та оптоволоконним каналам, радіоканалам та іншим провідним та бездротовим каналам зв'язку).
Телекомунікаційна мережа- це система технічних засобів, з якої здійснюються телекомунікації.
До телекомунікаційних мереж відносяться:
1. Комп'ютерні мережі (для передачі)
2. Телефонні мережі (передача голосової інформації)
3. Радіомережі (передача голосової інформації – широкомовні послуги)
4. Телевізійні мережі (передача голосу та зображення - широкомовні послуги)
Комп'ютерні телекомунікації - телекомунікації, кінцевими пристроями є комп'ютери.
Передача інформації з комп'ютера на комп'ютер називається синхронним зв'язком, а через проміжну ЕОМ, що дозволяє накопичувати повідомлення і передавати їх на персональні комп'ютери в міру запиту користувачем - асинхронної.
Комп'ютерні телекомунікації починають впроваджуватися у освіту. У вищій школі їх використовують для координації наукових досліджень, оперативного обміну інформацією між учасниками проектів, навчання на відстані, проведення консультацій. В системі шкільної освіти- підвищення ефективності самостійної діяльності учнів, що з різноманітними видами творчих робіт, включаючи і навчальну діяльність, з урахуванням широкого використання дослідницьких методів, вільного доступу до баз даних, обміну інформацією з партнерами як у країні, і там.
5. Що таке пропускна спроможність каналу передачі?Пропускна здатність- метрична характеристика , що показує співвідношення граничної кількості одиниць (інформації , предметів, обсягу) в одиницю часу через канал, систему, вузол.
В інформатиці визначення пропускної спроможності зазвичай застосовується до каналу зв'язку та визначається максимальною кількістю переданої/отриманої інформації за одиницю часу.
Пропускна здатність - один із найважливіших з погляду користувачів факторів. Вона оцінюється кількістю даних, які мережа межі може передати за одиницю часу від одного приєднаного до неї пристрою до іншого.
Швидкість передачі залежить значною мірою від швидкості її створення (продуктивності джерела), способів кодування і декодування. Найбільша можлива у цьому каналі швидкість передачі називається його пропускної спроможністю. Пропускна здатність каналу, за визначенням, є швидкість передачі інформації при використанні найкращих (оптимальних) для даного каналу джерела, кодера і декодера, тому вона характеризує тільки канал.
>>Інформатика: Інформатика 9 клас. Додаток до глави 1
Додаток до глави 1
1.1. Передача інформації з технічних каналів зв'язку
Основні теми параграфа:
♦ схема К. Шеннона;
♦ кодування та декодування інформації;
♦ шум та захист від шуму. Теорія кодування К. Шеннона.
Схема К. Шеннона
Американським ученим, одним із засновників теорії інформації, Клодом Шенноном було запропоновано схему процесу передачі інформаціїз технічних каналів зв'язку, представлений на рис. 1.3.
Роботу такої схеми можна пояснити на знайомому процесі розмови по телефону. Джерелом інформації є людина, що говорить. Кодуючим пристроєм - мікрофон телефонної трубки, за допомогою якого звукові хвилі (мова) перетворюються на електричні сигнали. Каналом зв'язку є телефонна мережа (проводи, комутатори телефонних вузлів, якими проходить сигнал). Декодуючим пристроєм є телефонна трубка (навушник) людини, що слухає - приймача інформації. Тут електричний сигнал, що прийшов, перетворюється на звук.
Зв'язок, при якій передача виробляється у формі безперервного електричного сигналу, називається аналоговим зв'язком.
Кодування та декодування інформації
Під кодуванням розуміється будь-яке перетворення інформації, що йде від джерела, у форму, придатну для її передачі каналом зв'язку.
На зорі ери радіозв'язку застосовувався абетки Морзе. Текст перетворювався на послідовність точок і тире (коротких і довгих сигналів) і передавався в ефір. Людина, яка приймала на слух таку передачу, повинна була зуміти декодувати код назад у текст. Ще раніше абетка Морзе використовувалася у телеграфному зв'язку. Передача інформації за допомогою азбуки Морзе є прикладом дискретного зв'язку.
В даний час широко використовується цифровий зв'язок, коли передана інформаціякодується в двійкову форму (0 і 1 – двійкові цифри), а потім декодується в текст, зображення, звук. Цифровий зв'язок, очевидно, також є дискретним.
Шум та захист від шуму. Теорія кодування К. Шеннона
Терміном «шум» називають різного роду перешкоди, що спотворюють сигнал, що передається і приводять до втрати інформації. Такі перешкоди перш за все виникають з технічних причин: погана якість ліній зв'язку, незахищеність один від одного різних потоків інформації, що передаються по одних і тих самих каналах. Часто, розмовляючи телефоном, ми чуємо шум, тріск, що заважають зрозуміти співрозмовника, або на нашу розмову накладається розмова інших людей. У таких випадках необхідний захист від шуму.
Насамперед застосовуються технічні засоби захисту каналів зв'язку від впливу шумів. Такі способи бувають різними, іноді - простими, іноді - дуже складними. Наприклад, використання екранованого кабелю замість голого дроту; застосування різного роду фільтрів, що відокремлюють корисний сигнал від шуму, та ін.
Клодом Шенноном було розроблено спеціальну теорію кодування, що дає методи боротьби з шумом. Одна з важливих ідей цієї теорії полягає в тому, що переданий по лінії зв'язку код має бути надлишковим. За рахунок цього втрата якоїсь частини інформації при передачі може бути компенсована. Наприклад, якщо під час розмови по телефону вас погано чути, то, повторюючи кожне слово двічі, ви маєте більше шансів на те, що співрозмовник зрозуміє вас правильно.
Проте не можна робити надмірність надто великою. Це призведе до затримок та подорожчання зв'язку. Теорія кодування К. Шеннона таки дозволяє отримати такий код, який буде оптимальним. При цьому надмірність інформації, що передається, буде мінімально можливою, а достовірність прийнятої інформації - максимальною.
У сучасних системах цифрового зв'язку часто застосовується наступний прийом боротьби із втратою інформації під час передачі. Усі повідомлення розбивається на порції - пакети. Для кожного пакета обчислюється контрольна сума(сума двійкових цифр), що передається разом із цим пакетом. У місці прийому знову обчислюється контрольна сума прийнятого пакета, і якщо вона не збігається з початковою, то передача цього пакета повторюється. Так відбувається доти, поки вихідна та кінцева контрольні суми не співпадуть.
Коротко про головне
Будь-яка технічна система передачі інформації складається з джерела, приймача, пристроїв кодування та декодування та каналу зв'язку.
Під кодуванням розуміється перетворення інформації, що йде від джерела, у форму, придатну для її передачі каналом зв'язку. Декодування – це зворотне перетворення.
Шум – це перешкоди, що призводять до втрати інформації.
У теорії кодування розроблені методи представлення інформації, що передається з метою зменшення її втрат під впливом шуму.
Запитання та завдання
1. Назвіть основні елементи схеми передачі, запропонованої К. Шенноном.
2. Що таке кодування та декодування при передачі інформації?
3. Що таке шум? Якими є його наслідки при передачі інформації?
4. Які існують засоби боротьби з шумом?
1.2. Архівування та розархівування файлів
Основні теми параграфа:
♦ проблема стиснення даних;
♦ алгоритм стиснення з використанням коду змінної довжини;
♦ алгоритм стиснення з використанням коефіцієнта повторення;
♦ програми-архіватори.
Проблема стиснення даних
Ви вже знаєте, що за допомогою глобальної мережі Інтернет користувач отримує доступ до величезних інформаційних ресурсів. У мережі можна знайти рідкісну книгу, реферат практично з будь-якої теми, фотографії та музику, комп'ютерну гру та багато іншого. При передачі цих даних через мережу можуть виникнути проблеми через їх великий обсяг. Пропускна здатність каналів зв'язку ще досить обмежена. Тому час передачі може бути надто великим, а це пов'язано з додатковими фінансовими витратами. Крім того, для файлів великого розміру може бути недостатньо вільного місця на диску.
Вирішення проблеми полягає в стисненні даних, що веде до скорочення обсягу даних за збереження закодованого в них змісту. Програми, що здійснюють такий стиск, називаються архіваторами. Перші архіватори з'явилися у середині 1980-х років XX століття. Головною метою їх використання була економія місця на дисках, інформаційний обсяг яких у ті часи був значно меншим за обсяг сучасних дисків.
Стиснення даних (архівування файлів) відбувається за спеціальними алгоритмами. У цих алгоритмах найчастіше використовуються дві принципово різні ідеї.
Алгоритм стиснення з використанням коду змінної довжини
Перша думка: використання коду змінної довжини. Дані, що піддаються стиску, спеціальним чином ділять на частини (ланцюжки символів, слова). Зауважимо, що «словом» може бути окремий символ (код АSСII). Для кожного «слова» знаходиться частота народження: відношення кількості повторень даного «слова» до загального числа «слів» у масиві даних. Ідея алгоритму стиснення інформації: кодувати найчастіше «слова» кодами меншої довжини, ніж рідко зустрічаються «слова». При цьому можна значно скоротити обсяг файлу.
Такий підхід відомий давно. Він використовується в азбуці Морзе, де символи кодуються різними послідовностями точок і тире, причому найчастіше зустрічаються символи мають більш короткі коди. Наприклад, літера «А», що часто використовується, кодується так: -. А рідкісна літера "Ж" кодується: -. На відміну від кодів однакової довжини, у разі виникає проблема відділення кодів букв друг від друга. В азбуці Морзе ця проблема вирішується за допомогою «паузи» (пробілу), яка, по суті, є третім символом алфавіту Морзе, тобто алфавіту Морзе не двох-, а трьох символьний.
Інформація пам'яті ЕОМ зберігається з допомогою двох символьного алфавіту. Спеціального символу-розділювача немає. І все ж таки вдалося придумати спосіб стиснення даних зі змінною довжиною коду «слів», що не вимагає символу-розділювача. Такий алгоритм називається алгоритмом Д. Хаффмена (вперше опубліковано у 1952 році). Всі універсальні архіватори працюють за алгоритмами, подібними до алгоритму Хаффмена.
Алгоритм стиснення з використанням коефіцієнта повторення
Друга ідея використання коефіцієнта повторення. Сенс алгоритму, заснованого на цій ідеї, полягає в наступному: якщо в стисливому масиві даних зустрічається ланцюжок з груп символів, що повторюються, то його замінюють парою: число (коефіцієнт) повторень - група символів. У цьому випадку для довгих ланцюжків, що повторюються, виграш пам'яті при стисканні може бути дуже великим. Цей метод найбільш ефективний при упаковці графічної інформації.
Програми-архіватори
Програми-архіватори створюють архівні файли (архіви). Архів є файлом, в якому в стислому вигляді зберігаються один або кілька файлів. Для використання заархівованих файлів необхідно зробити їх лікування з архіву - розархівування. Усе програми-архіватори зазвичай надають такі можливості:
Додавання файлів до архіву;
вилучення файлів з архіву;
видалення файлів із архіву;
перегляд вмісту архіву.
В даний час найбільш популярні архіватори WinRar та WinZip. WinRar має ширші можливості порівняно з WinZip. Зокрема, він дає можливість створення багатотомного архіву (це зручно, якщо архів необхідно скопіювати на дискету, а його розмір перевищує 1,44 Мбайт), а також можливість створення архіву, що саморозпаковується (в цьому випадку для вилучення даних з архіву не потрібен сам архіватор) .
Наведемо приклад вигоди використання архіваторів під час передачі даних у мережі. Розмір текстового документа, що містить параграф, який ви читаєте, - 31 Кб. Якщо цей документ заархівувати за допомогою WinRar, розмір архівного файлу складе всього 6 Кб. Як кажуть, вигода очевидна.
Користуватись програмами-архіваторами дуже просто. Щоб створити архів, потрібно спочатку вибрати файли, які необхідно ввімкнути, потім встановити необхідні параметри (спосіб архівації, формат архіву, розмір тома, якщо архів багатотомний), і, нарешті, віддати команду СТВОРИТИ АРХІВ. Подібним чином відбувається зворотна дія – вилучення файлів з архіву (розпакування архіву). По-перше, потрібно вибрати файли, що витягуються з архіву, по-друге, визначити, куди повинні бути поміщені ці файли, і, нарешті, віддати команду ВИМАТИ ФАЙЛИ З АРХІВУ. Докладніше з роботою програм-архіваторів ви познайомитеся на практичних заняттях.
Коротко про головне
Стиснення інформації проводиться за допомогою спеціальних програм-архіваторів.
Найчастіше в алгоритмах стиснення використовуються два методи: використання коду змінної довжини та використання коефіцієнта повторення групи символів.
Запитання та завдання
1. У чому різниця кодів постійної та змінної довжини?
2. Які можливості мають програми-архіватори?
3. Яка причина широкого застосування програм-архіваторів?
4. Чи знаєте ви інші програми-архіватори, крім перелічених у цьому параграфі?
І. Семакін, Л. Залогова, С. Русаков, Л. Шестакова, Інформатика, 9 клас
Надіслано читачами з інтернет-сайтів
Відкритий урок інформатики, шкільний план, реферати інформатики
Зміст уроку конспект урокуопорний каркас презентація уроку акселеративні методи інтерактивні технології Практика завдання та вправи самоперевірка практикуми, тренінги, кейси, квести домашні завдання дискусійні питання риторичні питання від учнів Ілюстрації аудіо-, відеокліпи та мультимедіафотографії, картинки графіки, таблиці, схеми гумор, анекдоти, приколи, комікси притчі, приказки, кросворди, цитати Доповнення рефератистатті фішки для допитливих шпаргалки підручники основні та додаткові словник термінів інші Вдосконалення підручників та уроківвиправлення помилок у підручникуоновлення фрагмента у підручнику елементи новаторства на уроці заміна застарілих знань новими Тільки для вчителів ідеальні урокикалендарний план на рік методичні рекомендаціїпрограми обговорення Інтегровані урокиЯкщо у вас є виправлення або пропозиції до цього уроку,
На сьогоднішній день інформація так швидко поширюється, що не вистачає часу її осмислити. Більшість людей рідко замислюються про те, як і за допомогою яких коштів вона передається, а тим більше не уявляє собі схему передачі інформації.
Основні поняття
Передачею інформації прийнято вважати фізичний процес переміщення даних (знаків та символів) у просторі. З погляду передачі - це сплановане заздалегідь, технічно оснащений захід по переміщенню інформаційних одиниць за встановлений час від так званого джерела до приймача за допомогою інформаційного каналу, або каналу передачі даних.
Канал передачі - сукупність коштів чи середовище поширення даних. Іншими словами, це та частина схеми передачі інформації, яка забезпечує рух інформації від джерела до отримувача, а за певних умов і назад.
Класифікацій каналів передачі багато. Якщо виділити основні їх, можна перерахувати такі: радіоканали, оптичні, акустичні чи бездротові, проводові.
Технічні канали передачі інформації
Безпосередньо до технічних каналів передачі даних відносяться радіоканали, оптоволоконні канали та кабельні. Кабель може бути коаксіальний або на основі кручених пар. Перші є електричний кабель з мідним дротом усередині, а другі - кручені пари мідних дротів, ізольовані попарно, що у діелектричної оболонці. Ці кабелі досить гнучкі та зручні у використанні. Оптоволокно складається з оптоволоконних ниток, що передають світлові сигнали у вигляді відображення.
Основними характеристиками є пропускна здатність та завадостійкість. Під пропускною спроможністю прийнято розуміти той обсяг інформації, який можна передати каналом за певний час. А завадостійкістю називають параметр стійкості каналу до дії зовнішніх перешкод (шумів).
Загальне уявлення про передачу даних
Якщо не конкретизувати область застосування, загальна схема передачі інформації виглядає нескладно, включає три компоненти: «джерело», «приймач» і «канал передачі».
Схема Шеннона
Клод Шеннон, американський математик та інженер, стояв біля джерел теорії інформації. Їм було запропоновано схему передачі інформації з технічних каналів зв'язку.
Зрозуміти цю схему нескладно. Особливо якщо уявити її елементи у вигляді знайомих предметів та явищ. Наприклад, джерело інформації - людина, яка розмовляє телефоном. Телефонна трубка буде кодуючим пристроєм, який перетворює мовлення або звукові хвилі на електричні сигнали. Каналом передачі в цьому випадку є вузли зв'язку, загалом, вся телефонна мережа, що веде від одного телефонного апарату до іншого. Декодуючим пристроєм є трубка абонента. Вона перетворює електричний сигнал назад у звук, тобто у мова.
У цій схемі процесу передачі дані представлені у вигляді безперервного електричного сигналу. Такий зв'язок називається аналоговим.
Поняття кодування
Кодуванням прийнято вважати перетворення інформації, що посилається джерелом, у форму, придатну для передачі по каналу зв'язку. Найзрозуміліший приклад кодування – це азбука Морзе. У ній інформація перетворюється на послідовність точок і тире, тобто коротких та довгих сигналів. Сторона, що приймає, повинна декодувати цю послідовність.
В сучасних технологіяхвикористовується цифровий зв'язок. У ній інформація перетворюються (кодується) на двійкові дані, тобто 0 і 1. Існує навіть бінарний алфавіт. Такий зв'язок називається дискретним.
Перешкоди в інформаційних каналах
У схемі передачі також присутній шум. Поняття " шум " у разі означає перешкоди, внаслідок яких відбувається спотворення сигналу як наслідок, його втрата. Причини перешкод можуть бути різні. Наприклад, інформаційні канали можуть бути погано захищені один від одного. Для запобігання перешкодам застосовують різні технічні способи захисту, фільтри, екранування тощо.
К. Шенноном була розроблена та запропонована до використання теорія кодування для боротьби з шумом. Ідея полягає в тому, що раз під впливом шуму відбувається втрата інформації, отже, дані, що передаються, повинні бути надмірні, але в той же час не настільки, щоб знизити швидкість передачі.
У цифрових каналах зв'язку інформація поділяється на частини - пакети, кожному з яких обчислюється контрольна сума. Ця сума передається разом із кожним пакетом. Приймач інформації знову обчислює цю суму і приймає пакет, тільки якщо вона збігається з початковою. Інакше пакет відправляється знову. І так доти, доки відправлена та отримана контрольні суми не співпадуть.
Загальна схема передачі в лінії зв'язку
Раніше джерело інформації було визначено як об'єкт чи суб'єкт, який породжує інформацію і має можливість її у вигляді повідомлення, тобто. послідовності сигналів у матеріальному носії. Іншими словами, джерело пов'язує інформацію з її матеріальним носієм. Передача повідомлення від джерела до приймача завжди пов'язані з деяким нестаціонарним процесом, що у матеріальному середовищі. Ця умова є обов'язковою, оскільки сама інформація матеріальним об'єктом або формою існування матерії не є. Способів передачі є безліч: пошта, телефон, радіо, телебачення, комп'ютерні мережі та ін. Однак при всій різноманітності конкретної реалізації способів зв'язку в них можна виділити загальні елементи, представлені на схемі (рис. 9).
Можлива ситуація, коли кодуючий пристрій виявляється зовнішнім по відношенню до джерела інформації, наприклад, телеграфний апарат або комп'ютер по відношенню до оператора, що працює на ньому. Далі коди мають бути переведені в послідовність матеріальних сигналів, тобто поміщені на матеріальний носій – цю операцію виконує перетворювач. Перетворювач може бути суміщений з пристроєм, що кодує (наприклад, телеграфний апарат),
Рис. 9.
зв'язку може бути і самостійним елементом лінії зв'язку (наприклад, модем, що перетворює електричні дискретні сигнали з частотою комп'ютера аналогові сигнали з частотою, на якій їх згасання в телефонних лініях буде найменшим). До перетворювачів відносять також пристрої, які переводять повідомлення з одного носія на інший, наприклад, мегафон або телефон, що перетворюють голосові сигнали в електричні; радіопередавач, що перетворює голосові сигнали на радіохвилі; телекамера, що перетворює зображення на послідовність електричних імпульсів. У випадку при перетворенні вихідні сигнали в повному обсязі відтворюють всі особливості повідомлення на вході, лише його істотні боку, т. е. при перетворенні частина інформації втрачається. Наприклад, смуга пропускання частот при телефонному зв'язку від 300 до 3400 Гц, тоді як частоти, що сприймаються людським вухом, лежать в інтервалі - 16-20 000 Гц (тобто телефонні лінії «обрізають» високі частоти, що призводить до спотворень звуку); у чорно-білому телебаченні при перетворенні втрачається колір зображення. Саме у зв'язку з цим постає завдання вироблення такого способу кодування повідомлення, який забезпечував би можливо повніше уявлення вихідної інформації при перетворенні і в той же час був узгоджений зі швидкістю передачі інформації по даній лінії зв'язку.
Після перетворювача сигнали надходять і поширюються канал зв'язку.Поняття «канал зв'язку» включає матеріальне середовище,а також фізичнийчи інший процес,з якого здійснюється передача повідомлення, т. е. поширення сигналів у просторі з часом. У таблиці 10 наведено приклади деяких каналів зв'язку.
Будь-який реальний канал зв'язку схильний до зовнішніх впливів, в ньому також можуть відбуватися внутрішні процеси, в результаті яких спотворюються сигнали, що передаються, і, отже, пов'язане з ними повідомлення. Такі дії називаються шумами (перешкодами).Джерела перешкод можуть бути зовнішніми,
Канали зв'язку
Таблиця 10
|
Канал зв'язку |
Середа |
Носій повідомлення |
Процес, який використовується для надсилання повідомлень |
|
Пошта, кур'єри |
Середовище проживання людини |
Механічне переміщення носія |
|
|
Телефон, комп'ютерні мережі |
Провідник |
Електричний струм |
Переміщення електричних зарядів |
|
Радіо, телебачення |
Електромагнітне |
Електромагнітні |
Поширення електромагнітних хвиль |
|
Світлові хвилі |
Поширення світлових хвиль |
||
|
Звукові хвилі |
Розповсюдження звукових хвиль |
||
|
Нюхання, смак |
Повітря, їжа |
Хімічні речовини |
Хімічні реакції |
|
Дотик |
Поверхня шкіри |
Об'єкт, що впливає на органи дотику |
Теплопередача, тиск |
Після проходження повідомлення по каналу зв'язку сигнали за допомогою приймального перетворювача перетворюються на послідовність кодів, які декодуючим пристроєм подаються у формі, необхідної приймачеві інформації. На етапі прийому, як і при передачі, перетворювач може бути поєднаний з декодуючим пристроєм (наприклад, радіо або телевізор) або існувати самостійно (наприклад, модем).
Поняття «лінія зв'язку» поєднує всі елементи, представлені на схемі - від джерела до приймача інформації. Характеристики будь-якої лінії зв'язку є швидкість, з якою можлива передача повідомлення в ній, а також ступінь спотворення повідомлення в процесі передачі. З цих параметрів вичленим ті, що відносяться безпосередньо до каналу зв'язку, тобто характеризують середовище та процес передачі.
Характеристики каналу зв'язку
Далі розглянемо канали зв'язку, передача повідомлень якими здійснюється з допомогою електричних імпульсів. З практичної точки зору, а також для комп'ютерних ліній зв'язку ці канали становлять найбільший інтерес.
Ширина смуги пропускання
Будь-який перетворювач, робота якого заснована на використанні коливань (електричних або механічних), може формувати та пропускати сигнали з обмеженої області частот. (Приклад з телефонним зв'язком наводився вище.) Те саме слід віднести до радіо та телевізійного зв'язку: весь частотний спектр розділений на діапазони (ДВ, СВ, KBI, КВП, УКХ, ДМ В), в межах яких кожна станція займає свій піддіапазон, щоб не заважати мовленню інших.
Інтервал частот, використовуваний даним каналом зв'язку передачі сигналів, називається шириною смуги пропускання.
Для побудови теорії важлива не сама ширина смуги пропускання, а максимальне значення частоти цієї смуги (v m), оскільки саме їй визначається можлива швидкість передачі інформації по каналу.
Тривалість елементарного імпульсу може бути з наступних міркувань. Якщо параметр сигналу змінюється синусоїдально, то, як видно з малюнка, за один період коливання Тсигнал матиме одне максимальне значення та одне мінімальне.
Рис. 10.
Якщо апроксимувати синусоїду прямокутними імпульсами і змістити початок відліку на рівень мінімального значення, вийде, що сигнал набуває всього два значення: максимальне (позначимо його "1")- імпульс,мінімальне (можна позначити «Про»)- пауза.Імпульс та паузу можна вважати елементарними сигналами; при вибраній апроксимації їх тривалості очевидно однакові і рівні:
Якщо імпульси породжуються тактовим генератором, що має частоту v m,то
Таким чином, кожне т 0 секунд можна передавати імпульс або паузу, пов'язуючи з їх послідовністю певні коди. Використовувати сигнали більшої тривалості, ніж т 0 в принципі, можливо (наприклад, 2т 0) - це не призведе до втрати інформації, хоча знизить швидкість її передачі по каналу. Використання сигналів більш коротких, ніж т 0 може призвести до інформаційних втрат, оскільки сигнали тоді будуть приймати якісь проміжні значення між мінімальним і максимальним, що ускладнить їх інтерпретацію.
Таким чином, v m визначає тривалість елементарного сигналут 0 використовуваного передачі повідомлення.
Пропускна здатність каналу зв'язку
Якщо з передачею одного імпульсу пов'язана кількість інформації 1. тр, а передається вона за част 0 відношення I дот 0 очевидно, відображатиме середня кількість інформації, що передається по каналу за одиницю часу, - ця величина є характеристикою каналу зв'язку і називається пропускною здатністю каналу С:
Якщо Г трвиражено в бітах, а т 0 - у секундах, то одиницею вимірювання буде біт/с.Раніше така одиниця називалася бод, проте назва не прижилася, і тому пропускна здатність каналу зв'язку вимірюється в біт/с. Похідними одиницями є:
- 1 Кбіт/с = 10 3 біт/с,
- 1 Мбіт/с = 10 6 біт/с,
- 1 Гбіт/с = 109 біт/с.
Швидкість передачі
Нехай каналом зв'язку за час tпередано кількість інформації I. Можна ввести величину, що характеризує швидкість передачі інформації - швидкість передачі інформації J:
Розмірністю J,як і, є біт/с. Яке співвідношення цих показників? Оскільки т 0 - мінімальна тривалість елементарного сигналу, очевидно, що відповідає максимальної швидкості передачі інформації по даній лінії зв'язку, тобто J J max Таким чином, максимальна швидкість передачі по каналу зв'язку дорівнює його пропускної спроможності.
Ентропія та інформація
Випадкові події можна описати з використанням поняття «ймовірність». Співвідношення теорії ймовірностей дозволяють знайти (обчислити) ймовірності як одиночних випадкових подій, так і складних дослідів, що поєднують кілька незалежних або пов'язаних між собою подій. Проте описати випадкові події можна у термінах ймовірностей.
Те, що подія випадково, означає відсутність повної впевненості у його наступі, що, своєю чергою, створює невизначеність у наслідках дослідів, що з даним подією. Безумовно, ступінь невизначеності є різним для різних ситуацій. Наприклад, якщо досвід полягає у визначенні віку випадково обраного студента 1-го курсу денного відділення ВНЗ, то з великою часткою впевненості можна стверджувати, що він виявиться меншим за 30 років; хоча за становищем на денному відділенні можуть навчатися особи віком до 35 років, найчастіше очно навчаються випускники шкіл найближчих кількох випусків. Набагато меншу визначеність має аналогічний досвід, якщо перевіряється, чи буде вік довільно вибраного студента менше 18 років. Для практики важливо мати можливість провести чисельну оцінку невизначеності різних дослідів. Спробуємо запровадити такий кількісний захід невизначеності.
Почнемо з простої ситуації, коли досвід має прівноймовірних результатів. Очевидно, що невизначеність кожного з них залежить від п,тобто. міра невизначеності є функцією числа наслідків f(n).
Можна вказати деякі властивостіцієї функції:
- 1. f(l)= 0, оскільки при п = 1 результат досвіду не є випадковим і, отже, невизначеність відсутня;
- 2. f(n)зростає зі зростанням п,оскільки чим більше число можливих результатів, тим складнішим стає прогнозування результату досвіду.
Одиниця виміру невизначеності при двох можливих рівноймовірних
Наслідки досвіду називається біт.
Встановлено явний вид функції, що описує міру невизначеності досвіду, що має прівноймовірних результатів:
Ця величина отримала назву ентропія. Внадалі будемо позначати її н.Твердження.Ентропія дорівнює інформації щодо досвіду, що міститься у ньому самому.
Можна уточнити:
Ентропія досвіду дорівнює тій інформації, яку отримуємо внаслідок його здійснення.
Властивості інформації:
- 1. /(а,Р) > 0, причому /(а,|3) = 0 досліди аїр незалежні.
- 2. /(а,р) = /(Р,а), т. е. інформація симетрична щодо послідовності дослідів.
3.
5 т. е. інформація досвіду дорівнює середньому значенню кількості інформації, що міститься в якомусь одному його результаті.
Легко отримати наслідок формули 
для випадку, коли
Усе презультатів рівноймовірні. У цьому випадку все і, отже,
Ця формула була виведена у 1928 р. американським інженером Р. Хартліі носить його ім'я. Вона пов'язує кількість рівноймовірних станів (п)та кількість інформації в повідомленні (/), що будь-який із цих станів реалізувався. Її сенс у тому, що, якщо деяка кількість містить пелементів їх належить даному множині, то для його виділення (однозначної ідентифікації) серед інших потрібна кількість інформації, що дорівнює log 2 «.
Приватним випадком застосування формули Хартлі є ситуація, коли п= 2 к. Підставляючи це значення у формулу Хартлі, очевидно, отримаємо:
Формула Шеннона
Відомі ймовірності 
, з якими система приймає один зі своїх станів
- формула Шеннона - ентропія системи; - формула вимірювання кількості інформації.
Властивості ентропії
2.
. (Формула Хартлі)
Це випадок максимальної ентропії.
Перша теорема Шеннона.
За відсутності перешкод завжди можливий такий варіант кодування повідомлення, при якому надмірність коду буде як завгодно близька до нуля.
Друга теорема Шеннона.
При передачі інформації по каналу з шумом завжди є спосіб кодування, при якому повідомлення буде передаватися з якоюсь високою достовірністю, якщо швидкість передачі не перевищує пропускну здатність каналу.
