Валуйський педагогічний коледж

Основи теорії інформації

Курс лекцій

ЧастинаI

Навчальний посібник адресований студентам та викладачам математичних спеціальностей педагогічних коледжів. Воно має практичну цінність для вчителів шкіл, ліцеїв, гімназій з метою підвищення їхньої професійної майстерності та формування творчого початку.

Валуйки 2008

ТЕОРЕТИЧНІ ОСНОВИ ІНФОРМАЦІЇ

Немає такої великої речі, яку б не перевершила ще більша.

Козьма Прутков

Вступ

Майже у кожній науці є фундамент, якого її прикладні аспекти позбавлені основ. Для математики такий фундамент складають теорія множин, теорія чисел, математична логіка та інші розділи; для фізики - це основні закони класичної та квантової механіки, статистичної фізики, релятивістської теорії; для хімії - періодичний закон, його теоретичні основи і т. д. Можна, звичайно, навчитися рахувати і користуватися калькулятором, навіть не підозрюючи про існування зазначених вище розділів математики, робити хімічні аналізи без розуміння істоти хімічних законів, але при цьому не слід думати, що ти знаєш математику чи хімію. Приблизно те саме з інформатикою: можна вивчити кілька програм і навіть освоїти деяке ремесло, але це аж ніяк не вся інформатика, точніше, навіть не найголовніша та найцікавіша її частина.

Теоретичні основи інформатики - поки що не цілком сформований розділ науки. Він виникає на наших очах, що робить його особливо цікавим: не часто ми спостерігаємо і навіть можемо брати участь у народженні нової науки! Як і теоретичні розділи інших наук, теоретична інформатика формується в основному під впливом потреб навчання інформатики.

Теоретична інформатика – наука математизована. Вона складається з низки розділів математики, які раніше здавалися мало пов'язаними один з одним: теорій автоматів і алгоритмів, математичної логіки, теорії формальних мов та граматик, реляційної алгебри, теорії інформації та ін. Вона намагається методами точного аналізу відповісти на основні питання, що виникають при зберігання та обробки інформації, наприклад, питання про кількість інформації, зосередженої в тій чи іншій інформаційній системі, найбільш раціональної її організації для зберігання або пошуку, а також про існування та властивості алгоритмів перетворення інформації. Конструктори пристроїв зберігання даних виявляють чудеса винахідливості, збільшуючи обсяг і щільність зберігання даних на дисках, але в основі цієї діяльності лежать теорія інформації та теорія кодування. Для вирішення прикладних завдань існують чудові програми, але для того, щоб грамотно поставити прикладне завдання, привести її до вигляду, який підвладний комп'ютеру, потрібно знати основи інформаційного та математичного моделювання і т. д. Тільки освоївши ці розділи інформатики, можна вважати себе спеціалістом цій науці. Інша справа – з якою глибиною освоювати; Багато розділів теоретичної інформатики досить складні і вимагають ґрунтовної математичної підготовки.

РОЗДІЛI. ІНФОРМАЦІЯ

1.1. Предмет та структура інформатики

Термін інформатика набув поширення з середини 80-х років. минулого сторіччя. Він складається з кореня inform - "інформація" та суфікса matics - "наука про...". Таким чином, інформатика – це наука про інформацію. В англомовних країнах термін не прижився, інформатика там називається Computer Science – наука про комп'ютери.

Інформатика - молода наука, що швидко розвивається, тому строгого і точного визначення її предмета поки не сформульовано. В одних джерелах інформатика визначається як наука, що вивчає алгоритми, тобто процедури, що дозволяють за кінцеве число кроків перетворити вихідні дані на кінцевий результат, в інших - першому плані виставляється вивчення комп'ютерних технологій. Найбільш усталеними посилками у визначенні предмета інформатики в даний час є вказівки на вивчення інформаційних процесів (тобто збору, зберігання, обробки, передачі даних) із застосуванням комп'ютерних технологій. При такому підході найбільш точним, на нашу думку, є таке визначення:

Інформатика – це наука, що вивчає:

Методи реалізації інформаційних процесів засобами обчислювальної техніки (МЕТ);

склад, структуру, загальні принципи функціонування СВТ;

Принципи управління СВТ.

З визначення випливає, що інформатика – прикладна наука, яка використовує наукові досягнення багатьох наук. Крім того, інформатика - практична наука, яка займається не тільки описовим вивченням перелічених питань, але і в багатьох випадках пропонує способи їх вирішення. У цьому сенсі інформатика технологічна і часто замикається з інформаційними технологіями.

Методи реалізації інформаційних процесів перебувають у стику інформатики з теорією інформації, статистикою, теорією кодування, математичною логікою, документознавством тощо. У цьому розділі вивчаються:

Подання різних типівданих (числа, символи, текст, звук, графіка, відео тощо) у вигляді, зручному для обробки СВТ (кодування даних);

Формати представлення даних (передбачається, що одні й самі дані можуть бути представлені різними способами);

Теоретичні проблеми стиснення даних;

Структури даних, тобто способи зберігання з метою зручного доступу до даних.

У вивченні складу, структури, принципів функціонування засобів обчислювальної техніки застосовуються наукові положення з електроніки, автоматики, кібернетики. У цілому нині цей розділ інформатики відомий як апаратне забезпечення (АТ) інформаційних процесів. У цьому розділі вивчаються:

Основи побудови елементів цифрових пристроїв;

Основні засади функціонування цифрових обчислювальних пристроїв;

Архітектура СВТ – основні принципи функціонування систем, призначених для автоматичної обробки даних;

Прилади та апарати, що становлять апаратну конфігурацію обчислювальних систем;

Прилади та апарати, що становлять апаратну конфігурацію комп'ютерних мереж.

При перетворенні дискретної інформації на безперервну, визначальною є швидкість цього перетворення: що вона вище, про що більш високочастотними гармоніками вийде безперервна величина. Але чим більші частоти зустрічаються у цій величині, тим складніше з нею працювати.

Пристрої для перетворення безперервної інформації на дискретну АЦП (аналого-цифровий перетворювач) або ADC, а пристрої перетворення дискретної на безперервну - ЦАП (цифро-аналоговий перетворювач) або DAC.

Вправа 1:у цифрових магнітофонах DAT частота дискретизації 48 КГц. Якою є максимальна частота звукових хвиль, які можна точно відтворювати на таких магнітофонах?

Швидкість передачі в кількості переданих за одну секунду біт або в бодах 1 бод = 1 біт/сек (bps).

Інформацію можна передавати послідовно, т. е. біт за бітом і паралельно – групами фіксованого кількості біт (використовується зазвичай з відривом трохи більше 5 м).

Вправа 2:перевести одиниці виміру

1 Кбайт = … біт

1 Мбайт = … байт

2,5 Гбайт = Кбайт

РОЗДІЛ ІІ. ВИМІР ІНФОРМАЦІЇ. 2.1. Підходи до вимірювання інформації При всьому різноманітті підходів до визначення поняття інформації, з позицій виміру інформації нас цікавлять два з них: визначення К. Шеннона, що застосовується в математичній теорії інформації, та визначення, що застосовується у галузях інформатики, пов'язаних із використанням комп'ютерів (computer science). В змістовному підходіможлива якісна оцінка інформації: нова, термінова, важлива і т. д. Згідно з Шенноном, інформативність повідомлення характеризується що міститься в ньому корисною інформацією- тією частиною повідомлення, яка знімає повністю або зменшує невизначеність будь-якої ситуації. Невизначеність деякої події – це кількість можливих наслідків даної події. Так, наприклад, невизначеність погоди на завтра зазвичай полягає в діапазоні температури повітря та можливості випадання опадів. Змістовний підхід часто називають суб'єктивним, Оскільки різні люди (суб'єкти) інформацію про один і той же предмет оцінюють по-різному. Але якщо кількість наслідків не залежить від суджень людей (випадок кидання кубика або монети), то інформація про настання одного з можливих наслідків є об'єктивною. Алфавітний підхідзаснований на тому, що будь-яке повідомлення можна закодувати за допомогою кінцевої послідовності символів деякого алфавіту. З позицій computer science носіями інформації є будь-які послідовності символів, які зберігаються, передаються та обробляються за допомогою комп'ютера. Згідно з Колмогоровим, інформативність послідовності символів не залежить від змісту повідомлення, а визначається мінімально необхідною кількістю символів для її кодування. Алфавітний підхід є об'єктивним, тобто не залежить від суб'єкта, що сприймає повідомлення. Сенс повідомлення враховується на етапі вибору алфавіту кодування або взагалі не враховується. На перший погляд визначення Шеннона та Колмогорова здаються різними, проте вони добре узгоджуються при виборі одиниць виміру. 2.2. Одиниці виміру інформації Вирішуючи різні завдання, людина змушена використовувати інформацію про навколишній світ. І що повніше і докладно людиною вивчені ті чи інші явища, тим часом простіше знайти у відповідь поставлене питання. Так, наприклад, знання законів фізики дозволяє створювати складні прилади, а для того, щоб перекласти текст іноземною мовою, потрібно знати граматичні правила та пам'ятати багато слів. Часто доводиться чути, що повідомлення несе мало інформації або, навпаки, містить вичерпну інформацію. При цьому різні люди, які отримали те саме повідомлення (наприклад, прочитавши статтю в газеті), по-різному оцінюють кількість інформації, що міститься в ньому. Це тому, що знання людей про ці події (яви) до отримання повідомлення були різними. Тому ті, хто знав про це мало, визнають, що отримали багато інформації, ті ж, хто знав більше, ніж написано у статті, скажуть, що інформації не отримали зовсім. Таким чином, кількість інформації в повідомленні залежить від того, наскільки нове це повідомлення для одержувача. Однак іноді виникає ситуація, коли людям повідомляють багато нових для них відомостей (наприклад, на лекції), а інформації при цьому вони практично не одержують (у цьому неважко переконатися під час опитування чи контрольної роботи). Відбувається це тому, що сама тема зараз слухачам не є цікавою. Отже, кількість інформації залежить від новизни відомостей про цікаве для одержувача інформації явище. Іншими словами, невизначеність (тобто неповнота знання) з цікавого для нас питання з отриманням інформації зменшується. Якщо в результаті отримання повідомлення буде досягнуто повної ясності в даному питанні (тобто невизначеність зникне), кажуть, що отримано вичерпну інформацію. Це означає, що необхідності отримання додаткової інформації на цю тему немає. Навпаки, якщо після отримання повідомлення невизначеність залишилася колишньою (повідомлені відомості або вже були відомі, або не належать до справи), отже, інформації отримано не було (нульова інформація). Якщо підкинути монету і простежити, якою стороною вона впаде, ми отримаємо певну інформацію. Обидві сторони монети "рівноправні", тому однаково можливо, що випаде як одна, так і інша сторона. У разі кажуть, що подія несе інформацію в 1 біт. Якщо покласти в мішок дві кульки різного кольору, то, витягнувши наосліп одну кулю, ми також отримаємо інформацію про колір кулі в 1 біт. Одиниця виміру інформації називається біт(bit) - скорочення від англійських слів binary digit, що означає двійкова цифра. У комп'ютерній техніці біт відповідає фізичному стану носія інформації: намагнічено – не намагнічено, є отвір – немає отвору. При цьому один стан прийнято позначати цифрою 0, а інший – цифрою 1. Вибір одного із двох можливих варіантівдозволяє також розрізняти логічні істину та брехню. Послідовністю бітів можна закодувати текст, зображення, звук або іншу інформацію. Такий метод представлення інформації називається двійковим кодуванням (binary encoding). В інформатиці часто використовується величина, яка називається байтом(byte) і дорівнює 8 біт. І якщо біт дозволяє вибрати один варіант з двох можливих, то байт, відповідно, 1 з більшості сучасних ЕОМ при кодуванні кожному символу відповідає своя послідовність з восьми нулів і одиниць, тобто байт. Відповідність байтів і символів визначається за допомогою таблиці, в якій для кожного коду вказується свій символ. Так, наприклад, у широко поширеному кодуванні Koi8-R буква "М" має код, буква "І" - код, а пропуск - код. Поряд з байтами для вимірювання кількості інформації використовуються більші одиниці: 1 Кбайт (один кілобайт) = 210 байт = 1024 байт; 1 Мбайт (один мегабайт) = 210 Кбайт = 1024 Кбайт; 1 Гбайт (один гігабайт) = 210 Мбайт = 1024 Мбайт. Останнім часом у зв'язку зі збільшенням обсягів оброблюваної інформації входять у вжиток такі похідні одиниці, як: 1 Терабайт (Тб) = 1024 Гбайта = 240 байта, 1 Петабайт (Пб) = 1024 Тбайта = 250 байти. Розглянемо, як можна підрахувати кількість інформації у повідомленні, використовуючи змістовний підхід. Нехай у деякому повідомленні містяться відомості про те, що сталося одна з N рівноймовірних подій. Тоді кількість інформації х, що міститься в цьому повідомленні, і кількість подій N пов'язані формулою: 2x = N. Розв'язання такого рівняння з невідомою х має вигляд: x=log2N. Тобто саме така кількість інформації необхідна для усунення невизначеності з Nрівнозначні варіанти. Ця формула носить назву формули Хартлі. Отримано її в 1928 р. американським інженером Р. Хартлі. Процес отримання інформації він формулював приблизно так: якщо в заданій множині, що містить N рівнозначних елементів, виділено деякий елемент x, про який відомо лише, що він належить цій множині, то, щоб знайти x, необхідно отримати кількість інформації, що дорівнює log2N. Якщо N дорівнює цілого ступеня двійки (2, 4, 8, 16 і т. д.), то обчислення легко зробити "розумно". В іншому випадку кількість інформації стає нецілою величиною, і для вирішення задачі доведеться скористатися таблицею логарифмів або визначати значення логарифму приблизно (найближче ціле число, більше). При обчисленні двійкових логарифмів чисел від 1 до 64 за формулою x=log2Nдопоможе наступна таблиця. При алфавітному підході, якщо припустити, що всі символи алфавіту зустрічаються в тексті з однаковою частотою (рівноймовірно), то кількість інформації, яку несе кожен символ ( інформаційна вага одного символу), обчислюється за такою формулою: x=log2N, де N- Потужність алфавіту (повна кількість символів, що складають алфавіт обраного кодування). В алфавіті, що складається із двох символів (двійкове кодування), кожен символ несе 1 біт (21) інформації; із чотирьох символів - кожен символ несе 2 біти інформації(22); з восьми символів - 3 біти (23) і т. д. Один символ із алфавіту потужністю несе в тексті 8 бітів інформації. Як ми вже з'ясували, таку кількість інформації називається байт. Алфавіту з 256 символів використовується для представлення текстів на комп'ютері. Один байт інформації можна передати за допомогою символу кодування ASCII. Якщо весь текст складається з K символів, то при алфавітному підході розмір інформації, що міститься в ньому, визначається за формулою: , де x- Інформаційна вага одного символу в алфавіті. Наприклад, книга містить 100 сторінок; на кожній сторінці – 35 рядків, у кожному рядку – 50 символів. Розрахуємо обсяг інформації, що міститься у книзі. Сторінка містить 35 x 50 = 1750 байт інформації. Обсяг всієї інформації у книзі (у різних одиницях): 1750 x 100 = 175 000 байт. 175000/1024 = 170,8984 Кбайт. 170,8984/1024 = 0,166893 Мбайт. 2.3. Імовірнісний підхід до вимірювання інформації Формулу для обчислення кількості інформації, що враховує неоднакову ймовірністьподій, запропонував К. Шеннон у 1948 році. Кількісна залежність між ймовірністю події рта кількістю інформації в повідомленні про нього xвиражається формулою: x=log2 (1/p). Якісний зв'язок між ймовірністю події та кількістю інформації в повідомленні про цю подію можна висловити наступним чином - чим менша ймовірність деякої події, тим більше інформації містить повідомлення про цю подію. Розглянемо певну ситуацію. У коробці є 50 кульок. З них 40 білих та 10 чорних. Очевидно, ймовірність того, що при витягуванні "не дивлячись" трапиться біла куля більша, ніж ймовірність попадання чорного. Можна зробити висновок про можливість події, які інтуїтивно зрозумілі. Проведемо кількісну оцінку ймовірності кожної ситуації. Позначимо pч - ймовірність влучення при витягуванні чорної кулі, рб - ймовірність влучення білої кулі. Тоді: рч = 10/50 = 0,2; рб40/50 = 0,8. Зауважимо, що ймовірність попадання білої кулі в 4 рази більша, ніж чорної. Робимо висновок: якщо N- це загальна кількість можливих результатів якогось процесу (витягування кулі), і з них подія (витягування білої кулі), що цікавить нас, може статися Kраз, то ймовірність цієї події дорівнює K/N. Імовірність виявляється у частках одиниці. Імовірність достовірної події дорівнює 1 (з 50 білих куль витягнена біла куля). Імовірність неможливої ​​події дорівнює нулю (з 50 білих куль витягнуто чорну кулю). Кількісна залежність між ймовірністю події рта кількістю інформації у повідомленні про нього x виражається формулою: . У задачі про кулі кількість інформації в повідомленні про влучення білої кулі та чорної кулі вийде: . Розглянемо деякий алфавіт з mсимволів: і ймовірність вибору з цього алфавіту якийсь i-й букви для опису (кодування) деякого стану об'єкта. Кожен такий вибір зменшить ступінь невизначеності у відомостях про об'єкт та, отже, збільшить кількість інформації про нього. Для визначення середнього значення кількості інформації, що в цьому випадку припадає на один символ алфавіту, застосовується формула . В разі рівноймовірнихвиборів p=1/m. Підставляючи це значення у вихідну рівність, ми отримаємо Розглянемо наступний приклад. Нехай при киданні несиметричної чотиригранної пірамідки ймовірності випадання граней будуть наступними: p1=1/2, p2=1/4, p3=1/8, p4=1/8, тоді кількість інформації, що отримується після кидка, можна розрахувати за формулою: Для симетричної чотиригранної пірамідки кількість інформації буде: H=log24=2(біт). Зауважимо, що з симетричної пірамідки кількість інформації виявилося більше, ніж несиметричної пірамідки. Максимальне значення кількості інформації досягається рівноймовірних подій. Запитання для самоконтролю 1. Які підходи до виміру інформації вам відомі? 2. Яка основна одиниця виміру інформації? 3. Скільки байт містить 1 Кб інформації? 4. Наведіть формулу підрахунку кількості інформації у разі зменшення невизначеності знання. 5. Як підрахувати кількість інформації, яка передається у символьному повідомленні?

РОЗДІЛ ІІІ. НАДАННЯ ІНФОРМАЦІЇ

3.1. Мова як спосіб представлення інформації. Кодування інформації

Мова - безліч символів і сукупність правил, визначальних способи складання цих символів осмислених повідомлень. Семантика - система правил та угод, що визначає тлумачення та надання сенсу конструкціям мови.
Кодуванняінформації – це процес формування певного уявлення інформації. При кодуванні інформація представляється як дискретних даних. Декодування є оберненим до кодування процесом.
У вужчому сенсі під терміном "кодування" часто розуміють перехід від однієї форми подання інформації до іншої, зручнішої для зберігання, передачі або обробки. Комп'ютер може обробляти лише інформацію, подану у числовій формі. Вся інша інформація (наприклад, звуки, зображення, показання приладів тощо) для обробки на комп'ютері повинна бути перетворена на числову форму. Наприклад, щоб перевести в числову форму музичний звук, можна через невеликі проміжки часу вимірювати інтенсивність звуку на певних частотах, представляючи результати кожного виміру числової форми. За допомогою програм для комп'ютера можна виконати перетворення отриманої інформації.
Аналогічно на комп'ютері можна обробляти текстову інформацію. При введенні в комп'ютер кожна буква кодується певним числом, а при виведенні зовнішні пристрої (екран або друк) для сприйняття людиною по цих числах будуються зображення букв. Відповідність між набором літер та числами називається кодуванням символів.
Знаки або символи будь-якої природи, з яких конструюються інформаційні повідомлення, називають кодами. Повний набір кодів складає алфавіткодування. Найпростішим алфавітом, достатнім для запису інформації про що-небудь, є алфавіт із двох символів, що описують два його альтернативні стани ("так" - "ні", "+" - "-", 0 або 1).
Як правило, всі числа в комп'ютері представляються за допомогою нулів та одиниць (а не десяти цифр, як це звичайно для людей). Іншими словами, комп'ютери зазвичай працюють у двійковійсистемі числення, оскільки при цьому пристрої для їх обробки виходять значно простішими. Введення чисел у комп'ютер та виведення їх для читання людиною може здійснюватися у звичній десятковій формі, проте необхідні перетворення виконують програми, що працюють на комп'ютері.
Будь-яке інформаційне повідомлення можна уявити, не змінюючи його змісту, символами тієї чи іншої алфавіту чи, інакше кажучи, отримати ту чи іншу форму подання. Наприклад, музична композиція може бути зіграна на інструменті (закодована та передана за допомогою звуків), записана за допомогою нот на папері (кодами є ноти) або намагнічена на диску (коди – електромагнітні сигнали).
Спосіб кодування залежить від мети, заради якої воно здійснюється. Це може бути скорочення запису, засекречування (шифрування) інформації, або, навпаки, досягнення взаєморозуміння. Наприклад, система дорожніх знаків, прапорцева азбука на флоті, спеціальні наукові мови та символи – хімічні, математичні, медичні та ін., призначені для того, щоб люди могли спілкуватися та розуміти один одного. Від, як представлена ​​інформація, залежить спосіб її обробки, зберігання, передачі тощо.
Комп'ютер з погляду користувача працює з інформацією найрізноманітнішої форми уявлення: числової, графічної, звуковий, текстової та ін. Але ми вже знаємо (згадувалося вище), що він оперує лише цифровою (дискретною) інформацією. Отже, повинні існувати способи перекладу інформації з зовнішнього вигляду, зручного користувача, у внутрішнє уявлення, зручне комп'ютеру, та назад.

Валуйський педагогічний коледж

Основи теорії інформації

Курс лекцій

Частина I

Навчальний посібник адресований студентам та викладачам математичних спеціальностей педагогічних коледжів. Воно має практичну цінність для вчителів шкіл, ліцеїв, гімназій з метою підвищення їхньої професійної майстерності та формування творчого початку.

Валуйки 2008

ТЕОРЕТИЧНІ ОСНОВИ ІНФОРМАЦІЇ

Немає такої великої речі, яку б не перевершила ще більша.

Козьма Прутков

Вступ

Майже у кожній науці є фундамент, якого її прикладні аспекти позбавлені основ. Для математики такий фундамент складають теорія множин, теорія чисел, математична логіка та інші розділи; для фізики – це основні закони класичної та квантової механіки, статистичної фізики, релятивістської теорії; для хімії – періодичний закон, його теоретичні основи тощо. Можна, звичайно, навчитися вважати і користуватися калькулятором, навіть не підозрюючи про існування зазначених вище розділів математики, робити хімічні аналізи без розуміння істоти хімічних законів, але не слід думати, що ти знаєш математику або хімію. Приблизно те саме з інформатикою: можна вивчити кілька програм і навіть освоїти деяке ремесло, але це аж ніяк не вся інформатика, точніше, навіть не найголовніша та найцікавіша її частина.

Теоретичні основи інформатики - поки що не цілком сформований розділ науки. Він виникає на наших очах, що робить його особливо цікавим: не часто ми спостерігаємо і навіть можемо брати участь у народженні нової науки! Як і теоретичні розділи інших наук, теоретична інформатика формується в основному під впливом потреб навчання інформатики.

Теоретична інформатика – наука математизована. Вона складається з низки розділів математики, які раніше здавалися мало пов'язаними один з одним: теорій автоматів і алгоритмів, математичної логіки, теорії формальних мов та граматик, реляційної алгебри, теорії інформації та ін. Вона намагається методами точного аналізу відповісти на основні питання, що виникають при зберігання та обробки інформації, наприклад, питання про кількість інформації, зосередженої в тій чи іншій інформаційній системі, найбільш раціональної її організації для зберігання або пошуку, а також про існування та властивості алгоритмів перетворення інформації. Конструктори пристроїв зберігання даних виявляють чудеса винахідливості, збільшуючи обсяг і щільність зберігання даних на дисках, але в основі цієї діяльності лежать теорія інформації та теорія кодування. Для вирішення прикладних завдань існують чудові програми, але для того, щоб грамотно поставити прикладне завдання, привести його до вигляду, який підвладний комп'ютеру, потрібно знати основи інформаційного та математичного моделювання тощо. Тільки освоївши ці розділи інформатики, можна вважати себе спеціалістом у цій науці. Інша справа – з якою глибиною освоювати; Багато розділів теоретичної інформатики досить складні і вимагають ґрунтовної математичної підготовки.

РОЗДІЛI. ІНФОРМАЦІЯ

1.1. Предмет та структура інформатики

Термін інформатиканабув поширення з середини 80-х рр. ХХ ст. минулого сторіччя. Він складається з кореня inform - "інформація" та суфікса matics - "наука про...". Таким чином, інформатика – це наука про інформацію. У англомовних країнах термін не прижився, інформатика там називається Computer Science - наука про комп'ютери.

Інформатика - молода, швидко розвивається наука, тому суворого І точного визначення її предмета поки не сформульовано. У одних джерелах інформатика окреслюється наука, вивчає алгоритми, тобто. процедури, що дозволяють за кінцеве число кроків перетворити вихідні дані на кінцевий результат, за іншими - першому плані виставляється вивчення комп'ютерних технологій. Найбільш усталеними посилками у визначенні предмета інформатики в даний час є вказівки на вивчення інформаційних процесів (тобто збору, зберігання, обробки, передачі даних) із застосуванням комп'ютерних технологій. При такому підході найбільш точним, на нашу думку, є таке визначення:

Інформатика – це наука, що вивчає:

методи реалізації інформаційних процесів засобами обчислювальної техніки (МЕТ);

склад, структуру, загальні засади функціонування СВТ;

принципи управління СВТ.

З визначення випливає, що інформатика – прикладна наука, яка використовує наукові досягнення багатьох наук. Крім того, інформатика - практична наука, яка не тільки займається описовим вивченням перелічених питань, але і в багатьох випадках пропонує способи їх вирішення. У цьому сенсі інформатика технологічна і часто змикається з інформаційними технологіями

Методи реалізації інформаційних процесів знаходяться на стику інформатики з теорією інформації, статистикою, теорією кодування, математичною логікою, документознавствомі т.д. У цьому розділі вивчаються питання:

представлення різних типів даних (числа, символи, текст, звук, графіка, відео тощо) у вигляді, зручному для обробки СВТ (кодування даних);

формати представлення даних (передбачається, що ті самі дані можуть бути представлені різними способами);

теоретичні проблеми стиснення даних;

структури даних, тобто. способи зберігання з метою зручного доступу до даних.

У вивченні складу, структури, принципів функціонування засобів обчислювальної техніки використовуються наукові положення електроніки, автоматики, кібернетики.В цілому цей розділ інформатики відомий як апаратне забезпечення (АТ) інформаційних процесів.У цьому розділі вивчаються:

основи побудови елементів цифрових пристроїв;

основні принципи функціонування цифрових обчислювальних пристроїв;

архітектура СВТ -основні засади функціонування систем, призначених для автоматичного оброблення даних;

обчислювальних систем;

прилади та апарати, що становлять апаратну конфігурацію комп'ютерних мереж.

У розробці методів управління засобами обчислювальної техніки (а засобами цифрової обчислювальної техніки управляють програми,що вказують послідовність дій, які має виконати СВТ) використовують наукові положення теорії алгоритмів, логіки, теорії графів, лінгвістики, теорії ігор.Цей розділ інформатики відомий як програмне забезпечення (ПЗ) СВТ.У цьому розділі вивчаються:

засоби взаємодії апаратного та програмного забезпечення;

засоби взаємодії людини з апаратним та програмним забезпеченням, що об'єднуються поняттям інтерфейс;

програмне забезпечення СВТ (ПЗ).

Узагальнюючи сказане, можна запропонувати таку структурну схему:

			ІНФОРМАТИКА
		Інформацій-			Апаратне		Програмне
Теоретичний рівень		ні процеси			забезпечення		забезпечення
		Теорія кодування. Теорія інформації. Теорія графів. Теорія множин. Логіка та ін.			логіка. Електроніка Автоматика. Кібернетика та ін.		Теорія алгоритмів. логіка. Теорія графів. Теорія ігор. Лінгвістика та ін.
		Кодування даних. Формати даних. Стиснення даних. Структури даних та ін.			Синтез цифрових пристроїв Архітектура СВТ. Апарати та прилади обчислювальних v систем. Апарати та прилади комп'ютерних мереж
Практичний рівень							Інтерфейси. Допоміжні програми. Системи програмування. Прикладні програмні продукти

У цьому розділі докладно розглянуті деякі проблеми представлення даних різних типів: числових, символьних, звукових, графічних. Також будуть розглянуті деякі структури, що дозволяють зберігати дані з можливістю зручного доступу до них.

Другий розділ присвячений апаратного забезпеченняінформаційних процесів. У ній розглядаються питання синтезу цифрових пристроїв, пристрій електронно-обчислювальних машин, пристрій окремих елементів апаратного забезпечення.

Третя складова інформатики - програмне забезпечення -неоднорідна та має складну структуру, що включає кілька рівнів: системний, службовий, інструментальний, прикладний.

На нижчому рівні перебувають комплекси програм, здійснюють інтерфейсні функції (посередницькі між людиною і комп'ютером, апаратним і програмним забезпеченням, між одночасно діючими програмами), тобто. розподілу різних ресурсів комп'ютера. Програми цього рівня називаються системними.Будь-які програми користувача запускаються під управлінням комплексів програм, званих операційними системами.

Наступний рівень – це службове програмне забезпечення.Програми цього рівня називаються утилітами, виконують різні допоміжні функції. Це можуть бути діагностичні програми, що використовуються при обслуговуванні різних пристроїв (гнучкого та жорсткого диска), тестові програми, що представляють комплекс програм технічного обслуговування, архіватори, антивіруси тощо. Службові програми, як правило, працюють під управлінням операційної системи (хоча можуть і безпосередньо звертатися до апаратного забезпечення), тому вони розглядаються як більш високий рівень. У деяких класифікаціях системний і службовий рівні об'єднуються в один клас - системного програмного забезпечення.

представляє комплекси програм для створення інших програм. Процес створення нових програм мовою машинних команд дуже складний і кропіткий, тому він низькопродуктивний. На практиці більшість програм складається на формальних мовах програмування, які ближчі до математичного, отже, простіше і продуктивніше в роботі, а переклад програм на мову машинних кодів здійснює комп'ютер за допомогою інструментального програмного забезпечення. Програми інструментального програмного забезпечення керуються системними програмами, тому вони відносяться до вищого рівня.

- Найбільший за об'ємом клас програм, це програми кінцевого користувача. У четвертому розділі буде дано докладний опис та класифікація програм, що входять до цього класу. Поки що скажемо, що у світі існує близько шести тисяч різних професій, тисячі різних захоплень і більшість із них нині мають якісь
свої прикладні програмні продукти Прикладне програмне забезпечення також керується системними програмами і має більш високий рівень.

Узагальнюючи сказане, можна запропонувати таку структуру програмного забезпечення:

ПРОГРАМНЕ ЗАБЕЗПЕЧЕННЯ

Системне програмне забезпечення

Інструментальне програмне забезпечення

Прикладне програмне забезпечення

Операційні системи

Драйвери

Дискові утиліти

Архіватори

Антивіруси

Комплекс програм техобслуговування та діагностики

Запропонована класифікація програмного забезпечення є великою мірою умовною, так як в даний час програмні продукти багатьох фірм стали об'єднувати в собі програмні елементи різних класів. Наприклад, операційна система Windows, будучи комплексом системних програм, у своєму складі містить блок службових програм (дефрагментація, перевірка, очищення диска та ін), а також текстовий процесор WordPad, графічний редактор Paint, які належать класу прикладних програм. грама.

1.2. Інформація та фізичний світ

Відома велика кількість робіт, присвячених фізичному трактуванню інформації. Ці роботи значною мірою побудовані на основі аналогії формули Больцмана, що описує ентропію статистичної системи матеріальних частинок та формули Хартлі.

Зауважимо, що з усіх висновках формули Больцмана явно чи неявно передбачається, що макроскопічний стан системи, якого належить функція ентропії, реалізується на мікроскопічному рівні як поєднання механічних станів дуже великої кількості частинок, що утворюють систему (молекул). Завдання ж кодування та передачі інформації, на вирішення яких Хартлі і Шенноном було розвинена ймовірнісна міра інформації, мали на увазі дуже вузьке технічне розуміння інформації, що майже не має відношення до повного обсягу цього поняття. Таким чином, більшість міркувань, що використовують термодинамічні властивості ентропії стосовно інформації нашої реальності, мають спекулятивний характер.

Зокрема, є необґрунтованими використання поняття "ентропія" для систем з кінцевим та невеликим числом станів, а також спроби розширювального методологічного тлумачення результатів теорії поза досить примітивними механічними моделями, для яких вони були отримані. Ентропія і негентропія - інтегральні характеристики протікання стохастичних процесів - лише паралельні інформації та перетворюються на неї в окремому випадку.

Інформацію слід вважати спеціальним видом ресурсу, у своїй мається на увазі тлумачення " ресурсу " як запасу певних знань матеріальних предметів чи енергетичних, структурних чи інших характеристик предмета. На відміну від ресурсів, пов'язаних з матеріальними предметами, інформаційні ресурси є невичерпними і передбачають істотно інші методи відтворення та оновлення, ніж матеріальні ресурси.

Розглянемо деякий набір властивостей інформації:

запам'ятованість ;

переданість ;

перетворюваність ;

відтворюваність ;

стирання .

Властивість запам'ятовності - одне з найважливіших. Запам'ятовувану інформацію будемо називати макроскопічною (маючи на увазі просторові масштаби осередку, що запам'ятовує, і час запам'ятовування). Саме з макроскопічною інформацією ми маємо справу у реальній практиці.

Передача інформації з допомогою каналів зв'язку (зокрема з перешкодами) добре вивчена у межах теорії інформації К.Шеннона. У разі мають на увазі дещо інший аспект - здатність інформації до копіювання, тобто. до того, що вона може бути "запам'ятана" іншою макроскопічною системою і при цьому залишиться тотожною для себе. Очевидно, що кількість інформації не повинна зростати під час копіювання.

Відтворюваність інформації тісно пов'язана з її передавання і не є її незалежною базовою властивістю. Якщо переданість означає, що слід вважати істотними просторові відносини між частинами системи, між якими передається інформація, то відтворюваність характеризує невичерпність і невичерпність інформації, тобто. що з копіюванні інформація залишається тотожної самої себе.

Фундаментальна властивість інформації - перетворюваність . Воно означає, що інформація може змінювати спосіб та форму свого існування. Копіюваність є різновид перетворення інформації, у якому її кількість не змінюється. У випадку кількість інформації у процесах перетворення змінюється, але зростати неспроможна. Властивість стираності інформації також не є незалежним. Воно пов'язане з таким перетворенням інформації (передачею), у якому її кількість зменшується і стає рівним нулю.

Даних властивостей інформації недостатньо на формування її заходи, оскільки вони ставляться до фізичного рівня інформаційних процесів.

Підсумовуючи сказаному на попередніх кроках, відзначимо, що робляться (але не завершені) зусилля вчених, які мають різні галузі знання, побудувати єдину теорію, яка покликана формалізувати поняття інформації та інформаційного процесу, описати перетворення інформації у процесах найрізноманітнішої природи. Рух інформації є сутність процесів управління, які є проявом іманентної активності матерії, її здатності до саморуху. З моменту виникнення кібернетики управління розглядається стосовно всіх форм руху матерії, а не лише до вищих (біологічної та соціальної). Багато проявів руху в неживих - штучних (технічних) і природних (природних) - системах також мають загальними ознаками управління, хоча їх досліджують у хімії, фізиці, механіці в енергетичній, а не в інформаційній системі уявлень. Інформаційні аспекти у таких системах становлять предмет нової міждисциплінарної науки – синергетики.

Вищою формою інформації, що виявляється в управлінні у соціальних системах, є знання. Це наддисциплінарне поняття, що широко використовується в педагогіці та дослідженнях з штучного інтелекту, також претендує на роль найважливішої філософської категорії. У філософському плані пізнання слід розглядати як один із функціональних аспектів управління. Такий підхід відкриває шлях до системного розуміння генези процесів пізнання, його основ та перспектив.

Поняття інформації

Термін інформаціявикористовується у багатьох науках та у багатьох сферах людської діяльності. Він походить від латинського слова "information", що означає "відомості, роз'яснення, викладів". Незважаючи на звичність цього терміна, строгого та загальноприйнятого визначення не існує. У рамках аналізованої нами науки «інформація» є первиннимі, отже, невизначеним поняттям, подібно до понять «точка» в математиці, «тіло» в механіці, «поле» у фізиці. Незважаючи на те, що цьому поняття неможливо дати суворе визначення, є можливість описати його через виявлені властивості і ми спробуємо це зробити.

Як відомо, у матеріальному світі всі фізичні об'єкти, що оточують нас, є або тілами, або полями. Фізичні Об'єкти, взаємодіючи один з одним, породжують сигналирізних типів. У випадку будь-який сигнал - це фізичний процес, що змінюється під час. Такий процес може містити різноманітні характеристики. Характеристика, яка використовується для представлення даних, називається параметр сигналу.Якщо параметр сигналу приймає ряд послідовних значень та їх кінцеве число, то сигнал називається дискретним.Якщо параметр сигналу - безперервна у часі функція, то сигнал називається безперервним.

У свою чергу сигнали можуть породжувати у фізичних тілах зміни властивостей. Це явище називається реєстрацією сигналів.Сигнали, зареєстровані на матеріальному носії, називаються даними.Існує велика кількість фізичних методів реєстрації сигналів на матеріальних носіях.Це можуть бути механічні впливи, переміщення, зміни форми або магнітних, електричних, оптичних параметрів, хімічного складу, кристалічної структури. Відповідно до методів реєстрації, дані можуть зберігатися і транспортуватися на різних носіях. Найчастіше використовуваний і звичний носій - папір; сигнали реєструються шляхом зміни оптичних властивостей. Сигнали можуть бути зареєстровані і шляхом зміни магнітних властивостей полімерної стрічки з нанесеним феромагніт-ним покриттям, як це робиться в магнітофонних записах, і шляхом зміни хімічних властивостейу фотографії.

Дані несуть інформацію про подію, але є самої інформацією, оскільки одні й самі дані можуть сприйматися (відображатися чи ще кажуть інтерпретуватися) у свідомості різних людей абсолютно по-різному. Наприклад, текст, написаний на російською мовою(тобто дані), дасть різну інформацію людині, знаючомуалфавіт і язик, і людині, яка їх не знає.

Щоб отримати інформацію, маючи дані, необхідно до них застосувати методи,які перетворюють дані на поняття, що сприймаються людською свідомістю. Методи, у свою чергу, теж різні.Наприклад, людина, яка знає російську мову, застосовує адекватний метод,читання російського тексту. Відповідно, людина, яка не знає російської мови та алфавіту, застосовує неадекватний метод, намагаючись зрозуміти російський текст. Таким чином, можна вважати, що інформація - це продукт взаємодії даних та адекватних методів.

1. Лекція

   ... Основитеоріїінформаціїта криптографії про курсіВ курсі теоріїінформації ... Лекція Теоріяінформації частина ...

2. Основи теорії інформації та криптографії

   Навчальний посібник

   ... Основитеоріїінформаціїта криптографії про курсіВ курсівикладаються основні поняття та факти теоріїінформації ... Лекція: Предмет та основні розділи кібернетики. Теоріяінформаціїрозглядається як суттєва частина ...

3. Основи теорії управління (7)

   Документ

   Пашнєв В.В. ОСНОВИТЕОРІЇУПРАВЛІННЯ ( Курслекцій) 2004 ... де х – вектор настроюваних параметрів керуючої частини, h – вектор неконтрольованих параметрів системи управління... без істотної втрати інформаціїщодо встановленого режиму: ...

Міністерство освіти і науки Ульянівської області

Обласна державна бюджетна професійна освітня установа

«Ульянівський електромеханічний коледж»

робоча програма

Навчальної дисципліни

ОП.01 Основи теорії інформації

для спеціальності

09.02.02 Комп'ютерні мережі

базової підготовки

Викладач _____________________ В.А. Михайлова

підпис

Ульяновськ

2017

Робоча програма навчальної дисципліниОП.01. Основи теорії інформації розроблено на основі Федерального Державного освітнього стандарту (далі ФГОС) за спеціальністю середньої професійної освіти 09.02.02 Комп'ютерні мережі базової підготовки (наказ Міносвіти України № 803 від 28. 07. 2014 року)

СТВЕРДЖУЮ

на засіданні ПЦК Інформатики та обчислювальної техніки

Н.Б.Іванова

підпис Протокол

№ від « » 2017 р.

Заступник директора з навчальної роботи

Е.Х.Зінятуллова

підпис

« » 2017 р.

.

Михайлова Валентина Олександрівна, викладач ВДБПОУ УЕМК

ЗМІСТ

Стор.

ПАСПОРТ РОБОЧОЇ ПРОГРАМИ НАВЧАЛЬНОЇ ДИСЦИПЛІНИ

СТРУКТУРА та ПРИКЛАДНИЙ зміст НАВЧАЛЬНОЇ ДИСЦИПЛІНИ

умови реалізації програми навчальної дисципліни

Контроль та оцінка результатів Освоєння навчальної дисципліни

1. паспорт ПРОГРАМИ НАВЧАЛЬНОЇ ДИСЦИПЛІНИ

Основи теорії інформації

1.1. Область застосування програми

Програма навчальної дисципліни "Основи теорії інформації" є частиною освітньої програмипідготовки фахівців середньої ланки відповідно до ФГЗС за спеціальністю 09.02.02Комп'ютерні мережібазової підготовки, що входить до складу укрупненої групи спеціальностей 09.00.00 Інформатика та обчислювальна техніка.

Робоча програма навчальної дисципліни «Основи теорії інформації» може бути використана у додатковому професійній освітідля підвищення кваліфікації та перепідготовки, а також під час професійної підготовки робітника в рамках спеціальності СПО09.02.02 Комп'ютерні мережіза наявності основної загальної або середньої (повної) освіти. Досвід роботи не потрібний.

1.2. Місце навчальної дисципліни у структурі основної професійної освітньої програми:

ОП.04 Проційні системита загальний природничий цикл

Місце визначається за ФГОС СПО та навчальним планом за спеціальністю 09.02.02Комп'ютерні мережібазової підготовки.

1.3. Цілі та завдання навчальної дисципліни – вимоги до результатів освоєння дисципліни:

повинен вміти :

У 1

У 2

У 3

В результаті освоєння навчальної дисципліни ученьповинен знати :

З1

З3

З4

З5

Зміст навчальної дисципліни «Основи теорії інформації» спрямовано формування професійних та загальних компетенцій:

1.4. Кількість годин на освоєння програми дисципліни:

максимального навчального навантаження учня84 годин, у тому числі:

обов'язкового аудиторного навчального навантаження учня 56 годин;

самостійної роботи учня28 годин.

2. СТРУКТУРА І ЗМІСТ НАВЧАЛЬНОЇ ДИСЦИПЛІНИ

2.1. Обсяг навчальної дисципліни та види навчальної роботи

Лабораторні заняття

30

контрольні роботи

Самостійна робота учня (всього)

28

в тому числі:

конспектування тексту

робота з конспектом лекцій (обробка тексту)

відповіді на контрольні питання

підготовка рефератів та доповідей

вирішення ситуаційних виробничих (професійних) завдань

4

4

6

10

4

Підсумкова атестація до іспиту

1. Тематичний план навчальної дисципліни "Основи теорії інформації"

Самостійна робота навчально

гостя, година

Усього занять

лекцій

Лабораторні роботи

Розділ 1. Вимірювання та кодування інформації

52

18

34

14

20

Тема 1.1 Предмет теорії інформації. Безперервна та дискретна інформація

Тема 1.2 Вимірювання інформації

Тема 1.3. Кодування інформації.

32

10

20

10

10

Тема 2.1 Стиснення інформації.

Тема 2.2. Шифрування інформації

Разом

84

28

54

24

30

2.3.Зміст навчальної дисципліни «Основи теорії інформації»

В результаті освоєння навчальної дисципліни ученьповинен вміти :

У 1 застосовувати закон адитивності інформації;

У 2 застосовувати теорему Котельникова;

В результаті освоєння навчальної дисципліни ученьповинен знати :

З1види та форми подання інформації;

З2 методи та засоби визначення кількості інформації;

З3принципи кодування та декодування інформації;

З4способи передачі цифрової інформації;

Тема 1.1. Предмет теорії інформації. Безперервна та дискретна інформація

1. Предмет та основні розділи кібернетики.

2. Предмет теорії інформації.

3. Характеристики безперервної та дискретної інформації.

4. Переведення безперервної інформації до дискретної.

5. Кодування інформації.

6. Частота дискретизації.

7. Теорема Котельникова та її застосування.

Практичні заняття: Розв'язання задач з переведення безперервної інформації до дискретної інформації. Кодування інформації.

Самостійна робота . Виконання домашніх завдань.

Опрацювання конспекту лекції на тему « Принципи управління».

Відповіді на контрольні питання на тему: Безперервна та дискретна інформація

Тема 1.2 Вимірювання інформації

Зміст навчального матеріалу

1. Методи виміру інформації.

2. Імовірнісний підхід до вимірювання інформації. Міра інформації Шеннона.

3. Поняття ентропії. Властивості кількості інформації та ентропії.

4. Закон адитивної інформації

5. Алфавітний підхід до виміру інформації.

Практичні заняття : Розв'язання задач з вимірювання інформації

Самостійна робота. Написання конспекту на тему «Закон адитивної інформації». Розв'язання задач з теорії інформації. Систематичне опрацювання конспектів занять, навчальної, довідкової та наукової літератури.

Тема 1.3. Кодування інформації.

Зміст навчального матеріалу

1. Постановка задачі кодування.

2. Кодування інформації під час передачі без перешкод. Перша теорема Шеннона.

3. Кодування інформації під час передачі у каналі з перешкодами. Друга теорема Шеннона.

4. Основні види завадових кодів.

5. Практична реалізація завадостійкого кодування.

Практичні заняття: Вирішення задач з кодування інформації.

Контрольна робота. Робота за розділом 1. «Вимірювання та кодування інформації»

2

Самостійна робота. Виконання домашніх завдань. Підготовка до занять з використанням конспекту лекцій та різних джерел. Вирішення задач з кодування інформації. Систематичне опрацювання конспектів занять, навчальної, довідкової та наукової літератури. Підготовка до відповідей на контрольні питання та до контрольної роботи.

Розділ 2. Основи перетворення інформації

В результаті освоєння навчальної дисципліни ученьповинен вміти :

У 1 застосовувати закон адитивності інформації;

У 3 використати формулу Шеннона.

В результаті освоєння навчальної дисципліни ученьповинен знати :

З3принципи кодування та декодування інформації;

З4способи передачі цифрової інформації;

З5методи підвищення завадозахищеності передачі та прийому даних, основи теорії стиснення даних.

Тема 2.1 Стиснення інформації.

Зміст навчального матеріалу

1. Стиснення інформації як основний аспект передачі даних. Межі стиснення інформації.

2. Найпростіші алгоритми стиску інформації.

3. Метод Хаффмена. Застосування методу Хаффмена для стиснення даних.

4. Підстановочні чи словниково-орієнтовані методи стиснення даних.

5. Арифметичний метод стиснення даних

Практичні заняття: Виконує завдання зі стиснення даних.

Самостійна робота . Виконання домашніх завдань. Підготовка до занять з використанням конспекту лекцій та різних джерел. Виконує практичні завдання зі стиснення інформації. Систематичне опрацювання конспектів занять, навчальної, довідкової та наукової літератури.

Тема 2.2. Шифрування інформації

Зміст навчального матеріалу

1. Основні поняття класичної криптографії.

2. Класифікація шифрів.

3. Шифри перестановки та шифри заміни.

4. Потокові системи, що шифрують.

5. Симетричні блокові шифри.

6. Асиметричні шифри.

Практичні заняття: «Класичні криптосистеми», «КриптосистемаAES», «КриптосистемаRSA»

Перший мультипорталKM. RU - www. mega. km. ru/ pc-2001

Сервер Інформаційних Технологій =www. citforum. ru

Добірка матеріалів з веб-програмування -

4. Контроль та оцінка результатів освоєння Дисципліни

4.1. Контроль та оцінка результатів освоєння навчальної дисципліни здійснюється викладачем у процесі проведення практичних занять, усних та письмових опитувань, тестування, а також позааудиторної самостійної роботи.

В результаті освоєння навчальної дисципліни ученьповинен вміти :

У 1 застосовувати закон адитивності інформації;

У 2 застосовувати теорему Котельникова;

У 3 використати формулу Шеннона.

В результаті освоєння навчальної дисципліни ученьповинен знати :

З1 види та форми подання інформації;

З2 методи та засоби визначення кількості інформації;

З3 принципи кодування та декодування інформації;

З4 способи передачі цифрової інформації;

З5 методи підвищення завадозахищеності передачі та прийому даних, основи теорії стиснення даних.

Результати навчання

(Освоєні вміння, засвоєні знання)

Форми та методи контролю та оцінки результатів навчання

Вміння:

У1 застосовувати закон адитивності інформації

практичні заняття

У 2 застосовувати теорему Котельникова;

практичні заняття

У 3 використати формулу Шеннона.

практичні заняття

Знання:

З1види та форми подання інформації;

тестування

З2 методи та засоби визначення кількості інформації;

З3принципи кодування та декодування інформації;

тестування, практичні заняття

З4способи передачі цифрової інформації;

тестування, практичні заняття

З5методи підвищення завадозахищеності передачі та прийому даних, основи теорії стиснення даних.

тестування

Підсумкова атестація: іспит

4.2. Контроль та діагностування результатів формування загальних та професійних компетенційз дисципліни здійснюється викладачем у процесі проведення теоретичних та практичних занять, а також виконання учнів самостійних робіт.

Результати навчання

(формування загальних та професійних компетенцій)

Форми та методи контролю та оцінки сформованості загальних та професійних компетенцій

Той, хто навчається, повинен опановувати:

експертна оцінка виконання практичних робіт.

ОК 1. Розуміти сутність та соціальну значущість своєї майбутньої професії, виявляти до неї стійкий інтерес.

ОК 2. Організовувати власну діяльність, вибирати типові методи та способи виконання професійних завдань, оцінювати їх ефективність та якість.

ОК 4. Здійснювати пошук та використання інформації, необхідної для ефективного виконання професійних завдань, професійного та особистісного розвитку.

ОК 8. Самостійно визначати завдання професійного та особистісного розвитку, займатися самоосвітою, свідомо планувати підвищення кваліфікації.

Перевірка доповідей, експертна оцінка виконання практичних робіт та контрольної роботи

ОК 9. Орієнтуватися за умов частої зміни технологій у професійній діяльності.

експертна оцінка виконання практичних робіт

ПК 1.3. Забезпечувати захист інформації в мережі за допомогою програмно-апаратних засобів.

експертна оцінка виконання практичних робітна теми 1.3, 2,2

ПК 2.1. Адмініструвати локальні обчислювальні мережі та вживати заходів щодо усунення можливих збоїв.

експертна оцінка виконання практичних робітза темами 1.3-2,2

ПК 2.2. Адміністрацію мережевих ресурсів в інформаційних системах.

експертна оцінка виконання практичних робітза темами 1.3-2,2

ПК 3.2. Проводити профілактичні роботи на об'єктах мережної інфраструктури та робочих станціях. ПК

експертна оцінка виконання практичних робітза темами 1.3-2,2

Міністерство освіти та науки Російської Федерації

«Московський державний технічний університетімені Н. Е. Баумана

(національний дослідницький університет)»

Московський технікум космічного приладобудування

1.3 Цілі та завдання навчальної дисципліни

В результаті освоєння дисципліни "Основи теорії інформації" студент має вміти :

знати :

1.4 Кількість годин на освоєння програми дисципліни

На освоєння навчальної дисципліни «Основи теорії інформації» виділено таку кількість годин:

максимальне навчальне навантаження студента – 153 години, у тому числі:

– обов'язкове аудиторне навчальне навантаження учня – 102 години,

– самостійної роботи студента – 51 год.

2 СТРУКТУРА І ПРИКЛАДНИЙ ЗМІСТ НАВЧАЛЬНОЇ ДИСЦИПЛІНИ

2.1 Обсяг навчальної дисципліни та види навчальної роботи

Обсяг навчальної дисципліни та види навчальної роботи наведено у таблиці 2.1.

Таблиця 2.1

2.2 Тематичний план та зміст навчальної дисципліни

Тематичний план та зміст навчальної дисципліни «Основи теорії інформації» наведено у таблиці 2.2.

Таблиця 2.2

Найменування розділів, тем			освоєння
Розділ 1. Інформація, властивості та вимір
Тема 1.1 Формальне уявлення знань. Види інформації	Теорія інформації – дочірня наука кібернетики. Інформація, канал зв'язку, шум, кодування. Принципи зберігання, вимірювання, обробки та передачі інформації. Інформація в матеріальному світі, інформація в живій природі, інформація в суспільстві, інформація в науці, класифікація інформації. Інформатика, історія інформатики
1. Пошук додаткової інформації у мережі Інтернет 2. Створення реферату на тему: «Види та форми подання інформації»
Тема 1.2 Способи вимірювання інформації	Вимірювання кількості інформації, одиниці виміру інформації, носій інформації. Передача інформації, швидкість передачі. Експертні системи. Імовірнісний підхід до вимірювання дискретної та безперервної інформації Клода Шеннона. Фішера.
Практичні роботи: Робота № 1 «Вимірювання кількості інформації» Робота №2 «Швидкість передачі інформації»
Самостійна робота студента:

Продовження таблиці 2.2

Найменування розділів, тем			освоєння
Розділ 2. Інформація та ентропія
Тема 2.1 Теорема звітів	Теорема відліків Котельникова та Найквіста - Шеннона, математична модельсистеми передачі, види умовної ентропії, ентропія об'єднання двох джерел. b-арна ентропія, взаємна ентропія. Ентропійне кодування. Пропускна спроможність дискретного каналу. Інтерполяційна формула Уіттекера-Шеннона, частота Найквіста.
Практичні роботи: Робота №3 «Пошук ентропії випадкових величин» Робота № 4 «Застосування теореми звітів» Робота № 5 «Визначення пропускної спроможності дискретного каналу»
Самостійна робота студента:
Тема 4.1 Стандарти шифрування даних. Криптографія.	Поняття криптографії, використання її на практиці, різні методи криптографії, їх властивості та методи шифрування. Криптографія із симетричним ключем, з відкритим ключем. Криптоаналіз, криптографічні примітиви, криптографічні протоколи, керування ключами. Контрольна робота «Основи теорії інформації»
Практичні роботи: Робота № 9 «Класична криптографія»
Самостійна робота студента: 1. Опрацювання конспектів лекцій, вивчення навчальної, технічної та спеціальної літератури. 2. Оформлення звітів з лабораторно-практичних робіт. 3. Пошук додаткової інформації у мережі Інтернет.

Для характеристики рівня освоєння матеріалу використовуються такі позначення:

1 – ознайомчий рівень (впізнавання раніше вивчених об'єктів, властивостей);

2 – репродуктивний рівень (виконання діяльності за зразком, інструкцією або під керівництвом);

3 – продуктивний рівень (планування та самостійне виконання діяльності, вирішення проблемних завдань)

3 УМОВИ РЕАЛІЗАЦІЇ НАВЧАЛЬНОЇ ДИСЦИПЛІНИ

3.1 Вимоги до матеріально-технічного забезпечення

Реалізація програми здійснюється в кабінеті «Інформатики та інформаційних технологій» та у лабораторіях навчально-обчислювального центру.

Реалізація навчальної дисципліни потребує наявності навчального кабінету теоретичного навчання.

Обладнання навчального кабінету:

Посадкові місця за кількістю учнів;

Робоче місце викладача;

Комплект методичних посібників із дисципліни «Основи теорії інформації».

Обладнання полігону навчально-обчислювального центру та робочих місць:

12 комп'ютерів для студентів та 1 комп'ютер викладача;

приклад оформлення документації;

Комп'ютер учня (апаратне забезпечення: не менше 2-х мережних плат, 2-х ядерний процесор з частотою не менше 3 ГГц, оперативна пам'ять об'ємом не менше 2 Гб; програмне забезпечення: ліцензійне ПЗ – операційна система Windows, MS Office);

Комп'ютер викладача (апаратне забезпечення: не менше 2-х мережних плат, 2-х ядерний процесор із частотою не менше 3 ГГц, оперативна пам'ять об'ємом не менше 2 Гб; програмне забезпечення: ліцензійне ПЗ – операційна система Windows, MS Office).

Програмне забезпечення відповідно до розпорядження Уряду Російської Федерації від 18 жовтня 2007 р. (додаток 1).

3.2 Інформаційне забезпечення навчання

Основні джерела:

1. Хохлов Г. І. Основи теорії інформації - М: ІЦ Академія, 2012.

2. Литвинська О. С., Чернишев Н. І. Основи теорії передачі інформації, М: КноРус, 2011.

Додаткові джерела:

1. М. Вернер Основи кодування. Підручник для вузів - Москва: Техносфера, 2006

2. Д. Селомон Стиснення даних, зображень та звуку. Навчальний посібник для вузів - Москва: Техносфера, 2006

3. Букчин Л. В., Безрукий Ю. Л., Дискова підсистема IBM-сумісних персональних комп'ютерів, М: МІКАП, 2013

4. Вінер Н., Кібернетика, М: Наука, 1983

5. Кенцл Т., Формати файлів Internet, СПб: Пітер, 2007

6. Нефьод В. Н., Осипова В. А., Курс дискретної математики, М: МАІ, 2012

7. Нечаєв Ст І., Елементи криптографії, М: Вища школа, 2009

8. Мастрюков Д., Алгоритми стиснення інформації, "Монітор" 7/93-6/94

9. М. Смирнов, Перспективи розвитку обчислювальної техніки: 11 кн.: Довідковий посібник. Кн. 9., М: Вища школа, 2009

10. Розанов Ю. А., Лекції з теорії ймовірностей, М: Наука, 1986

11. Тітце У., Шенк К., Напівпровідникова схемотехніка, М: Мир, 1983

12. Чисар І., Кернер Я., Теорія інформації, М: Мир, 2005

13. Шеннон К., Роботи з теорії інформації та кібернетики, М.: Видавництво іноземної літератури, 1963

14. Яглом А., Яглом І., Імовірність та інформація, М.: Наука, 1973

15. D. Ragget, A. L. Hors, I. Jacobs, HTML 4.01 Specification

16. The Unicode Standard, Version 3.0, Addison Wesley Longman Publisher, 2000, ISBN 0-201-61633-5

Інформаційні ресурси :

ftp://ftp. botik. ru/rented/robot/univer/fzinfd. zip

http://athens. /academy/

http://bogomolovaev. narod. ru

http://informatiku. ru/

http://en. Wikipedia. org

http://fio. ifmo. ru/

4 КОНТРОЛЬ І ОЦІНКА РЕЗУЛЬТАТІВ ОСВОЄННЯ ДИСЦИПЛІНИ

4.1 Контроль результатів освоєння навчальної дисципліни

Контроль та оцінка результатів освоєння дисципліни здійснюється викладачем у процесі проведення практичних занять, тестування, а також виконання студентами індивідуальних завдань. Результати навчання, освоєні компетенції, основні показники оцінки результату та їх критерії, форми та методи контролю та оцінки результатів навчання наведено у таблиці 4.1.

Результати навчання	Коди, що формуються ОК і ПК	Форми та методи контролю та оцінки результатів навчання
Вміння
У1 - застосовувати закон адитивності інформації; У2 – застосовувати теорему Котельникова; У3 – використовувати формулу Шеннона.	ПК2,1 ПК2,2	1.індивідуальне опитування 2. самостійна робота 3. контрольна робота 4. практичне заняття 6. розв'язання задач 7. диференційований залік
Знання
В результаті освоєння навчальної дисципліни студент має знати: З1 - види та форми подання інформації; З2 - методи та засоби визначення кількості інформації; З3 - принципи кодування та декодування інформації; З4 – способи передачі цифрової інформації; З5 - методи підвищення завадозахищеності передачі та прийому даних, основи теорії стиснення даних.	ПК2,1 ПК2,2	1.фронтальне опитування 2. самостійна робота 3. контрольна робота 4. практичне заняття 5. лабораторна робота 6. розв'язання задач 7. диференційований залік