Несигурността на размера на знания и информация - studopediya
Смислена подход за измерване на информацията, се изтласква от определението за информация, тъй като съдържанието на съобщението, получено от лицето. Същността на материалното подход е както следва: съобщение да информира за някакво събитие, премахва несигурността на човешкото познание на събитието.
По-голямата първоначалната несигурност на знания, колкото повече информация носи послание, премахването на тази неяснота.
Ето някои примери за илюстриране на това твърдение.
Ситуация 1. В класа се определя нов учител науката; на въпроса: "Това е мъж или жена", ти каза, "Човекът".
Ситуация 2. На национално първенство отбор по футбол играе Динамо и Зенит. От спортните новини по радиото, ще научите, че играта бе спечелен от Зенит.
Вариант 3: При избора на кмета бяха четирима кандидати. След представянето на гласове на резултатите научихте, че избран Никитин NN
Въпрос: кое от трите ситуации полученото съобщение носи повече информация?
Несигурността знания - е броят на възможните отговори на въпроса ви интересува. В първата ситуация - 2 възможности: мъжки, женски; във втората хипотеза 3 варианта: спечели, да, загуби; В третия случай - 4 възможности: 4 кандидат за мярката.
Според горното определение, най-голямо количество информация носи послание към третата ситуация, тъй като несигурността на познания за събитие (предизборната мярка) е в този случай е по-голям.
През 40-те години на ХХ век, проблемът за измерване на данни е решен от американския учен Клод Шанън - основател на теорията на информацията. Според K.Shennonu информация - е премахване на несигурността на човешкото познание за резултата от дадено събитие.
В информация теория, информация измерване единица се определя както следва.
Съобщението, което намалява несигурността на знания за резултата от дадено събитие два пъти, носи един бит информация
Според тази дефиниция, съобщението в първото от тези ситуации носи един бит информация, защото на два възможни отговора един е избран.
Следователно, количеството на информацията, получена при втория и третия ситуации, повече от един бит. Но как да ги измери?
Помислете още един пример за избор на един от четирите опции, по-удобни за измерване на количеството на информацията.
Ученикът пише тест на компютъра и го пита учителя за оценката, получена. Оценка може да е: от 2 до 5. В учителят отговори: "Guess марка в продължение на два въпроса, отговорите на които могат да бъдат" да "или" не "." Мислейки студент пита първия въпрос: "Оценка на горния трио?". "Да" - отвърна капитанът. Вторият въпрос е: "Това е пет?". "Не" - отвърна той на капитана. Учениците разбират, че е получил четири. Какъвто и да е резултатът, по този начин тя може да се подразбира!
Първоначално, несигурността на знания (оценка на възможностите, които са получили) е равно на четири. Тъй като отговорът на всеки въпрос несигурност е намалял с 2 пъти, и следователно, съгласно горната дефиниция един бит, 1-битова информация се предава.
Първоначалните версии. Изпълненията, останали след първото издаване: (1 бит) Variant, оставаща след 2-ри въпрос: (1 бит)
Учене оценка (един от четири възможни) студент получи 2 бита информация.
Помислете за един конкретен пример, а след това да извлече общото правило.
Малко мисъл, другарю започна да попитам:
- номер на вагона на повече от четири?
- номер на вагона на повече от шест?
- Това е шестият колата?
- Е, сега всичко е ясно! Ще в петата колата!
Схематично, търсенето на номерата на колата е както следва:
Първоначалният брой на варианти: След първото издание (1 бит): След втория въпрос (един бит): Когато на третия въпрос (1 бит):
Всеки отговор намалява несигурност на половина. беше зададен Само три въпроса. Следователно общо вкара 3 бита информация. И ако някога е било казано, че ще в петата колата, то това съобщение ще бъде предадено на същите 3 бита на информация.
Търсачките се реши, прилагани в примерите са оценени мотриси и се нарича метод разполовяване. отговор на всеки въпрос намалява несигурността на знанията на половина. По този начин всеки такъв отговор носи един бит информация.
Имайте предвид, че търсенето на метод решения разполовяване е най-рационалното. По този начин, винаги можете да се досетите, например, всяка от осемте варианта на 3-те въпроса. Ако търсенето се извършва груба сила: "Отиваш в първата кола?" - "Не", "Във втората кола?" - "Не", и т.н. нещо за петия колата може да бъде намерен след пет въпроса, а за осми - след осем. За извличане на информация въпрос ще се върнем към нашия курс.
"Основната формула за" информатика
Ние формулираме много важно условие, позовавайки се на примерите разгледани. При всички положения, се приема, че всички опции са еднакво вероятни събития. С еднаква вероятност, че учителят може да бъде мъж или жена; equiprobable всеки резултат от футболен мач, equiprobable избор на една от четирите кандидати за действието на града. Същото важи и за примерите с оценките и автомобили.
Тогава нашите резултати, описани от следния текст:
- съобщение за един от двата еднакво вероятни резултати от дадено събитие носи един бит информация;
- съобщение на един от четирите еднакво вероятно резултатите от събитие носи 2 бита информация;
- съобщение за един от осем еднакво вероятно резултатите от събитие носи 3 бита информация.
Ние означаваме с N броя на възможните резултати от събития, или както ние го наричаме дори, - несигурността на знанието. В писмото аз ще означаваме количеството на информацията в доклада за един от резултатите от N.
В примера на п = 2 учител. I = 1 бит;
Пример класиран N = 4. I = 2 бита;
в примера с п = 8 коли. I = 3 бита.
Лесно е да се забележи, че връзката между тези стойности се изразява чрез следната формула:
С получената формула вече знаете от курса по компютърни науки за клас 8 и все още един ден ще се срещне с нея. Стойността на тази формула е толкова голяма, че ние го нарича основната информатика формула. Ако стойността на п е известен и - не е известно, тази формула се превръща в уравнението за определяне и. В математиката се нарича експоненциални уравнения.
Нека влакът не е 8, а 16 коли. За да се отговори на въпроса, колко информация се съдържа в доклада за броя на желания автомобил, трябва да се реши уравнението:
16 = 2 I = 4 след 4 бита.
Количеството на информация (I), съдържащи се в съобщение на един от N еднакво води определени събития определят чрез решаване експоненциално уравнение: I = N 2
Пример 1. В кино 16 реда, всеки ред 32 място. Колко информация носи послание, което сте си купили билет за 12-ти ред, са на 10 място?
Решение на проблема: в театъра от 16 × 32 = 512 места. Доклад за закупен билет еднозначно определя избора на едно от тези места. От уравнение 2 I = 512 9 = 2 получаваме: I = 9 бита.
Но същия проблем може да бъде решен по друг начин. Съобщение за редица носи 4 бита информация, като 02 април = 16. Съобщение за пространство стая разполага с 5 бита информация, като 02 май = 32. Като цяло, съобщение за броя и местоположението трябва да бъде: 4 + 5 = 9 бита информация.
Този пример илюстрира адитивност информацията Закона (допълнение правило) от: количеството информация в съобщение в същото време на няколко независими една от друга резултати събития, се равнява на сумата от количество информация за всяко едно събитие поотделно.