Please enable JavaScript.
Coggle requires JavaScript to display documents.
Информация и информационные процессы (Анатолий Загоровский 11а)…
Информация и информационные
процессы
(Анатолий Загоровский 11а)
Формула Хартли
С помощью формулы Хартли можно вычислить теоретическое количество информации в сообщении.
Предположим, что алфавит включает 50 символов. Тогда информация при получении каждого символа составляет
Количество информации, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется из решения показательного уравнения:
Подробнее
Формула Шеннона
Подробнее
При равновероятных событиях неопределённость совпадает с количеством информации, вычисленным по формуле Хартли.
Формулу для вычисления количества информации в случае различных вероятностей событий предложил К. Шеннон в 1948 году. В этом случае количество информации определяется по формуле:
Информация и вероятность
Вероятность - это число в интервале от 0 до 1. В математике вероятность принято обозначать буквой p (от латинского probabilis-вероятность, возможный)
Если событие имеет вероятность p, то количество информации в битах, полученное в сообщении об этом событии, равно
Например: в беспроигрышной лотерее разыгрывается 3 книги, 2 альбома, 10 наборов маркеров, 10 блокнотов.
Общее число исходов 2+3+10+10=25; число благоприятствующих исходу событий равно 3. Вероятность выигрыша книги вычисляется по формуле: p =3/25=0,12.
Подробнее
Ральф Хартли
(1888-1979)
Клод Шеннон
(1916-2001)
