Please enable JavaScript.
Coggle requires JavaScript to display documents.
Информация и информационные процессы - Coggle Diagram
Информация и информационные процессы
Кол-во информации
N = 2^I
(I - кол-во информации в битах; N - кол-во вариантов)
Формула Хартли
I = log2 N
Теоретическое количество информации в сообщении
I = L * log2 M
(M - кол-во символов в алфавите; L - длина сообщения)
Информация и вероятность
p = m / N
(N - кол-во испытаний; m - сколько раз произошло событие)
I = -log2 p = log2 1/p
Формула Шеннона
Передача данных
- это кол-во бит, которое передаётся по каналу связи за единицу времени
Пропускная способность канала связи
- это наибольшая возможная скорость передачи данных, которую принципиально невозможно превысить
Объём информации
I = v * t
Обнаружение ошибок
Добавление бита чётности
Вычисление контрольной суммы
Помехоустойчивые коды
- коды, которые позволяют исправлять шибки, если их кол-во не превышает некоторого уровня
Расстояние Хэмминга
- это кол-во позиций, в которых различаются два закодированных сообщения одинаковой длины.
d >= 2*r + 1
Сжатие данных
Основные понятия
Коэффициент сжатия
- это отношение размеров исходного и сжатого файлов
Сжатие без потерь
- это такое уменьшение объёма закодированных данных, при котором можно восстановить их исходный вид без искажений
Алгоритм RLE (кодирование цепочек одинаковых символов)
Префиксный код
- это код, в котором ни одно кодовое слово не является началом другого кодового слова (условие Фано)
Алгоритм Хаффмана
Алгоритм LZW
(код присваивается не отдельному символу, а нескольким символам)
Сжатие с потерями
- это такое уменьшение объёма закодированных данных, при которых распакованный файл может отличаться от оригинала
Для изображений
JPEG
Для упаковки звука
MP3
Алгоритмы упаковки видеофильмов
MPEG4
XviD
DivX
MJPEG
Какие данные хорошо сжимаются?
тексты, в которых повторяются одинаковые слова и символы
документы - тексты с оформлением
рисунки, имеющие большие области одного цвета и записанные без сжатия
несжатый звук
несжатое видео
Плохо сжимаются:
архивы, упакованные со сжатием
сжатые рисунки
сжатый звук
сжатое видео
многие исполняемые программы
