Краткое содержание: Параграф § 2 / Информатика 10 класс

Основные подходы к измерению информации

Изучение информации и ее свойств является объектом исследования нескольких научных дисциплин, включая теорию информации, кибернетику, семиотику и информатику. Информатика, в частности, фокусируется на процессах сбора, преобразования, хранения, защиты и передачи всех типов информации и средств ее автоматизированной обработки.

В данном разделе рассматриваются два ключевых подхода к измерению информации:

• Содержательный подход (основан на работах Клода Шеннона).
• Алфавитный подход (основан на работах А. Н. Колмогорова).

Содержательный подход к измерению информации

Информация определяется как снятая неопределенность. Количество возможных исходов некоторого события называется величиной неопределенности. Сообщение, которое уменьшает неопределенность знаний о результате события в два раза, несет 1 бит информации. Бит является наименьшей единицей информации, введенной Клодом Шенноном в 1948 году.

Если некоторое событие имеет \(N\) равновероятных исходов, то количество информации \(I\), содержащееся в сообщении об одном из этих исходов, определяется по формуле Хартли:

\( 2^{I} = N \)

где \(I\) — количество информации (в битах), \(N\) — число равновероятных исходов.

Процесс получения информации, при котором на каждом шаге количество возможных вариантов уменьшается вдвое, называется методом половинного деления. Этот метод широко применяется в технике и программировании.

Алфавитный подход к измерению информации

Алфавитный подход рассматривает информацию, отвлекаясь от ее содержания, как последовательность символов (букв, цифр, кодов цвета и т. д.) некоторого алфавита.

Минимальная мощность алфавита \(M\) (количество символов в нем), пригодного для кодирования информации, равна 2, так как информация кодируется с помощью двоичных символов. Такой алфавит называется двоичным, и один его символ несет 1 бит информации.

Информационный объем сообщения — это общее количество двоичных символов (битов), используемое для кодирования этого сообщения.

В алфавитном подходе информационный вес одного символа \(i\) (в битах) связан с мощностью алфавита \(N\) (количеством символов) соотношением:

\( 2^{i} = N \)

Информационный объем сообщения \(I\) (в битах), состоящего из \(K\) символов, вычисляется по формуле:

\( I = K \cdot i \)

где \(i\) — информационный вес символа (в битах), \(K\) — количество символов в сообщении.

Пример 6 иллюстрирует использование таблицы ASCII, которая позволяет закодировать 256 символов, что соответствует \(N = 2^{8}\), следовательно, \(i = 8\) бит на символ.

Алгоритм вычисления информационного объема сообщения:

1. Определить мощность алфавита \(N\).
2. Используя соотношение \( 2^{i} = N \), найти информационный вес символа \(i\) (в битах).
3. Умножить \(i\) на общее количество символов \(K\) в сообщении, чтобы получить информационный объем \(I = K \cdot i\).

Единицы измерения информации

В двоичном коде один двоичный разряд несет 1 бит информации. Восемь битов объединяются в байт. Для измерения больших объемов информации используются производные единицы:

• 1 Килобайт (Кбайт) \( = 2^{10} \) байт
• 1 Мегабайт (Мбайт) \( = 2^{10} \) Кбайт \( = 2^{20} \) байт
• 1 Гигабайт (Гбайт) \( = 2^{10} \) Мбайт \( = 2^{30} \) байт
• 1 Терабайт (Тбайт) \( = 2^{10} \) Гбайт \( = 2^{40} \) байт
• 1 Петабайт (Пбайт) \( = 2^{10} \) Тбайт \( = 2^{50} \) байт

Исторически сложилось, что в информатике приставки «кило», «мега», «гига», «тера» и др. соответствуют степеням двойки ( \( 2^{10} \), \( 2^{20} \), \( 2^{30} \), \( 2^{40} \) ), а не степеням десятки ( \( 10^{3} \), \( 10^{6} \), \( 10^{9} \), \( 10^{12} \) ), как в математике. В 1999 году были введены новые стандарты — двоичные приставки (киби-, меби-, гиби- и т.д.), где, например, 1 кибибайт (КиБ) \( = 1024 \) байта, чтобы устранить путаницу.