Двоичные единицы

Двоичные единицы

Двоичные единицы (в теории информации), единицы измерения энтропии и количества информации . Энтропию в 1 Д. е. (1 bit, от англ. binary digit) имеет источник с двумя равновероятными сообщениями. Происхождение термина объясняется тем, что количество Д. е. указывает (с точностью до единицы) среднее число знаков, необходимое для записи сообщений данного источника в двоичном коде . Употребляются также десятичные единицы (decit, от англ. decimal digit). Переход от одних единиц к другим соответствует изменению основания логарифмов в определении энтропии и количества информации (10 вместо 2). Формула перехода: 1 дес. ед. = 1/lg 2 Д. е. » 3,32 Д. е.