Чаще всего кодированию подвергаются тексты на естественных языках. Существуют три способа кодирования текста:

1.      графический - с помощью специальный рисунков или значков;

2.      числовой - с помощью чисел;

3.      символьный - с помощью символов такого же алфавита, что и исходный текст.

При содержательном подходе возможна качественная оценка информации: полезная, безразличная, важная, вредная ... Одну и ту же информацию разные люди могут оценивать по разному.

Единица измерения информации называется бит. Сообщение, уменьшающее неопределённость знаний человека в два раза, несёт 1 битинформации.

Данная формула является показательным уравнением относительно неизвестной х. Из математики известно, что решение такого уравнения имеет вид:

- логарифм от N по основанию 2. Если N равно целой степени двойки (2, 4, 8, 16,  и т.д.), то такое уравнение можно решить "в уме". В противном случае количество информации становится нецелой величиной, и для решения задачи придётся воспользоваться таблицей логарифмов. 

Перед броском существует неопределённость наших знаний (возможны оба события), и как упадёт монета - предсказать невозможно. После броска наступает полная определённость, так как мы видим, что монета в данный момент находится в определённом положении. Это приводит к уменьшению неопределённости наших знаний в два раза, поскольку из двух возможных равновероятных событий реализовалось одно.

Поскольку вытаскивание любого из 32 шаров равновероятно, то количество информации об одном выпавшем номере находится из уравнения: 2^х=32.

Но 32=2⁵. Следовательно, х=5. Очевидно, ответ не зависит от того, какой именно номер выпал.

Выпадение каждой грани кубика равновероятно. Поэтому количество информации от одного результата бросания находится из уравнения: 2 ^x = 6.

Решение этого уравнения х = log ₂ 6

 По таблице логарифмов определяем x=2,585 бит 

Алфавитный подход к измерению информации позволяет определить количество информации, заключённой в тексте.  Алфавитный подход является объективным, т.е. он не зависит от субъекта (человека), воспринимающего текст.

N=2ⁱ,  где N-количество знаков (мощность)  в алфавите, i - количество информации

Один символ из алфавита мощностью 256 (2⁸) несёт в тексте 8 бит информации. Такое количество информации называется байт.  Алфавит из 256 символов используется для представления текстов в компьютере.

I = K *i, где i - информационный вес одного символа в используемом алфавите.

Решение. Мощность компьютерного алфавита равна 256. Один символ несёт 1 байт информации. Значит, страница содержит 40*60 = 2400 байтинформации. Объём в всей информации в книге: 2400*150=360 000 байт. 

В алфавитном подходе 1 бит - количество информации, которое модно передать в сообщении, состоящем из одного двоичного знака (о или 1). 

 С позиций содержательного подхода 1 бит - это количество информации, уменьшающее неопределённость знания о предмете в два раза.

1 Петабайт (Пб) = 1024 Тбайта = 2⁵⁰ байта; 

Существует несколько различных  стандартов кодирования символов, но первоосновой стал для все стандарт ASCII.

 Институт стандартизации США (ANSI – American National Standard Institute) ввел в действие систему кодирования ASCII (American Standard Code for Information Interchange – стандартный код информационного обмена США). В системе ASCII закреплены две таблицы кодирования – базовая и расширенная. Базовая таблица закрепляет значения кодов от 0 до 127, а расширенная относится к символам с номерами от 128 до 255.

Начиная с кода 32 по код 127 размещены коды символов английского алфавита, знаков препинания, цифр, арифметических действий и некоторых вспомогательных символов. Базовая таблица кодировки ASCII

системы счисления принято делить на две основные группы: позиционные и непозиционные.

В непозиционных системах счисления значение цифры не зависит от её положения в записи числа.

примером может служить римская система счисления. Римские цифры обозначаются буквами латинского алфавита

 |   I |   V |   X |   L |   C |   D |   M
| 1 | 5 | 10 | 50 | 100 | 500 | 1000

В числе цифры записываются слева направо с убыванием порядка. Величина числа определяется как сумма или разность цифр в числе. Если меньшая цифра стоит слева от большей цифры, то она вычитается, если справа - прибавляется. Например:
IV=5+1=6

IV=5-1=4

CCCXXVII=100+100+100+10+10+50+1+1=327

ССXCIX=100+100+(-10+100)+(-1+10)=299

Например, десятичное число 555. В нём первая цифра 5 означает пять сотен, вторая  - пять десяткина, а третья - пять единиц. Такие системы имеют более частое применение на практике.

количество используемых цифр в алфавите системы называется её основанием. Всем известная десятичная система имеет основание 10, и её алфавит составляет десять цифр: 0,1,2,..9.

385,65 = 3*10²+8*10¹+5*10⁰+6*10^-1+5*10^-2

Значение числа складывается из суммы произведений цифр, составляющих число, умноженных на основание системы в степени, обозначающей номер позиции этой цифры в числе. Последовательность степеней называют базисом системы счисления . \Каждое из чисел базиса задаёт количественное  значение , или "вес" соответствующего разряда.

Пример:

101,01₂=1-2²+0*2¹+1*2⁰+0+2^-1+1*2^-2;
673,2₈=6*8²+7*8¹+3*8⁰+2+8^-1;

15FC₁₆=1*16³+5*16²+F*16¹+C*16⁰

Если выразить шестнадцатеричные цифры через их десятичные значения ( F=15, С=12), то 

15FC₁₆=1*16³+5*16²+15*16¹+12*16⁰

Поскольку линейные координаты и индивидуальные свойства каждой точки (яркость) можно выразить с помощью целых чисел, то можно сказать, что растровое кодирование позволяет использовать двоичный код для представления графических данных. Общепринятым на сегодняшний день считается представление черно-белых иллюстраций в виде комбинации точек с 256 градациями серого цвета, и, таким образом, для кодирования яркости любой точки обычно достаточно восьмиразрядного двоичного числа.

Для кодирования цветных графических изображений применяется принцип декомпозиции произвольного цвета на основные составляющие. В качестве таких составляющих используют три основные цвета: красный (Red, R), зеленый (Green, G) и синий (Blue, В). На практике считается (хотя теоретически это не совсем так), что любой цвет, видимый человеческим глазом, можно получить путем механического смешения этих трех основных цветов. Такая система кодирования называется системой RGB по первым буквам названий основных цветов.

Если для кодирования яркости каждой из основных составляющих использовать по 256 значений (восемь двоичных разрядов), как это принято для полутоновых черно-белых изображений, то на кодирование цвета одной точки надо затратить 24 разряда. При этом система кодирования обеспечивает однозначное определение 16,5 млн. различных цветов, что на самом деле близко к чувствительности человеческого глаза. Режим представления цветной графики с использованием 24 двоичных разрядов называется полноцветным (True Color).

Каждому из основных цветов можно поставить в соответствие дополнительный цвет, то есть цвет, дополняющий основной цвет до белого. Нетрудно заметить, что для любого из основных цветов дополнительным будет цвет, образованный суммой пары остальных основных цветов. Соответственно, дополнительными цветами являются: голубой ( Cyan, С), пурпурный (Magenta, М) и желтый (Yellow, Y). Принцип декомпозиции произвольного цвета на составляющие компоненты можно применять не только для основных цветов, но и для дополнительных, то есть любой цвет можно представить в виде суммы голубой, пурпурной и желтой составляющей. Такой метод кодирования цвета принят в полиграфии, но в полиграфии используется еще и четвертая краска – черная (Black, К). Поэтому данная система кодирования обозначается четырьмя буквами CMYK (черный цвет обозначается буквой К, потому, что буква В уже занята синим цветом), и для представления цветной графики в этой системе надо иметь 32 двоичных разряда. Такой режим тоже называется полноцветным (True Color).

Если уменьшить количество двоичных разрядов, используемых для кодирования цвета каждой точки, то можно сократить объем данных, но при этом диапазон кодируемых цветов заметно сокращается. Кодирование цветной графики 16-разрядными двоичными числами называется режимом High Color.

При кодировании информации о цвете с помощью восьми бит данных можно передать только 256 цветовых оттенков. Такой метод кодирования цвета называется индексным. Смысл названия в том, что, поскольку 256 значений совершенно недостаточно, чтобы передать весь диапазон цветов, доступный человеческому глазу, код каждой точки растра выражает не цвет сам по себе, а только его номер (индекс) в некоей справочной таблице, называемой палитрой. Разумеется, эта палитра должна прикладываться к графическим данным – без нее нельзя воспользоваться методами воспроизведения информации на экране или бумаге (то есть, воспользоваться, конечно, можно, но из-за неполноты данных полученная информация не будет адекватной: листва на деревьях может оказаться красной, а небо – зеленым).

Отдельный элемент графического изображения имеет название - пиксель. Ни в коем случае не следует отождествлять пиксель с точкой ("зерном") экрана. только в предельном случае каждому пикселю строго соответствует  по одной точке экрана; но вполне возможно, что пиксель образуется несколькими соседними точками монитора. Мы может настраивать режим работы монитора, например, 800*600 или 1024*800 пикселей, но количество "зёрен" экрана при этом не может измениться.

по существу, кодирование цветов отдельных пикселей аналогично кодированию символов текста. таблица нумерации цветов есть своеобразный алфавит, пользуясь которым компьютер записывает  графическую информацию. В итоге, как и в случае с текстом, получается последовательность целых чисел, которая стандартным образом сохраняется в памяти.

С практической точки зрения очень важно понимать, что количество используемых на рисунке цветов существенным образом сказывается на размере графического файла. Для записи чёрно - белого изображения, имеющего 100 точек по вертикали и 100 точек по горизонтали потребуется 100*100 = 10 000 бит (1 250 байт). Изображение такого же размера, но использующее 256 градаций серого цвета, потребует 100*100*8 = 80 000 бит ( 10 000 байт). Изображение, использующее 24 - битный код, потребует 100*100*24 -=240 000 бит ( 30 000 байт) 

При кодировании звуковой информации непрерывный сигнал разбивается на равные по длительности интервалы времени (дискреты). При этом предполагается, что на каждом участке не изменяется, то есть имеет постоянный уровень, который может быть представлен двоичным кодом. Очевидно,что такая замена реального сигнала  на совокупность уровней отражается на качестве звука. Поэтому чем меньше временные интервалы (дискреты), тем точнее сигнал можно представить в виде кодов.

Как, например, происходит кодирование звука в микрофоне? Через равные промежутки времени, очень часто (десятки тысяч раз в секунду) измеряется амплитуда колебаний. Каждое измерение производится с ограниченной точностью и записывается в двоичном коде. Частота, с которой  записывается амплитуда, называется частотой дискретизации. Полученный ступенчатый сигнал сначала сглаживается посредством аналогового фильтра, а затем преобразуется в звук с помощью усилителя или динамика 

. Другой важной характеристикой является глубина кодирования звука - количество битов, отводимое на одно измерение сигнала.