Количество информации

Слайд 1. Количество информации

Как измерить то, что нельзя потрогать? Урок информатики, 11 класс

Слайд 2. Что такое информация?

В информатике количество информации — это мера уменьшения неопределенности наших знаний.

Представьте, что вы ждете ответа на важный вопрос. До ответа у вас есть неопределенность. После получения сообщения она исчезает или уменьшается. Этот «объем» снятой неопределенности и есть количество информации.

Слайд 3. Алфавитный подход

Информация как последовательность символов

Не зависит от смысла сообщения (объективный подход)

Мощность алфавита $N$ — общее число символов в нем

Вес одного символа $i$ измеряется в битах

Слайд 4. Формула Хартли: $N=2^i$

Слайд 5. Бит — элементарная единица

1 Бит — это количество информации, которое мы получаем при выборе одного из двух равновероятных событий ($2^1=2$).

• Бросок монеты (Орел или Решка)

• Лампочка (Включена или Выключена)

• Ответ на вопрос (Да или Нет)

Слайд 6. Содержательный подход

Здесь мы считаем количество информации, исходя из того, сколько вариантов развития событий было изначально.

Если вы угадали число от 1 до 32, вы получили $i$ бит информации, где $2^i=32$. Значит, $i=5$ бит. Чем больше было вариантов, тем ценнее ответ.

Слайд 7. Вероятностный подход (Шеннон)

События в жизни редко бывают равновероятными

Редкое событие несет больше информации, чем ожидаемое

Формула: $I=-\sum p_i{\log }_2{p}_i$

Используется для оценки сложности систем и сжатия данных

Слайд 8. Единицы измерения информации

Слайд 9. «Информация — это не материя и не энергия, информация — это информация»

— Норберт Винер, «отец» кибернетики

Слайд 10. Практическая задача №1

Текст содержит 512 символов. Алфавит состоит из 64 символов. Каков объем текста?

Найдем вес одного символа: $64=2^i\Rightarrow i=6$ бит.

Умножим количество на вес: $512\cdot 6=3072$ бита.

$3072/8=384$ Байта.

Слайд 11. Избыточность информации

Человеческий язык очень избыточен. Мы можем понять фразу «Првт, кк дл?», даже если в ней пропущены гласные. Это помогает нам понимать друг друга при помехах.

В компьютерах избыточность часто вредна, так как занимает место. Архиваторы (ZIP, RAR) находят повторы и сокращают их, уменьшая объем файла.

Слайд 12. Давайте обсудим

1. Несет ли информацию книга на языке, которого вы совершенно не знаете?

2. Почему сообщение «Завтра утром взойдет солнце» несет для нас почти 0 бит информации?

3. Можно ли измерить в битах ваши эмоции или художественную ценность картины?

Слайд 13. Проверь себя: что мы запомнили?

Минимальная единица информации — это бит

В одном байте ровно 8 бит

Формула Хартли связывает количество вариантов и бит

Алфавитный подход не учитывает смысл сообщения

Приставки К, М, Г в информатике означают множитель 1024, а не 1000

Слайд 14. Итоги занятия

Мы узнали, что информацию можно измерять математически

Разобрали алфавитный и содержательный подходы

Научились переводить биты в байты и более крупные единицы

Поняли, как вероятность события влияет на его информативность

Слайд 15. Спасибо за внимание! Готовы к практике?