Количество информации: от формулы Хартли к формуле Шеннона
Цели и задачи
- Цель: научиться вычислять количество информации для событий с различными вероятностями, используя формулу Шеннона, и понимать границы применимости формулы Хартли.
- Образовательная задача: вывести формулу Шеннона как обобщение формулы Хартли и отработать навык решения расчетных задач.
- Развивающая задача: развить аналитическое мышление через установление межпредметных связей с физикой (энтропия) и лингвистикой (частотность букв).
- Воспитательная задача: способствовать формированию осознанного отношения к информации как к стратегическому ресурсу, необходимому для будущей профессиональной деятельности.
Планируемые результаты
Личностные
- Готовность к осознанному выбору дальнейшей образовательной траектории с учетом понимания роли информационных процессов.
- Критическое отношение к качеству и количеству потребляемой информации.
- Способность к самооценке на основе критериев успешности учебной деятельности.
Метапредметные
- Познавательные: умение переводить информацию из одной знаковой системы в другую (формулы, графики, текст), устанавливать причинно-следственные связи.
- Регулятивные: способность ставить новые учебные цели и планировать пути их достижения в условиях неопределенности.
- Коммуникативные: владение навыками продуктивного взаимодействия в паре при решении исследовательских задач.
Предметные
- Знать содержательный и алфавитный подходы к измерению информации.
- Уметь применять формулы Хартли и Шеннона для решения задач.
- Владеть навыками вычисления логарифмов по основанию 2 для нахождения количества информации.
Универсальные учебные действия (УУД)
Личностные УУД
- Смыслообразование (связь между целью учебной деятельности и ее мотивом — подготовка к профильным испытаниям).
Регулятивные УУД
- Прогнозирование результата, волевая саморегуляция в ситуации интеллектуального затруднения.
Познавательные УУД
- Самостоятельное выделение и формулирование познавательной цели, синтез как составление целого из частей.
Коммуникативные УУД
- Умение с достаточной полнотой и точностью выражать свои мысли, инициативное сотрудничество.
Подготовка учителя к уроку
- Распечатать карточки для парной работы «Информационная энтропия в лингвистике» (15 шт.).
- Подготовить презентацию со слайдами: «Парадокс равновероятности», «Портреты Р. Хартли и К. Шеннона», «Примеры задач ЕГЭ №11».
- Проверить работоспособность инженерных калькуляторов или ПО «Калькулятор» на рабочих станциях.
- Подготовить демонстрационный набор: непрозрачный мешочек и 10 шаров (8 красных, 2 синих).
- Открыть учебник (Поляков/Секин) на главе «Измерение количества информации».
Ход урока
Этап 1. Организационный момент и мотивация (3 мин)
Цель этапа: создать психологический настрой и вызвать интерес к теме через парадокс.
Время | Действие учителя | Действие учеников |
|---|---|---|
3 мин | «Здравствуйте, коллеги! Сегодня мы не просто ученики, а исследователи данных. Представьте ситуацию: вы ждете сообщение о результате экзамена. Варианта два: "сдал" или "не сдал". Формула Хартли говорит, что такое сообщение несет 1 бит информации. Но если вы отличник и вероятность провала 1 к 100, будет ли сообщение о сдаче таким же информативным, как неожиданная новость о провале? Сегодня мы выясним, почему классическая формула Хартли иногда "лжет" и как математика учитывает наши ожидания». | Слушают учителя, включаются в диалог. Отвечают на вопрос: «Нет, новость о провале будет более шокирующей, она несет больше субъективной новизны». Фиксируют тему урока в тетрадях. |
Завершение этапа: учитель подводит итог: «Итак, мы чувствуем, что вероятность события влияет на количество информации. Давайте вспомним, что мы уже знаем о расчетах».
Этап 2. Актуализация знаний (5 мин)
Цель этапа: повторить формулу Хартли и понятие равновероятности.
Время | Действие учителя | Действие учеников |
|---|---|---|
5 мин | «На слайде 1 — классическая задача: "В корзине 16 шаров разных цветов. Сколько информации несет сообщение о том, что достали красный шар?". Какую формулу используем? Какие условия должны соблюдаться? Запишите решение на доске, кто смелый?». Учитель контролирует точность терминологии (алфавитный подход, мощность алфавита). | Один ученик у доски, остальные в тетрадях: «Используем формулу Хартли: $N = 2^I$. Так как $16 = 2^4$, то $I = 4$ бита. Условие — все шары вынимаются с равной вероятностью». Класс проверяет решение. |
Запись в тетрадях
Формула Хартли: $I = \log_2 N$, где $N$ — число равновероятных событий. $i = \log_2(1/p)$ — информация об одном событии с вероятностью $p$.
Завершение этапа: учитель подводит итог: «С равновероятными событиями все ясно. А если я положу в мешок 8 красных шаров и всего 2 синих? Будет ли информация о синем шаре равна информации о красном?»
Этап 3. Выявление затруднения и постановка проблемы (5 мин)
Цель этапа: продемонстрировать недостаточность формулы Хартли для неравновероятных событий.
Посмотрите план целиком
Зарегистрируйтесь — и откройте план урока по этой теме полностью: цели, ход урока и рефлексия по ФГОС.
Время | Действие учителя | Действие учеников |
|---|---|---|
5 мин | Учитель демонстрирует мешочек с шарами: «Вероятность достать красный шар $p_1 = 0.8$, синий — $p_2 = 0.2$. Если мы применим формулу Хартли для $N=2$, получим 1 бит. Но интуитивно мы понимаем: редкое событие (синий шар) несет больше информации. Как нам рассчитать среднее количество информации на один выстрел/выбор в такой системе? В физике есть понятие энтропии — меры неупорядоченности. В информатике мы используем похожий аппарат». | Формулируют проблему: «Нам нужна формула, которая учитывает разные вероятности событий и позволяет вычислить среднее значение информации для всей системы». |
Завершение этапа: учитель подводит итог: «Верно. Эту задачу решил Клод Шеннон в 1948 году. Давайте познакомимся с его открытием».
Этап 4. Открытие нового знания (12 мин)
Цель этапа: изучить формулу Шеннона и понять её связь с физической энтропией.
Время | Действие учителя | Действие учеников |
|---|---|---|
7 мин | «Посмотрите на экран. Формула Шеннона выглядит так: $H = -\sum (p_i \cdot \log_2 p_i)$. Почему минус? Потому что вероятность меньше 1, и логарифм будет отрицательным. Мы ищем среднее ожидаемое количество информации. Давайте проверим: если события равновероятны ($p = 1/N$), превратится ли эта страшная формула в простую формулу Хартли?». Учитель проводит математический вывод на доске. | Следят за выводом, записывают формулу. Проводят проверку для $N=2, p_1=0.5, p_2=0.5$: $H = -(0.5 \cdot (-1) + 0.5 \cdot (-1)) = 1$. Убеждаются в преемственности формул. |
5 мин | «Межпредметная связь: в термодинамике формула Больцмана для энтропии выглядит почти идентично. Чем выше неопределенность системы, тем больше информации мы получаем при ее разрешении. В лингвистике буквы в тексте встречаются с разной частотой. Например, буква "о" встречается часто, а "ф" — редко. Значит ли это, что появление буквы "ф" в тексте более информативно?» | Анализируют лингвистический пример. Высказывают гипотезы: «С точки зрения теории информации — да, редкие символы уменьшают неопределенность сильнее». |
Запись в тетрадях
Формула Шеннона: $H = -\sum_{i=1}^{N} p_i \log_2 p_i$. Свойства: $H$ максимально, когда все вероятности равны. Если одно событие достоверно ($p=1$), то $H=0$.
Завершение этапа: учитель подводит итог: «Теперь у нас есть мощный инструмент. Попробуем применить его к реальным задачам в парах».
Этап 5. Первичное закрепление и парная работа (7 мин)
Цель этапа: отработка навыка расчета по формуле Шеннона в условиях межпредметного контекста.
Время | Действие учителя | Действие учеников |
|---|---|---|
7 мин | «Раздаю карточки. Задача: в генетическом коде 4 нуклеотида (А, Т, Г, Ц). В определенном фрагменте ДНК вероятности их появления: А=0.4, Т=0.4, Г=0.1, Ц=0.1. Рассчитайте среднюю информационную емкость одного нуклеотида в этом фрагменте. Сравните с результатом, если бы они были равновероятны. Работаем в парах, используйте калькуляторы». | Работают в парах. Вычисляют: $H = -(0.4 \cdot \log_2 0.4 + 0.4 \cdot \log_2 0.4 + 0.1 \cdot \log_2 0.1 + 0.1 \cdot \log_2 0.1)$. Используют свойство $\log_2 x = \ln x / \ln 2$ или таблицы. Сравнивают с $H_{max} = \log_2 4 = 2$ бита. |
Эталон решения
$p_1=0.4, p_2=0.4, p_3=0.1, p_4=0.1$. $\log_2 0.4 \approx -1.32$, $\log_2 0.1 \approx -3.32$. $H = -(0.4 \cdot (-1.32) \cdot 2 + 0.1 \cdot (-3.32) \cdot 2) = -(-1.056 - 0.664) = 1.72$ бита. Ответ: 1.72 бита (меньше 2, так как распределение неравномерное).
Завершение этапа: учитель подводит итог: «Мы видим, что неравномерность распределения снижает среднюю информацию. Это база для алгоритмов сжатия данных, о которых мы поговорим позже».
Этап 6. Самостоятельная работа с самопроверкой (8 мин)
Цель этапа: индивидуальная проверка усвоения материала на задачах формата ЕГЭ (усложненных).
Время | Действие учителя | Действие учеников |
|---|---|---|
6 мин | «На экранах задача №11 (модифицированная). При регистрации в системе пользователь получает пароль из 10 символов. Используется алфавит из 4 символов, но символ 'A' встречается в 50% случаев, остальные — равномерно. Сколько бит памяти нужно для хранения пароля, если использовать оптимальное кодирование по Шеннону? Решаем самостоятельно». | Решают задачу индивидуально. Вычисляют энтропию одного символа, умножают на длину пароля. Округляют результат до целого числа бит в большую сторону, если требуется по условию хранения. |
2 мин | Выводит правильный ответ и критерии на экран. «Проверьте себя. Кто допустил ошибку в логарифмах? А кто забыл умножить на длину последовательности?» | Сверяют решение с эталоном. Проводят самоанализ ошибок (вычислительные или методологические). |
Завершение этапа: учитель подводит итог: «Отлично. Большинство справилось. Эти знания помогут вам не только на ЕГЭ, но и в понимании того, как работают ZIP-архивы».
Этап 7. Рефлексия и домашнее задание (2 мин)
Цель этапа: осознание результатов деятельности и постановка задач на дом.
Время | Действие учителя | Действие учеников |
|---|---|---|
2 мин | «Наш урок подходит к концу. Мы прошли путь от простых шаров в корзине до формулы, за которую Шеннона называют отцом цифровой эпохи. Что для вас было самым неожиданным? Запишите домашнее задание». | Отвечают на вопросы рефлексии. Записывают задание из таблицы на доске. |
Критерии оценивания практической работы
- «5» — Верно определены вероятности всех событий, правильно применена формула Шеннона, расчеты произведены с точностью до сотых, сделан логический вывод о сравнении с формулой Хартли.
- «4» — Верный ход решения, правильно выбрана формула, но допущена одна вычислительная ошибка или отсутствует итоговое сравнение.
- «3» — Ученик понимает разницу между подходами, но путается в применении формулы Шеннона (например, забывает про суммирование или знак минуса).
Рефлексия
Вопрос для ученика | Цель вопроса |
|---|---|
В каком случае формула Хартли становится частным случаем формулы Шеннона? | Проверка понимания математической связи и условий равновероятности. |
Где в вашей будущей профессии может пригодиться расчет информационной емкости? | Профессиональное самоопределение и мотивация (связь с Data Science, защитой информации). |
Какой этап расчета вызвал наибольшее затруднение: логика формулы или вычисления? | Диагностика проблемных зон для планирования следующего урока. |
Завершающее слово учителя
«Сегодня мы убедились, что информация — это не просто текст или картинка, а математически измеримая мера снятой неопределенности. Вы отлично поработали с логарифмами и увидели связь информатики с биологией и физикой. На следующем уроке мы узнаем, как эти формулы помогают сжимать файлы без потери качества. Спасибо за урок, до встречи в цифровом мире!»
Домашнее задание
Уровень сложности | Задания | Описание |
|---|---|---|
Базовый (обязательный) | Учебник, §12, задачи 1-5. | Решение стандартных задач на формулу Хартли и Шеннона для закрепления алгоритма. |
Средний (повышающий) | Задача: рассчитать энтропию русского алфавита (упрощенно для 5 букв с разной частотностью). | Применение знаний в лингвистическом контексте, работа с таблицей частот. |
Продвинутый (дополнительный) | Мини-исследование: «Почему база данных SQL занимает больше места, чем текстовый файл с теми же данными?» | Анализ избыточности информации и структурных затрат с точки зрения теории Шеннона. |