Искусственный интеллект: преимущества и риски

Слайд 1. Искусственный интеллект: преимущества и риски

Слайд 2. Что называют искусственным интеллектом

Искусственный интеллект — это методы и системы, которые выполняют задачи, обычно требующие человеческого участия: распознают объекты, находят закономерности, строят прогнозы и создают тексты. В основе многих современных систем лежит машинное обучение: алгоритм выявляет закономерности в данных и использует их для обработки новых примеров.

Слайд 3. Как статистика участвует в работе ИИ

Сбор данных

Очистка и разметка примеров

Поиск закономерностей

Проверка качества прогноза

Использование модели на новых данных

Слайд 4. Преимущества и ограничения ИИ

Быстрая обработка больших массивов данных

Поиск скрытых закономерностей

Автоматизация повторяющихся операций

Персонализация рекомендаций

Помощь в научных и медицинских исследованиях

Зависимость от качества исходных данных

Ошибки при необычных ситуациях

Смещение результатов в пользу отдельных групп

Непрозрачность некоторых моделей

Риск утечки персональной информации

Слайд 5. Три источника ошибки алгоритма

Выборка может быть неполной, устаревшей или не отражать всё разнообразие реальных случаев.

Алгоритм может слишком хорошо запомнить обучающие примеры и хуже работать на новых данных.

Даже точный прогноз нельзя использовать без учёта контекста, последствий и ответственности человека.

Слайд 6. Вероятность ошибки и качество решения

Любой прогноз ИИ имеет неопределённость. Если система распознаёт изображение или оценивает риск, важно учитывать не только её ответ, но и вероятность ошибки. На практике сравнивают правильные и ошибочные решения, отдельно анализируют пропуски и ложные срабатывания. Высокая средняя точность не гарантирует одинаковую надёжность для всех групп.

Слайд 7. «Модель не заменяет критическое мышление»

— Главный принцип ответственного использования ИИ

Слайд 8. Где ИИ помогает, а где требует контроля

Подбирает объяснения и упражнения, но не должен подменять самостоятельное рассуждение ученика.

Помогает находить признаки на снимках, однако окончательное решение принимает специалист.

Обрабатывает данные датчиков и обнаруживает опасные ситуации, но возможны сбои и нестандартные условия.

Создаёт изображения и тексты, поэтому особенно важны проверка фактов и указание источников.

Слайд 9. Задание для обсуждения

Выберите один пример применения ИИ.

Определите, какие данные получает система.

Назовите возможную пользу и возможный вред.

Сформулируйте, какую проверку должен выполнить человек.

Сделайте вывод: можно ли доверять системе без дополнительного контроля?

Слайд 10. Итоги

ИИ находит закономерности в данных и строит прогнозы.

Статистика помогает оценивать качество и неопределённость решений.

Преимущества ИИ связаны со скоростью, масштабом и автоматизацией.

Риски возникают из-за неполных данных, смещений и ошибок применения.

Ответственное решение требует проверки человеком и критического мышления.