Выступление на педагогической конференции
«Этика алгоритмов: обсуждение предвзятости ИИ на уроках информатики и математики»
(10 минут; диалог двух учителей: математики и информатики)
Учитель информатики (И). Добрый день, коллеги! Сегодня мы поговорим о том, как на уроках информатики и математики учить школьников видеть скрытую предвзятость алгоритмов — и почему это стало вопросом не только технологий, но и гражданской ответственности.
Учитель математики (М). Да, нейросети и автоматизированные системы всё чаще принимают решения за нас: от отбора резюме до оценки кредитных рисков. Но за «объективным» кодом нередко скрываются искажения и предубеждения. Наша задача — дать ученикам инструменты, чтобы это распознавать.
- Что такое предвзятость алгоритма?
И. Предвзятость — это систематическая ошибка в работе системы, которая приводит к несправедливым результатам для определённых групп людей. Она возникает не из-за злого умысла, а из-за:
- смещённых данных (training data bias);
- неудачного выбора признаков (feature selection);
- скрытых допущений в логике алгоритма.
Пример из рекрутинга. В 2018 г. Amazon отложил систему ИИ для отбора резюме: она занижала оценки кандидаткам, потому что обучалась на данных, где большинство успешных кандидатов были мужчинами.
М. С точки зрения математики это задача о представительности выборки. Если в обучающих данных 90 % мужчин, модель «учится» считать мужской профиль «нормальным», а женский — отклонением. Здесь мы можем показать:
- как считать доли групп в выборке;
- как проверять гипотезу о равенстве шансов (критерий хи-квадрат);
- как оценивать смещение через метрики точности для разных подгрупп.
- Кейсы для разбора на уроках
И. Предлагаю три типа кейсов, которые легко адаптировать под школьный уровень.
Кейс 1. Рекрутинговый алгоритм
Ситуация. Система оценивает резюме по 10 признакам: опыт, образование, ключевые слова. Но один из признаков — «участие в хакатонах» — коррелирует с полом (на хакатонах чаще бывают мужчины).
Задания для учеников:
- Построить таблицу сопряжённости: «пол × участие в хакатонах».
- Посчитать долю кандидатов каждого пола, получивших «проходную» оценку.
- Предложить, как переформулировать признак, чтобы снизить смещение.
М. Здесь мы закрепляем:
- основы теории вероятностей (условные вероятности);
- статистику таблиц сопряжённости;
- идею «прокси-признаков» (когда один параметр неявно кодирует другой).
Кейс 2. Распознавание лиц
Ситуация. Нейросеть хуже определяет эмоции на фотографиях людей с тёмным цветом кожи (исследования MIT, 2018).
Задания:
- Проанализировать распределение тонов кожи в обучающей выборке (гистограмма).
- Посчитать ошибку модели для подгрупп (precision, recall).
- Обсудить, как сбалансировать данные.
И. На практике это можно смоделировать в Python с библиотеками pandas и matplotlib: загрузить мини-выборку изображений, посчитать доли классов, симулировать ошибку.
Кейс 3. Кредитный скоринг
Ситуация. Алгоритм отказывает в кредите жителям определённых районов, потому что там выше доля просрочек. Но причина — не «плохие заёмщики», а отсутствие филиалов банков и низкий доход.
Задания:
- Построить диаграмму рассеяния: «доход × процент просрочек».
- Проверить корреляцию и её значимость.
- Обсудить, какие признаки лучше использовать вместо геолокации.
М. Тут мы отрабатываем:
- корреляционный анализ;
- различие между корреляцией и причинно-следственной связью;
- этику использования «косвенных» признаков.
- Какие математические инструменты нужны?
М. На уроках математики мы можем:
- учить интерпретировать распределения (гистограммы, boxplot);
- разбирать ошибки первого и второго рода (ложноположительные и ложноотрицательные срабатывания);
- считать метрики качества для подгрупп (точность, полнота, F1-мера);
- обсуждать доверительные интервалы для оценок вероятности.
Пример. Даём ученикам таблицу с результатами теста ИИ на двух группах. Они считают:
- точность для группы A: TPАTPА+FPА ;
- точность для группы B: TPВTPВ+FPВ ;
- сравнивают и делают вывод о предвзятости.
И. На информатике добавляем:
- визуализацию данных (графики в Python/Excel);
- простые симуляции (например, как смещение в данных влияет на результат);
- обсуждение принципов Fairness (равенство шансов, равенство ошибок).
- Как встраивать в уроки?
И. Три формата:
- Мини-кейс на 10–15 минут (например, разобрать таблицу с результатами алгоритма).
- Проект на 2–3 урока (собрать данные, обучить простую модель, оценить смещение).
- Межпредметный модуль (математика + информатика + обществознание): обсудить правовые и этические нормы (GDPR, AI Act).
М. Важно не перегружать терминологией. Начинаем с вопросов:
- «Чьи данные мы используем?»
- «Кто может пострадать от ошибки?»
- «Как проверить, что система не дискриминирует?»
- Что даёт такой подход?
М. Ученики:
- видят связь математики с реальной жизнью;
- учатся критически оценивать «чёрные ящики»;
- понимают, что алгоритмы — не истина в последней инстанции.
И. А ещё:
- осваивают базовые навыки Data Literacy (чтение данных, визуализация);
- готовятся к профессиям будущего, где нужно сочетать техническую грамотность и этику;
- становятся ответственными пользователями и создателями технологий.
Заключение
И. Этика алгоритмов — не «дополнение» к программе, а необходимая часть цифровой грамотности. И математика, и информатика дают для этого инструменты.
М. Наша цель — не напугать детей ИИ, а научить их задавать вопросы, проверять данные и отстаивать справедливость. Ведь завтра именно они будут проектировать системы, от которых зависят судьбы людей.
И. Спасибо за внимание! Готовы ответить на вопросы.