В Самарской области предложили разработать правовую базу применения нейросетей в образовании

В российских школах планируют расширить преподавание искусственного интеллекта (ИИ). Сейчас его навыки развивают в рамках урока информатики, со следующего учебного года предполагается делать это и в метапредметном формате. Между тем использование ИИ в образовании до сих пор не регулируется ни одним законом, несмотря на многочисленные риски и проблемы его использования. Кто готов восполнить этот пробел?

Читайте также:

За нарушение авторских прав с выборов в Самарской области теперь пытаются снять единоросса

Экс-начальник Самарского трамвайно-троллейбусного депо заплатит в бюджет более 3 млн рублей

Самарцев предупредили о жаре 19 и 20 августа, после которой начнется похолодание

Больше

Президент России Владимир Путин подписал Указ «О развитии искусственного интеллекта в РФ» с Национальной стратегией развития еще в октябре 2019 года. Первый закон об искусственном интеллекте был принят только в этом году. Это закон «О поддержке развития технологий искусственного интеллекта в РФ», который носит рамочный характер и задает базовые рамки регулирования.

В августе советник первого заместителя губернатора Самарской области Александр Фетисов предложил включить в Народную программу партии «Единая Россия» разработку нормативно-правовой базы использования искусственного интеллекта (ИИ) в учебном процессе. По словам автора инициативы, потребность в таких законах уже назрела, поскольку нейросети все глубже проникают в систему современного образования, причем активно ими пользуются и дети, и учителя. «На рынке появились даже программы индивидуального обучения, созданные с применением нейросетей или предполагающие их использование», — говорит автор инициативы.

Среди рисков, которые часто называются в связи с развитием ИИ, — деградация человеческого мышления. Директор Института когнитивных исследований Санкт-Петербургского госуниверситета Татьяна Черниговская на сайте своего вуза рассказала, что была потрясена и «сильно насторожилась», увидев сформированный нейросетью за несколько минут анализ ее многолетней научной деятельности. По ее словам, «если мы перестанем хорошо думать, то победа искусственных систем над естественными в лице человечества произойдет обязательно и быстро».

Сюжет «Матрицы» и других произведений, в которых машины порабощают человека, — перспектива, возможно, реальная, но вряд ли в ближайшем будущем. Куда более очевидны другие проблемы и риски.

Одна из базовых на данный момент — цифровое неравенство. Для работы с нейросетями нужны устройства, стабильный интернет и цифровая грамотность. Однако не все школы и семьи обладают такими ресурсами и имеют равный доступ к ИИ.

Фундаментальной является и кадровая проблема. Пока одни учителя не только разрешают, но даже поощряют использование ИИ в учебном процессе, для других освоение новых технологий остается недоступным.

При этом от учителей требуется не только самим уметь работать с ИИ-инструментами, но и учить этому детей, развивать их критическое мышление, чтобы не только задать верный вопрос ИИ, но и распознать ошибки ответа, а то и галлюцинации ИИ. (Так в профессиональной среде теперь называют результаты с вымышленными нейросетями данными — такое уже не редкость.)

Далее встают вопросы безопасности и конфиденциальности, поскольку системы ИИ собирают и анализируют огромную личную информацию: об успеваемости, поведении, а иногда и о психологическом состоянии. Возникают риски утечки информации, несанкционированного доступа, неправомерного использования данных. Здесь законодательная база особенно важна, говорит Александр Фетисов.

ИИ может стать проблемой, если все обучение будет сведено к алгоритмам. Однако образование — это не только передача знаний, но и воспитание, социализация, развитие эмоционального интеллекта. Здесь нам нужно прислушаться к психологам и педагогам, чтобы не допустить такого перекоса, считает автор инициативы для Народной программы.

Появляются этические вопросы. Например, может ли преподаватель вести урок через свою цифровую имитацию? И справедливо ли оценивать учебные работы, написанные при помощи ИИ и без такового, по одним критериям?

Эти и другие вопросы планируется вынести на широкое обсуждение партийных площадок, где и будут вырабатываться законодательные нормы. По словам Александра Фетисова, ему удалось обсудить эту инициативу 30 июля на личной встрече с секретарем Генсовета «ЕР» Владимиром Якушевым, который с интересом выслушал предложения из Самарской области.

В партии отмечают, что на прошлой неделе вопрос о преподавании ИИ в школах поднимался на экспертном совете по подготовке Народной программы партии «Единая Россия», что лишь подчеркивает необходимость подготовки также и правовой базы для этого.

Нужны общие правила, одинаковые для всех

АЛЕКСАНДР ФЕТИСОВ, советник первого заместителя губернатора — председателя правительства Самарской области

В настоящее время использование искусственного интеллекта в образовательной среде не подчиняется никаким правилам. Каждый педагог решает этот вопрос самостоятельно: кто-то запрещает пользоваться ИИ в принципе, кто-то, наоборот, поощряет интерес к новым технологиям.

Никто не имеет четких механизмов для отслеживания — не понимает, справился ученик с заданием сам или с помощью робота. Одни родители радуются, что дети идут в ногу со временем. А кто-то даже специально учит ребенка общаться с чат-ботами, чтобы самому не следить за выполнением домашних заданий. Другие основываются на принципах классического образования и не допускают применения ИИ даже в качестве замены обычного поиска в интернете.

Возникает неравенство между теми, кто может использовать новую технологию, и теми, кто справляется сам. Нужны общие правила, одинаковые для всех.

Полагаю, правовое регулирование использования искусственного интеллекта в образовательном процессе должно касаться самых разных аспектов. В том числе использование ИИ педагогами, возможности и ограничения при его внедрении в образовательные методики, изучение самого ИИ и работа с ним как с инструментом в процессе обучения и т.п.

Поскольку вопрос широкий, а технология стремительно развивается, для создания правовой базы потребуется время и открытый диалог на всех уровнях. Нужно учесть мнение экспертов, работающих с нейросетями, посоветоваться с педагогическим сообществом, вынести вопрос на обсуждение родителей и самих учащихся, полезно проанализировать опыт других стран, посоветоваться с юристами и законодателями, понять механизмы и возможности регулирования, в том числе и технические.

Все это потребует немало времени и сил, но вопрос очень актуальный, нужный и важный для большого количества людей. И очень значимый, поскольку касается подрастающего поколения — нашего будущего. Поэтому я убежден, что нужно уже начать работу в этом направлении. Готов вести ее и курировать на всех этапах.

— Людмила Николаева