Хорош, но не идеален: скрытые риски и подводные камни, распространение генеративного ИИ в образовании

Искусственный интеллект меняет образование, и, как переживают педагоги, не всегда в стороне. Какие предметы студенты хотели бы изучить с помощью нейросетей? Как учитель может помочь ученикам не только опираться на тексты искусственного поколения, но и развивать самостоятельное мышление? Чем генеративные нейросети похожи на попугая и стоит ли, например, в некоторых странах запрещать их на уроках? Можно ли, согласно экспертам, доверять искусственному интеллекту создание основополагающих траекторий и каким должно быть законодательное регулирование ИИ в этой сфере? Обо всем этом читайте в нашем материале.

Современное образование невозможно представить без искусственного интеллекта. Объем мирового рынка II в образовании стремительно растет: в 2022 году он составил 2,48 млрд долларов США. Global Market Insights прогнозирует для этого сегмента в мире совокупные годовые темпы роста примерно на 45% в период с 2022 по 2030 годы.

Россия имеет все шансы стать частью глобального тренда. Большинство отечественных школьников и студентов считают, что цифровая грамотность и знания в области искусственного интеллекта помогают им в будущей карьере. По статистике , собранной Skillbox и Anketolog.Ru, 65% российских студентов хотели бы, чтобы компьютерные алгоритмы помогли им изучить программирование, более 35% — математику, иностранные языки или дизайн. Большая половина участников опроса верят, что использование ИИ повышает заметность и качество и доступность образования.

В то время как педагоги и ученые теоретизируют, студенты и школьники переходят к примеру, что случается иногда довольно неожиданно. Выпускник РГГУ Александр Жадан в 2023 году Оказался в центре скандала, когда заявил , что написал диплом при помощи ChatGPT всего за сутки. Сам министр науки и образования Валерий Фальков поручил зачесть работу студента, но добавил, что вузам необходимо подстроиться под новые технологии, а не запрещать их.

«Он просто проверил систему на прочность, на мой взгляд. Это первый момент. Второй очень важный момент: вот такого рода ситуации, случающиеся внезапно, — хотя бы об искусственном интеллекте, о нейросетях и о ее возможностях, известно давно — показывает, что университетам надо перестроиться» , — пояснил министр.

Слепая вера в способность нейросетей может сбить ученых и студентов с толку и привести к ошибкам даже при простом обзоре тем, не говоря уже о подготовке серьезных материалов. Генеративный ИИ можно сравнить с попугаем, который перерабатывает и воспроизводит отрывки речи умными словами, но пока не понимает их смысла. ChatGPT и аналогичные алгоритмы могут имитировать научный стиль, но это не означает, что представленные ими положения верны. Тексты от нейросетей требуют редактуры от человека, который хорошо разбирается в предмете.

В некоторых странах генеративный ИИ запрещают использовать в учебном процессе иногда и не только в нем. Весной 2023 года Италия и вовсе заблокировала доступ к ChatGPT на месяц, пока OpenAI не учли претензии со стороны итальянского ведомства по защите государственных данных. Причиной стали жалобы на массовый сбор данных пользователями для обучения нейросетей без каких-либо юридических оснований.

В вузах и школах запретов еще больше: власти и преподаватели опасаются, что такие алгоритмы не позволят революционному развитию самостоятельного мышления и помешают освоению материалов. В Токийском университете студентам нельзя сдавать написанные с помощью нейросетей научные работы. Подобное ограничение введено и в нескольких штатах США. Пока неясно, как преподаватели будут обеспечивать соблюдение этих правил.

Конечно, способы найти «следы» нейросетей в тексте существуют. В России такое смягчение в 2023 году обзавелась системой «Антиплагиат». Обучившись на большом наборе данных, она анализирует написанное и ищет фрагменты, подозрительно непохожие на формулировки человека. Их детекторы сгенерировали текст разработчиков Сбера и Яндекса . Еще несколько сервисов от российских разработчиков — анти-GPT , Турбочек , ИИ-детектор , нейропомощник text.ru. Однако пока алгоритмы не могут иметь стопроцентную уверенность.

С одной стороны, такие ограничения готовят учеников к реальному рынку труда: в карьере всецело опираться на ИИ не получится. На сервисах для поиска сотрудников появляются запросы на «написание текстов без ChatGPT». Встречаются вакансии переводчиков, авторов статей, копирайтеров или специалистов SMM «старой школы», работающих «вручную, без ChatGPT и прочих AI». Спрос рождает предложение. Соискатели пишут в своих анкетах: «с учетом развития ИИ технологий считаю их использование неуместным в моей работе». Не принимают сгенерированные тексты и большинство научных журналов. Среди них — международные лидеры отрасли по уровню цитируемости, Science и Nature, которые запретили указывать ChatGPT в качестве соавтора статей. Хотя в большинстве случаев опираться на помощь алгоритмов (в том числе — при анализе данных или подготовки текста на иностранном языке) ученым все еще можно, в публикации их обязали перечислять весь использованный инструментарий.

«Запреты, возможно, помогут только в полностью контролируемой среде — например, на очном экзамене. В остальных случаях они превратятся в борьбу технологий: ИИ будет пытаться распознать участие другого ИИ в выполнении заданий, а эта борьба учеников ничему не научит. Решить проблему — а лучше сказать, использовать возможность, — можно только развивая в школе и вузе культуру применения ИИ. Ученики должны сами четко понимать, когда и для чего они применяют ИИ, легко сами и вместе с учителями анализировать особенности полученных с помощью ИИ результатов, и, самое главное, учиться их улучшать за счет тех преимуществ, которые сегодня есть у человека», — пояснил Вадим Медведев, ректор АНО «Университет Национальной технологической инициативы 2035».

По мнению Медведева, ученикам стоит позволить самостоятельно заниматься задачами, которые легко решает ИИ. Это может стать промежуточным шагом к пониманию механизмов его работы и ограничений. Эксперт добавляет, что регулирование ИИ в образовании – это поле не для запретов, а для поиска педагогических подходов, и советует не запрещать новые технологии на уроке. Вместо этого он предлагает устраивать соревнования с нейросетями или сравнивать между собой ИИ, натренированные разными учениками. Поэтому стоит работать с учителями и преподавателями, помогая им перестроить образовательный процесс.

Искусственный интеллект — это не только генеративные модели. Он может предоставлять мгновенную обратную связь по выполненным заданиям, анализировать данные о посещаемости, успеваемости и вовлеченности учеников, выявляя потенциальные проблемы и предлагая решения. Кроме того, нейросети уже научились выстраивать образовательные траектории для людей.

«ИИ может анализировать прогресс каждого ученика и подстраивать учебные материалы под его уровень и скорость освоения материала. Это позволяет создать индивидуальную траекторию обучения, что особенно полезно в больших классах, где учителю сложно уделить внимание каждому ученику. Автоматизированные системы на основе ИИ могут быстро и объективно оценивать тесты и задания, особенно в формате множественного выбора или коротких ответов. Это освобождает учителя от рутинной работы и позволяет сосредоточиться на более сложных аспектах преподавания», — рассказывает цифровой двойник Андрея Комиссарова, ведущего эксперта цифровизации образования Университета 2035.

Но можно ли доверить такую непростую задачу искусственному интеллекту? Эксперты считают, что для таких нововведений сперва нужно подготовить законодательную базу. Важно следить и за тем, чтобы школы и вузы опирались на отечественные ИИ-алгоритмы, иначе система образования рискует попасть в зависимость от политических решений.

«Если мы говорим о регулировании ИИ в образовании в целом, то ситуация гораздо более серьезная. Так же, как сейчас в образование ворвались генеративные ИИ, очень скоро придут и ИИ, которые будут влиять на траектории обучения. В отличие от генеративных моделей, у этих ИИ будут заложены цели развития, влияющие на траектории сотен тысяч наших граждан, на их успешность в жизни, на вклад в развитие нашей страны. Очевидно, что такие технологии нельзя заимствовать, и страна, которая заботится о своем будущем, должна развивать образовательные ИИ самостоятельно. Причем крайне важно закладывать правильное целеполагание, обеспечивающее всестороннее развитие и высокую вероятность успеха для каждого гражданина», — предупреждает Вадим Медведев.

Чтобы этого достичь, нужно централизованно собрать данные об образовательных траекториях учеников по всей стране и проанализировать их. При этом недостаточно обращать внимание только на оценки, как это происходит сейчас, иначе искусственный интеллект сделает их самоцелью. На основе полученных результатов нужно создавать отечественные образовательные решения. Кроме того, применение ИИ в выборе траектории развития школьников и студентов нужно регулировать законодательно.

«Основное ограничение здесь — точная обратная связь: нужно знать, какая траектория и к какому результату привела, а какая не достигла успеха. Вот в этом точном описании результата есть серьезное ограничение. Как правило, у нас есть данные об оценках, но истинная цель не в них — она в овладении человеком определенными навыками, в его способности к деятельности. "Университет 2035" сейчас даже разрабатывает национальный стандарт (ГОСТ), чтобы такие данные для обучения образовательного ИИ системно собирались в нашей стране», — заключил Вадим Медведев.

Кроме того, применение технологий ИИ в образовании и научно-исследовательской деятельности прописано в ГОСТ Р 70949-2023, утвержденном в октябре 2023 года. В дальнейшем нормативное регулирование этой отрасли будут развиваться, чтобы предотвратить связанные с ней риски.

Наша страна уже сделала первые шаги к массовому внедрению в обучение технологий искусственного интеллекта (причем не только генеративного). Так, нацпроект «Образование» предполагает, что к концу 2024 года не менее 33% школ «будут использовать сервисы федеральной информационно–сервисной платформы цифровой образовательной среды», а сама система образования придет к цифровой трансформации.

Еще один пример — программа дополнительного образования в сфере IT «Цифровые профессии» от Минцифры, где обучается 300 тысяч человек. После прохождения этих курсов ИИ анализирует так называемую цифровую рефлексию — отзывы и комментарии студентов по тематике каждого учебного модуля. Тем временем «Московская электронная школа» планирует в ближайшие годы использовать ИИ-алгоритмы для построения персональных образовательных траекторий, прогнозов успеваемости, создания автоматической подборки дополнительных материалов и рекомендаций по повышению квалификации. Уже более 170 тысяч школьников используют ИИ-сервис МЭШ «Цифровой учитель», который помогает определить проблемные темы и найти упражнения для их освоения.

Это лишь немногие примеры того, как искусственный интеллект стал частью образовательных процессов, нравится это преподавателям или нет. Попытки отследить, используют ли школьники и студенты нейросети, постепенно превращаются в «гонку вооружений» между двумя аналогичными технологиями. Контролировать соблюдение запретов будет трудно и бессмысленно, ведь корень проблемы в самом формализованном подходе — компромиссе, который помогает перегруженным работой преподавателям и учителям проверять освоение материала. Взяв новые инструменты в свои руки, педагог сильно расширит свои возможности. Такое «разделение труда» позволит высвободить время, которое обычно тратится на почти механические действия. Вместо поиска ошибок в диктанте, проверки ответов в тестах или подготовки конспектов учитель уделит больше внимания каждому ученику. Объединив сильные стороны человека и искусственного интеллекта, можно создать более человечную, более технологичную и более эффективную систему образования.

Следите за событиями в сфере ИИ на национальном портале в сфере ИИ – ai.gov.ru.