Профессор МГУ Александр Аузан: Образование первым ощутило плюсы и минусы ИИ

Образование уже охватил "торфяной пожар", который стремительно поглощает прежнюю систему - с экзаменами, зачетами, домашними заданиями и т.д. Если ничего не делать, то уже через 20 лет нейросеть под ником Студент будет сдавать экзамен нейросети Профессор. Такой диагноз образованию, в которое стремительно проникает искусственный интеллект, поставил декан экономического факультета МГУ Александр Аузан на конференции "Наука - управлению".

Конечно, ИИ - главный герой нашего времени. Тезис политиков - кто будет лидером в этой сфере, тот будет править миром - уже превратился в афоризм. Поражает сам факт его появления именно сейчас. Ученые обратили внимание на странный феномен. В последние годы на планете снижается не только рождаемость, но и замедляется макроэволюция всех сторон жизни. Более того, "торможение" проявляется даже в эволюции Вселенной, в так называемой планетарной сложности.

А ведь все три эти эволюционных процесса тысячелетиями развивались с ускорением, но затем ситуация кардинально изменилась - они стали синхронно замедляться. Причем все три графика сошлись в одной точке, которая приходится на 2027-2029 годы.

И вот когда человечество подошло к потолку своего эволюционного развития, вдруг появляется искусственный интеллект, но с противоположной тенденцией. Стремительного роста. Теперь он может стать двигателем эволюции, причем ускорив ее многократно.

И действительно, поступь ИИ поражает, он занимает все новые ниши, вытесняя человека. Причем он мастер на все руки. Диагнозы ставит, лица идентифицирует, в судах работает адвокатом, музыку и картины пишет, чемпионов в покер и го обыгрывает. Предсказывает не только погоду, но даже банкротства. И это только начало его бурной карьеры. Энтузиасты утверждают, что скоро он возьмет на себя функции и управления, и выбора оптимальных вариантов развития экономики, а затем и общества.

Но как это бывает с любой революционной технологией, она может приносить как огромную пользу, так и огромный вред. И как показывает опыт, первым, кто уже принимает на себя как плюсы, так и минусы ИИ, стал не рынок труда, не промышленность, а образование. Вузы бьют тревогу: студенты, быстро оценив его плюсы, игнорируют минусы. Массовое использование ИИ в образовании может привести к появлению целого поколения людей, не способных думать самостоятельно. Словом, пророчество профессора Аузана не выглядит фантастикой.

Что делать? Суть в одной фразе сформулировал на "круглом столе" в пресс-центре "Россия сегодня" директор Института системного программирования РАН академик Аветисян: пользователь должен быть умней ИИ, иначе такой тандем может принести немало вреда. Более того, чем мощней интеллектуальный помощник, тем выше должна быть квалификация того, кто им пользуется. Только так он сможет отличить правильный результат работы ИИ от его ошибки.

О том, что ИИ справляется и со сложнейшими задачами, и выдает грубейшие ляпы, говорят все специалисты. К примеру, он страдает "галлюцинациями", выдумывая информацию, когда не знает ответ.

И выход, по мнению участников "круглого стола", очевиден: запретить ИИ невозможно, а потому надо серьезно усилить фундаментальность образования. Кому-то это покажется парадоксальным. Ведь умный ИИ намного облегчает студенту сам процесс обучения, многое берет на себя. Зачем же нагружать еще дополнительной "фундаменталкой"? Здесь можно только повторить тезис академика Аветисяна: пользователь должен быть умней нейросетей. Более того, академик настаивает: "Студент должен понимать, что нейросети - это не просто "решатели" задач, а сложный объемный мир, как физика, математика, химия".

Серьезное изменение программ обучения с учетом прихода ИИ требует времени. Но некоторые меры ряд вузов начали применять уже сейчас. О таком опыте рассказали ученые МГИМО. Здесь разработан регламент использования нейросетей. В его основе пять режимов в зависимости от того, какую компетенцию вы хотите сформировать у студента.

- Мы понимаем, что раз все пользуются нейросетями, то полный их запрет нереален, - сказал проректор МГИМО Андрей Байков. - Конкретный режим определяет преподаватель, когда выдает студенту задание. Самый жесткий, нулевой предполагает запрет на все, исключая базовые функции, например, форматирование текста. Четвертый самый демократичный, он разрешает абсолютно все варианты общения с ИИ даже для решения самых сложных и глубоких задач.

Понятно, если студент работает в аудитории, режим его общения с нейросетью легко проконтролировать. А если дома? Декларация требует сообщать, что ИИ не применялся в том варианте, который для данного задания запрещен. Но все ли мы так честны?

В МГИМО на такие случаи есть страховка. Дело в том, что близкие по компетенции задания студент выполняет и в аудитории, и дома. Если результаты радикально отличаются, то это повод для профессора сделать соответствующие выводы.

- То есть студент знает, что никакие уловки не пройдут. Наша главная цель - выстроить с ними диалог, чтобы они не скрывали факты применения ИИ, а наоборот их декларировали, - говорит Андрей Байков. - Пока по инерции мы продолжаем готовить специалистов в социо-гуманитарной сфере, которые хорошо пишут, хорошо аргументируют. Но постепенно ситуация будет меняться, место "производителей" текстов займут контролеры нейросетей, ответственные за то, что ими написано.

Понятно, что для этого надо уметь критически мыслить, правильно формулировать вопросы, оспаривать выводы ИИ. Словом, естественному интеллекту придется стать умней искусственного.

Между тем

Доцент Санкт-Петербургской школы экономики и менеджмента НИУ ВШЭ Андрей Терников разработал методику проведения онлайн-экзамена, которая значительно ограничивает возможности студентов по использованию ИИ. Эта методика победила на конкурсе ВШЭ и получила гранта "Альфа-Будущее".

В ней тест выглядит обычно, но "под капотом" каждого вопроса спрятан невидимый код. Когда студент копирует вопрос, отдельные буквы и слова незаметно для него подменяются, и хотя на экране вопрос читается нормально, но в нейросеть попадает искаженный текст. В результате она дает неверный ответ.

В еще одном варианте ловушки в скопированный текст автоматически подмешиваются предложения с противоположным смыслом - например, вопрос про преимущества технологии при копировании обрастает фразами о ее недостатках.