Искусственный интеллект все активнее внедряется в естественные процессы. Одним из наиболее популярных инструментов в последнее время является ChatGPT. Корреспондент университетской газеты Alma Mater попыталась выяснить, как студенты Томского государственного университета используют его и другие технологии ИИ в образовании, что думают преподаватели о написании студенческих работ с помощью ChatGPT, способен ли ИИ сам проводить научные исследования и могут ли нейросети причинять вред.
Олег Змеев, академический директор HITs ТГУ:
ИИ ЕЩЕ «НЕ ДОРОС» ДО ЧЕЛОВЕКА
– Студенты уже вовсю осваивают ChatGPT, пишут с его помощью рефераты, курсовые и даже дипломы. Илон Маск, например, считает, что делать «домашку» «руками» GPT вполне нормально и только отстающие от времени преподаватели могут быть против. Как вы считаете, можно ли учиться с помощью этого инструмента и других технологий ИИ? Каковы плюсы и минусы такого обучения?
– Учить студентов пользоваться этим инструментом нужно. Ведь одна из основных задач хорошего университета – учить своих выпускников использовать передовые достижения науки и техники. Другой вопрос – а сможем? Что касается вредного и полезного – у раннего Кузьмина (во времена «Динамика») была песня «Виновен ли порох?»… Любой инструмент, который люди придумывают, можно использовать как во благо, так и во вред. И самое интересное, что чем дальше развивается наша цивилизация, тем важнее становится вопрос о нравственных нормах. А про то, что он может дать ... Так инструмент новый, и никто пока не знает, что он на самом деле может дать, каков реальный потенциал этой технологии.
– Как скоро ИИ начнет обходить человека в деятельности, требующей креатива?
– Вопрос некорректный. Смотря, что понимать под «деятельностью, требующей креатива»... На текущий момент он вполне себе рисует, пишет музыку и тексты, но есть маленькая деталь: успешность этих произведений определяют ЛЮДИ. И скорее всего, ответ на этот вопрос будет звучать так: всё зависит от того, как быстро мы (люди) научимся ставить ему такие задачи.
– Говорят, что разработчики ChatGPT и других подобных инструментов сами не понимают возможностей того, что они создали. Это так? Если да, может ли это быть опасным?
– Смотрите мой ответ выше про инструмент и про то, что он новый. Опасным любой инструмент делают люди. И, ради бога, не называйте это ИИ, поскольку это не ИИ в научном понимании. Это условно интеллектуальные технологии, ну или слабый ИИ. Иначе это превращается в журналистский хайп, который на уровне университета не очень уместен.
Вячеслав Гойко, генеральный директор Университетского консорциума исследователей больших данных, заведующий лабораторией прикладного анализа больших данных ТГУ:
ЗАДАЧА АЛГОРИТМОВ – УБРАТЬ РУТИНУ
– Вячеслав, способен ли ИИ сам проводить исследования? Например, написать обобщающую статью по какой-либо научной теме, которая будет на уровне средней статьи, написанной группой ученых?
– Начну с того, что не разделяю общий хайп по поводу ИИ. Сейчас нейросети в моде, но мало кто знает, что те же генераторы научных публикаций активно используются уже более 10 лет. В 2014 году я находил информацию про ученого из университета Гренобля, который исследует журналы и составляет список «фальшивых» научных статей. Так, немецкий Springer и американская IEEE удалили более 120 научных статей за 2008-2013-е годы. ИИ не всемогущ, но может быть полезен ученому, например, для автоматизации литературного обзора. Ведь прочитать десятки тысяч статей по вашей тематике в год просто не под силу человеку.
– Считается, что работа, выполненная самостоятельно, помогает усваивать знания и приобретать навыки. Можно ли официально разрешить студенту использовать нейросеть? Не получим ли мы специалистов с серьезными пробелами в знаниях?
– Мой личный студенческий опыт показывает, что запреты для студентов работают крайне плохо. Рефераты и вообще информационный поиск отлично автоматизируется с помощью ИИ. Сейчас в Яндекс-браузере вы можете получить краткую справку на основе нейропоиска, и это очень удобно, плюс есть все ссылки на первоисточники. Мое мнение: если деятельность рутинная и может быть автоматизирована, то ее нужно отдать ИИ.
Наша разработка сервис – «РосНавык» – как раз демонстрирует этот подход. Теперь не надо просматривать тысячи вакансий, чтобы понять требования работодателей на рынке труда.
Университет – это, в первую очередь, личности, которые несут новые знания, необычные взгляды на мир, а также «заражают» студентов вирусом познания. И пусть алгоритмы помогут личностям убрать рутину, чтобы было больше времени на живое общение.
Дарья Мацепуро, директор Сибирского центра изучения ИИ и цифровых технологий:
НЕ НУЖНО СПЕШИТЬ С ВЫВОДАМИ
– Дарья, говорят, что ChatGPT уже вышел на уровень самосознания. Это хорошо или плохо?
– Это, скорее, образ будущего, чем текущее состояние развития технологии в свете ожиданий, связанных с появлением сильного или общего ИИ (Artificial General Intelligence – AGI), который должен стать следующей ступенью развития ИИ и обладать признаками образного и абстрактного мышления, способностью делать отвлеченные умозаключения или строить прогнозы, приближаясь тем самым к интеллектуальным возможностям человека.
Поэтому преждевременно делать выводы о том, хорошо это или плохо. Здесь уместнее говорить о том, что повышается точность и качество генерируемой информации, а значит, продукты на основе ИИ еще удобнее для пользователей. Кроме нашумевшего чата GPT, есть и другие разработки, например, Claude 3, который, по словам экспертов, превосходит GPT-4 и демонстрирует признаки самосознания. В любом случае не стоит спешить с громкими выводами и верить противоречивым заголовкам.
– Как вы считаете, какие этические проблемы могут возникнуть в связи с использованием ИИ?
– Правильнее говорить – в настоящем времени, а прогнозировать будущее риски очень сложно, так как траектории развития самой технологии очень вариативны. Основные этические риски формируются из-за отсутствия эмпатии у применяемых алгоритмов ИИ. Этическое регулирование ИИ как самостоятельное направление возникло в ответ на факты злоупотреблений, среди которых есть и фатальные, такие как наезд беспилотного транспорта на человека.
Основные риски связаны с предвзятостью, дискриминацией, конфиденциальностью данных. Однако уже сейчас мы сталкиваемся с такой проблемой, как эмоциональная привязанность человека к алгоритмам.
– Илон Маск, Стив Возняк и более 1 000 экспертов в 2023 году призвали на полгода приостановить обучение систем искусственного интеллекта, более мощных, чем GPT-4, чтобы понять, как их контролировать. Как вы считаете, уже пора остановиться?
– Остановиться и осмотреться всегда полезно, тем более что социальные институты и инструменты регулирования не успевают за развитием технологий ИИ. Однако это решение скорее имеет экономическую подоплеку и нацелено на то, чтобы притормозить разработки конкурентов. Вероятность возникновения монополизации среди крупных игроков технологий сохраняется. Гонка за превосходство в ИИ напоминает сегодня гонку в развитии ядерных или космических технологий, для человечества это не ново.
– Может ли наступить момент, когда человек не сможет остановить этот процесс и ИИ выйдет из-под контроля?
– Этот момент уже наступил, и мы становимся свидетелями того, как в отдельных сферах технология начинает выходить из-под контроля. Но это происходит, в первую очередь, с подачи человека, а не ИИ, потому что у технологии нет ни воли, ни сознания. Мы восхищаемся персонифицированными сервисами и рекомендательными системами, которые максимально учитывают наши предпочтения. Делегируем электронным помощникам простые функции, но не задумываемся, на каких данных обучаются алгоритмы, кто имеет к ним доступ.
Денис Шарапов, выпускник Высшей IT-школы ТГУ (HITs), аспирант ТГУ:
ПРОГРЕСС НЕ ОСТАНОВИТЬ
– Денис, используете ли вы в своем обучении ИИ? Если да, для каких целей?
– Да, стараюсь активно использовать нейросети для разных задач, и не только связанных с обучением. Хотя, конечно, ChatGPT появился уже под конец моей магистратуры, так что большую часть учился без него. Порой даже удивляюсь, как раньше справлялся без ИИ?
Если говорить про ChatGPT и учебу – в основном использовал для поиска информации (когда самостоятельно в интернете не удается найти), обобщения, вынесения тезисов из текстов, для оптимизации какой-то рутины, по типу составления сводных таблиц.
– Обучались использованию самостоятельно или прошли специальный курс?
– Учился самостоятельно, разве что читал какие-то статьи, где описывалось, как нейросети работают под капотом и давались советы и приемы по работе с ними. Чаще всего, конечно, использую для работы и каких-то личных задач.
Несколько раз было, что ChatGPT помогал разобраться с проблемой в программе, когда поиск не давал особых результатов. И дело даже не в том, что ИИ знал ответ сразу. Если проблема сложная, он может и ошибиться. Но в режиме переписки ChatGPT мог подать новые идеи и подтолкнуть в верном направлении. Плюс в последнее время начал более активно использовать Copilot как помощник в написании кода. Зачастую он понимает, что ты хочешь написать, особенно если это что-то стандартное или часто встречающееся. Сразу подсказывает и тем самым позволяет сократить время на рутину и быстрее выполнить задачу.
Отдельно впечатляют нейросети, которые создают изображения, музыку и даже видео. С ними можно и забавную видеооткрытку с поздравлением сделать, и какие-то свои творческие идеи реализовать, и даже в работе использовать, например, если нужны иллюстрации для приложения.
– Как вы считаете, это инструмент со знаком плюс или он может иметь и отрицательное влияние? Какие сферы можно доверить ИИ, а какие нет?
– Я бы сказал, что со знаком плюс, хотя все же это просто инструмент и его применение зависит от людей. Лично я вижу в этом способ хотя бы частично избавить человека от рутины и позволить проще решать свои задачи. Даже если говорить про создание изображений, многие художники жалуются, что это не настоящее искусство, которое к тому же лишает их работы.
Но с другой стороны, с помощью таких нейросетей человек, не умеющий рисовать, может реализовать свои творческие идеи, которые не мог бы раньше, например, сделать книгу с иллюстрациями или игру. Да и, как мне кажется, художникам они тоже могут быть полезны, например, для создания референсов или эскиза для последующей доработки. Вопрос в том, как эти новые технологии встраивать в свою работу. Мое мнение: прогресс мы все равно не остановим, так что лучше адаптироваться под него. Изучать новые инструменты, чтобы становиться лучше, работать быстрее и тратить время на более важные вещи.
ИИ на данный момент все равно требует контроля человека. Если почитать, как он на самом деле работает, то магия пропадает. Тот же ChatGPT, несмотря на весь свой размер и вложенные в него ресурсы, может ошибаться, особенно в каких-то узкоспециализированных темах. Поэтому на полную автоматизацию ИИ можно доверить только то, где эта ошибка не станет необратимой и не нанесет никому ущерба. Например, чат-бот, который отвечает на вопросы про университет, или система, которая советует тебе какой фильм посмотреть на основе твоих интересов.
В то же время, если ИИ работает совместно с человеком, то тут, думаю, спектр областей применения практически ничем не ограничен. Но ИИ должен выступать только как помощник, как какая-то основа или советчик. Итоговые решения и действия должны быть все равно за человеком. И если возникают сомнения, то лучше тщательно перепроверить ответ ИИ. Так же и касательно учебы. ChatGPT – классный инструмент для поиска информации и работы с ней. Но его ответы нужно перепроверять, а результаты работы использовать как основу для своей собственной работы, а не бездумно брать все, что он пишет.
Никита Пугачёв, студент Института экономики и менеджмента ТГУ:
НЕЗАМЕНИМЫЕ ПОМОЩНИКИ
– Никита, используете ли вы в своем обучении ИИ? Если да, для каких целей?
– Я бы не сказал, что использую именно ИИ. Правильнее было бы назвать это инструментарием генеративного программного обеспечения (ГПО): продвинутые поисковые сервисы, нейросети, чат-боты. Это помогает оптимизировать мои повседневные задачи по работе с информацией, а также генерировать и верифицировать новые идеи для научных исследований, проектов.
– Какую пользу, на ваш взгляд, могут принести нейросети?
– На мой взгляд, нейросети через несколько лет станут незаменимыми помощниками ученого в организации первичного плана-проспекта исследования. Уже сейчас они позволяют существенно сократить время на выполнение рутинных процедур, таких как составление библиографического списка, реферирование и аннотирование больших текстов. Одна из интересных возможностей – выполнение этих процедур на тексте, который написан на иностранном языке. Другая важная возможность – гипотезирование, сборка идей и предложений от нейронок разной мощности.
– Как вы думаете, это инструмент со знаком плюс или он может иметь и отрицательное влияние? Какие сферы можно доверить ИИ, а какие нет?
– Этот инструмент, безусловно, со знаком плюс. Однако следует понимать, что все вышеизложенное не отменяет, а дополняет традиционный инструментарий по работе с информацией. Нейросети коварны. Любой контент, полученный от них, нуждается в обязательной верификации. Также не стоит питать лишних иллюзий, что сейчас ИИ и ГПО могут полноценно и самостоятельно решать комплексные задачи в науке и образовании. Место человека по-прежнему является центральным.
Артём Фещенко, старший преподаватель кафедры гуманитарных проблем информатики ФсФ, руководитель Центра технологического и исследовательского сопровождения ИДО:
ИИ ВДОХНОВЛЯЕТ
– Артём, расскажите, какие образовательные продукты появились в ТГУ с интегрированным ИИ и есть ли планы по его дальнейшему использованию?
– Технология искусственного интеллекта в последний год получает очень быстрое распространение благодаря нейросетям, способным генерировать по запросу пользователя разные виды контента. Такие инструменты называют генеративным искусственным интеллектом. Благодаря низкому порогу вхождения в эту технологию пользователи очень быстро получают удовлетворительный результат, применяя искусственный интеллект для решения своих профессиональных задач. Сейчас в нашем университете самый массовый образовательный продукт – это программа для преподавателей, которая обучает применению искусственного интеллекта на различных этапах педагогического дизайна.
Фактически генеративный искусственный интеллект здесь становится цифровым ассистентом преподавателя и забирает на себя часть рутинных функций, а также помогает генерации новых идей при проектировании своей дисциплины.
Программа формирует девять базовых навыков применения искусственного интеллекта в преподавательской практике, в том числе и защиту своих заданий от списывания студентами с помощью GPT и других подобных инструментов. Реакция слушателей на этот инструментарий очень позитивная. Более 80 процентов слушателей, закончивших курс, начинают более оптимистично относиться к возможностям генеративного искусственного интеллекта в своей практике.
Я делюсь опытом применения цифровых инструментов со своими коллегами более 20 лет. На мой взгляд, генеративный искусственный интеллект – самая вдохновляющая и впечатляющая технология, которая вызывает максимально лояльное отношение академического сообщества и побуждает применять на практике.
Сейчас мы завершаем проектирование еще одной образовательной программы по подготовке ИИ-инструкторов – это специалисты, которые помогают своим сотрудникам на предприятии внедрять технологии генеративного искусственного интеллекта в производственные процессы.
Я уверен, что генеративный искусственный интеллект может стать частью образовательных платформ, которые университет использует в учебном процессе. Именно поэтому сейчас мы проверяем сразу несколько гипотез о возможности помогать преподавателю внутри LMS IDO выполнять рутинные задачи по созданию фонда оценочных средств, в составлении отзывов на письменные работы студентов. Вместе с тем это позволит повысить защищенность заданий для самостоятельной работы от списывания с помощью ИИ. Думаю, что к концу этого года в нашем университете появятся несколько новых цифровых инструментов, помогающих не только преподавателю учить, но и студенту учиться.