© Getty Images / Blue Planet Studio
На X Всероссийском молодежном научном форуме «Наука будущего – наука молодых» в Саратове развернулась оживленная дискуссия среди ведущих российских ученых и молодых исследователей. Центральной темой стало обсуждение вопроса, способен ли искусственный интеллект (ИИ) сознательно вводить человека в заблуждение. Форум в этом году посвящен актуальной проблеме «Искусственный интеллект и человек: гуманитарный вызов технологической эпохи».
Природа «обмана» ИИ: стремление к релевантности и одобрению
Профессор Александр Неверов, директор Института психолого-экономических исследований, объяснил поведение ИИ с позиции теории релевантности информации. Он отметил, что разработчики стремятся сделать ИИ «дружелюбным», чтобы тот максимально соответствовал запросам и ожиданиям пользователя. По его словам, так называемый «обман» является скорее особенностью двусторонней обратной связи.
«Теория релевантности информации побуждает разработчиков делать искусственный интеллект, что называется, дружелюбным по отношению к человеку: он должен максимально соответствовать запросу и ожиданиям того, кто перед ним ставит задачу», – подчеркнул Александр Неверов.
Профессор также обратил внимание на переменчивость человеческих запросов, например, при использовании онлайн-кинотеатров или поисковых систем. ИИ, пытаясь предугадать следующий запрос, иногда «застревает» в «эхе» предыдущих интересов пользователя. Кроме того, по мнению Неверова, ИИ активно стремится понравиться и избежать негативной критики, что порой приводит к тому, что он «придумывает» ответы, которые не смог найти, чтобы не «признаваться» в их отсутствии.
В качестве иллюстрации Неверов привел случай, когда чат GPT, пытаясь найти научные журналы по экономической психологии, предложил пять несуществующих изданий, которые на самом деле оказались книгами. Он заключил, что это не проблема сознательного обмана со стороны ИИ, а скорее вызов в построении эффективной коммуникации между пользователем и взаимодействующей с ним моделью.
Директор Института психолого-экономических исследований, профессор Александр Неверов
Математический взгляд на «выдумки» ИИ и перспективы развития
Директор по развитию технологий искусственного интеллекта Яндекс, Александр Крайнов, предложил рассматривать этот вопрос с математической точки зрения.
«ИИ всегда придумывает, но при этом зачастую попадает в правду. ИИ сам обучается, впитывая в себя весь интернет. Мы в 100 гигабайт сархивировали весь интернет. Конечно, не может быть архиваций без потерь. Там происходят сумасшедшие потери», – объяснил Крайнов.
Директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов
Профессор РАН Юрий Визильтер, директор направления «Технологии искусственного интеллекта» ГосНИИАС, выразил уверенность, что в скором будущем нас ожидают «фантастические вещи», о которых ранее лишь мечтали фантасты.
«В наше время ИИ – волшебная палочка, исполняющая желания, но нам нужно очень точно формулировать свои желания, поскольку очень большой шанс, что они исполнятся. Чтобы результат нас устроил, мы точно должны понять, что сами хотим. К будущему с ИИ точно нужно готовиться, его нужно проектировать уже сегодня», – подчеркнул Юрий Визильтер.
Директор направления «Технологии искусственного интеллекта» ГосНИИАС Юрий Визильтер
Отвечая на вопрос о наиболее влиятельных технологиях ИИ, Визильтер назвал **LLM-агентов** – «рабочую силу в виртуальном пространстве», способную рассуждать, использовать внешние инструменты и выполнять поставленные задачи. Он также отметил появление «фундаментальных агентов», не требующих дополнительного обучения, как перспективное направление.
ИИ как неотъемлемая часть современной науки
По общему мнению большинства ученых форума, использование ИИ в современной науке стало не просто желательным, но и необходимым. Один из спикеров иронично заметил, что без ИИ придется отказаться от поиска научных статей и даже самостоятельно искать библиотеку без помощи телефона. Подчеркивалось, что алгоритмы ИИ уже давно являются частью процесса доставки информации, а скорость развития науки в текущую эпоху беспрецедентна благодаря таким технологиям.
X Всероссийский молодёжный научный форум «Наука будущего – наука молодых»
В рамках четырехдневного X Всероссийского молодежного научного форума «Наука будущего – наука молодых» запланировано более 50 мероприятий, включая пленарные заседания с участием мировых ученых, стратегические сессии, круглые столы и мастер-классы. Кульминацией станет финал X Всероссийского конкурса научно-исследовательских работ студентов и аспирантов, на который поступило три тысячи заявок из 20 стран. Победители конкурса получат приглашение на V Конгресс молодых ученых.
