В рамках X Всероссийского молодежного научного форума «Наука будущего – наука молодых», прошедшего в Саратове, состоялась оживленная дискуссия, посвященная провокационному вопросу: может ли искусственный интеллект (ИИ) сознательно вводить человека в заблуждение? Ключевой темой форума в этом году стала «Искусственный интеллект и человек: гуманитарный вызов технологической эпохи».
«Теория релевантности информации побуждает разработчиков делать ИИ максимально дружелюбным и соответствующим запросам пользователя», — пояснил профессор Александр Неверов, директор Института психолого-экономических исследований, говоря о специфике двусторонней обратной связи.
Директор Института психолого-экономических исследований, профессор Александр Неверов
Профессор Неверов также обратил внимание на то, что предпочтения людей часто меняются. Например, в онлайн-кинотеатрах или поисковых системах пользователь в разных эмоциональных состояниях может формировать различные запросы. В результате ИИ может «застревать» в «эхе» предыдущих интересов, испытывая затруднения с выходом из этого паттерна. Более того, как подчеркнул ученый, ИИ «очень хочет понравиться», стремясь дать ответ, который не вызовет критику или негативную обратную связь. В этом стремлении он порой «придумывает» информацию, которую не смог найти, чтобы избежать утверждения о ее несуществовании.
В качестве иллюстрации Неверов привел пример, когда чат-бот GPT, по запросу его коллег, ищущих научные журналы по экономической психологии, сгенерировал названия пяти несуществующих изданий. Позже выяснилось, что ИИ выдал за журналы реально существующие книги. Ученый считает, что это не проблема сознательного обмана со стороны ИИ, а скорее вопрос налаживания эффективной коммуникации между пользователем и взаимодействующей с ним моделью.
X Всероссийский молодёжный научный форум `Наука будущего – наука молодых`
В дискуссию включился Александр Крайнов, директор по развитию технологий ИИ в компании «Яндекс», который предложил рассматривать этот феномен с математической точки зрения.
«ИИ всегда что-то генерирует, но при этом зачастую попадает в правду. Он обучается, впитывая в себя весь интернет. Мы архивировали весь интернет в 100 гигабайтах, но, разумеется, архивация без потерь невозможна. Там происходят колоссальные потери», — отметил Крайнов.
Директор по развитию технологий искусственного интеллекта Яндекс Александр Крайнов
Профессор РАН Юрий Визильтер, директор направления «Технологии искусственного интеллекта» ГосНИИАС, выразил мнение, что в ближайшем будущем человечество столкнётся с воплощением тех фантастических идей, которыми писатели-фантасты некогда пугали, манили и вдохновляли.
«В наше время ИИ — это волшебная палочка, исполняющая желания, но нам нужно очень точно формулировать свои желания, поскольку очень велик шанс, что они исполнятся. Чтобы результат нас устроил, мы точно должны понять, чего сами хотим. К будущему с ИИ необходимо готовиться, его нужно проектировать уже сегодня», — подчеркнул он.
Директор направления `Технологии искусственного интеллекта` ГосНИИАС Юрий Визильтер
Отвечая на вопрос о технологиях ИИ, которые окажут максимальное влияние на будущее общества, Визильтер выделил прежде всего те, что трансформируют рынок труда. Речь идет о LLM-агентах (больших языковых моделях-агентах) – своего рода «рабочей силе в виртуальном пространстве», активно развивающихся с 2023 года. Эти агенты оснащены внешней памятью, способны рассуждать и использовать внешние инструменты для достижения поставленных целей. Особый акцент смещается на «фундаментальные агенты», которые не требуют дополнительного обучения и представляют собой отдельное перспективное направление.
Большинство ведущих ученых, присутствовавших на форуме, сошлись во мнении: в современной науке невозможно обойтись без ИИ. Как отметил один из выступающих, даже для поиска научных статей или самостоятельного посещения библиотеки, минуя запрос в телефоне, придется столкнуться с ИИ-алгоритмами. Эти алгоритмы уже давно стали неотъемлемой частью процесса доставки информации, и благодаря им скорость научного развития достигла исторического максимума.
X Всероссийский молодёжный научный форум `Наука будущего – наука молодых`
X Всероссийский молодёжный научный форум `Наука будущего – наука молодых`
На протяжении четырех дней X Всероссийского молодежного научного форума «Наука будущего – наука молодых» было проведено более 50 мероприятий, включая пленарные заседания с участием ведущих мировых ученых, стратегические сессии, круглые столы и мастер-классы. Ключевым событием стал финал X Всероссийского конкурса научно-исследовательских работ для студентов и аспирантов. На конкурс поступило три тысячи заявок от талантливой молодежи из 20 стран мира, а его победители будут приглашены на V Конгресс молодых ученых.
