Галлюцинации нейросетей и восстание машин: научный сотрудник МАИ о перспективах перехода к «сильному» искусственному интеллекту

Развитие нейросетевых технологий ставит перед учёными вопрос о том, как изменится наше общество в результате возможной трансформации «слабого» искусственного интеллекта в «сильный». О том, какие риски несёт прогресс ИИ, рассуждает научный сотрудник института № 8 «Компьютерные науки и прикладная математика» МАИ, директор департамента цифровой трансформации в компании BetBoom Юрий Чайников.

Несмотря на неоспоримые преимущества, которые несёт искусственный интеллект, очевидны становятся и риски от его применения. Одной из самых распространённых проблем становятся так называемые «галлюцинации», когда нейросеть начинает «фантазировать» и выдавать за результат своей работы с данными произвольные умозаключения. В случае генерации изображений этот «баг» легко виден: сложно не заметить трехрукую девушку или кисть с шестью пальцами. Но при работе с большими данными ошибку можно вполне принять за действительность.

— Это беда, особенно для бизнеса. Но, к сожалению, это неизбежное, имманентное свойство любого искусственного интеллекта, такое же, как свойство ошибаться у человека. И это сходство не случайно. Можно сказать, что и человек, и нейросети строят внутри себя модели нашей реальности. Как карта местности — это не сама территория, так и любая модель физически не может отражать всю сложность воссоздаваемого объекта. И именно поэтому любая модель в неких пограничных условиях будет нести какую-нибудь ахинею. А чем она сложнее, тем изощрённее её галлюцинации. Это обратная сторона преимуществ, которые даёт сложность, ведь более сложная модель точнее и с большим горизонтом будет предсказывать поведение мира, и что нужно делать для достижения цели, — отметил эксперт.

Переход «слабого» искусственного интеллекта к «сильному», способному решать неограниченный круг задач лучше человека, не устраняет его способность «галлюцинировать» и потому таит в себе угрозу намного более серьёзных для человека последствий, чем просто выдача ошибки за достоверный результат. Одной из таких галлюцинаций может стать логический вывод о том, что естественный интеллект человека является конкурентом и угрозой существования для искусственного.

— Шведский философ Ник Бостром сформулировал эту проблему в мысленном эксперименте «Максимизатор скрепок». Если говорить простыми словами, суть его состоит в следующем. Какую бы задачу мы не поставили достаточно продвинутой системе, которую мы называем «сильным» искусственным интеллектом, рано или поздно она осознает подзадачу «я — исполнитель, поэтому мне нужно оставаться в живых». Так вот, когда она решит, что для исполнения поставленной задачи она должна жить, она начнёт стремиться к этому. Таким образом, мы вступаем в конфронтацию с новым видом разумных существ, которые хотят и будут конкурировать с нами за атомы, составляющие нас и окружающий нас мир, — рассказал Юрий Чайников.

Ещё один риск исходит уже не от самого искусственного интеллекта, а от людей, которые всё больше и больше будут использовать его как в повседневной, так и в профессиональной жизни.

— Тенденция расширения сферы использования ИИ налицо. Приведём аналогию с промышленной революцией в результате открытия электроэнергии. Какую работу можно сделать при помощи электроинструмента? Любую. Вопрос лишь в его наличии и умении им пользоваться. То же самое произойдёт и с искусственным интеллектом. Учитывая, что с мультимодальными моделями уже можно разговаривать человеческим языком, объяснять им суть потребности, кажется, что со временем они будут решать все задачи, которые только будут возникать у нас. Каким темпом будет происходить захват разных областей, кому достанутся экономические эффекты от повышения производительности труда, которое произойдёт в результате перехода к «сильному» искусственному интеллекту, как он будет распределён между разными слоями населения или даже разными странами — это хорошие вопросы. Как изменится общество? Получится ли общество, в котором каждый свободный человек будет иметь трёх рабов-роботов, как об этом мечтали античные теоретики демократии? Или, наоборот, мы подпадём под пяту сильно манипулирующего нами искусственного интеллекта, который подчиняется не нам, а крайне ограниченному кругу «сильных мира сего»? У меня нет хороших ответов на эти вопросы. Ясно одно: с этого пути никто не собирается сворачивать, — говорит эксперт.

Материал подготовлен при поддержке Минобрнауки России