Запросы к ИИ, которые не работают: эксперт МАИ рассказал о главных ошибках в работе с нейросетями

Фото: Пресс-служба МАИ / Архив

Всего за несколько лет искусственный интеллект научился писать, рисовать и анализировать данные не хуже, чем человек. Кажется, будто в работе с ним нет ничего сложного, но это большое заблуждение: чтобы нейросеть эффективно и качественно выполняла поставленные перед ней задачи, нужно найти к ней правильный подход. 

О том, какие типичные ошибки совершают пользователи нейросетей, как их избежать и о чём нужно помнить, составляя запросы для ИИ, рассказывает научный сотрудник института № 8 «Компьютерные науки и прикладная математика» Московского авиационного института Юрий Чайников. 

Детализация – ключ к успеху

Для эффективного взаимодействия с ИИ используется промпт. Это текстовая инструкция, которую пользователь даёт нейросети, чтобы создать что-то новое: текст, изображение, видео, программный код. По сути, это техническое задание для искусственного интеллекта: чем чётче и детальнее вы сформулируете задачу, тем точнее будет ответ.

Юрий Чайников подчёркивает: качество результата напрямую зависит от чёткости и детализации запроса. Объёмное описание задачи даёт лучшие результаты, чем короткая фраза. В промпт стоит включать указания, на что обратить внимание, а чем лучше пренебречь, каковы ваши требования к формату итогового результата, правила оформления, а также акценты и приоритеты – то есть пояснять, на чём фокусироваться и чем можно пренебречь.

– Ваше собственное непонимание, чего вы хотите, вполне может реально испортить вашу коммуникацию с ИИ. Поэтому, чем более внятно вы сформулируете запрос, чем глубже осознаёте свои цели и задачи, тем ближе результат ИИ будет к ожидаемому, – отмечает эксперт МАИ.

Учёт контекста и стиля

Контекст играет важную роль в интерпретации запроса. В некоторых случаях ИИ сам понимает требуемый стиль – например, при работе с юридическими документами. Но если нужен нестандартный подход, это нужно чётко прописать. 

– Например, можно указать желаемый тон – игривый, официальный или юмористический, задать объём ответа – количество слов или страниц, привести примеры желаемого результата в виде ссылки или файла, а также добавить ссылки на нормативные документы или шаблоны, – говорит Юрий Чайников.

Разбивка сложных задач

Сложные многоступенчатые задачи лучше разбивать на этапы. Это связано с ограничениями ИИ по объёму обрабатываемой информации за один раз. 

– Чем сложнее задача, тем эффективнее будет разбивать её на несколько частей. Допустим, вы хотите сделать хороший рекламный пост. Сначала можно попросить нейросеть проанализировать стиль публикаций в целевом канале, затем изучить ваш авторский стиль и выделить тематику ключевого месседжа для рекламы. И уже на основе полученных данных попросить сгенерировать готовые креативы, – отмечает эксперт МАИ.

Культурные особенности и восприятие

Восприятие абстрактных понятий, таких как «красивое», «гармоничное» или «впечатляющее», сильно зависит от культурного контекста. Например, наш образ «красивого лица» может отличаться от представлений жителей Восточной Азии. 

Как говорит Юрий Чайников, нейросети не обладают врождённым пониманием таких нюансов – они обучаются на данных из интернета. Например, если в обучающей выборке чаще встречаются описания «красивой улыбки» с акцентом на ровные белые зубы, нейросеть будет опираться именно на этот шаблон. Чтобы получить желаемый результат при работе с ИИ, важно конкретизировать запрос с учётом культурных кодов. К примеру, попросить написать рекламное объявление в стиле традиционной японской лаконичности: кратко, с акцентом на гармонию и уважение к клиенту. Помимо этого можно добавить в промпт ссылки на референсы. Например, можно указать «в стиле картин Василия Кандинского».

Безопасность превыше всего

Ещё один из ключевых моментов, на который обращает внимание эксперт МАИ, –  безопасность данных.

– При работе с конфиденциальной информацией надо помнить и о рисках. Например, законодатель прямо запрещает передачу персональных данных граждан Российской Федерации за рубеж. Стоит учитывать и риск утечки конфиденциальной информации, – отмечает Юрий Чайников.

Дело в том, что ИИ сохраняет все диалоги с пользователями. Это нужно для отладки системы, улучшения качества ответов и выявления нарушений правил использования. Таким образом, если в запросе была конфиденциальная информация (например, секреты в коде, черновик договора, персональные данные), она может стать доступной разработчикам или использоваться для дальнейшего обучения модели.