Step-back prompting (Метод «шага назад»)
Step-back prompting — это техника, направленная на улучшение работы языковой модели (LLM) за счёт того, что ей сначала задаётся общий вопрос, связанный с конкретной задачей, а затем ответ на этот общий вопрос используется в следующем запросе для решения самой задачи. Такой «шаг назад» позволяет модели активировать релевантные фоновые знания и процессы рассуждения перед тем, как приступить к решению конкретной проблемы.
Благодаря рассмотрению более широких и фундаментальных принципов, языковые модели могут генерировать более точные и содержательные ответы. Step-back prompting побуждает LLM мыслить критически и применять свои знания новыми и креативными способами. Этот метод изменяет финальный запрос, задействуя больше знаний из параметров модели, чем если бы запрос был задан напрямую.
Кроме того, step-back prompting помогает снизить влияние предвзятости в ответах LLM, поскольку фокусируется на общих принципах, а не на конкретных деталях.
Давайте рассмотрим примеры, чтобы понять, как step-back prompting может улучшить результаты. Сначала разберём традиционный запрос (Таблица 8), а затем сравним его с запросом, использующим «шаг назад» (Таблица 9).
| Цель: | Написать сюжет для уровня шутера от первого лица. |
| Модель: | gemini-pro |
| Температура: | 1 |
| Лимит токенов: | 1024 |
| Top-K: | 40 |
| Top-P: | 0.8 |
| Запрос: | Напиши в одном абзаце сюжет для нового уровня шутера от первого лица, который будет сложным и увлекательным. |
| Вывод модели: | Уровень начинается с того, что отряд игрока попадает в засаду в густонаселённом городском районе, устроенную безжалостной вражеской фракцией. Игроку предстоит пробиваться через лабиринт узких переулков и полуразрушенных зданий, используя скрытность и точность для устранения врагов и избегания обнаружения. Игрок должен использовать окружение в своих интересах: расставлять ловушки, укрываться за укрытиями и совершать продуманные манёвры, чтобы выжить. По пути он находит разведданные, указывающие на то, что враг планирует масштабную атаку, и игроку приходится спешить, чтобы собрать доказательства и передать их в штаб до того, как враг осуществит свой замысел. |
Таблица 8. Традиционный запрос перед сравнением с step-back prompting.
Проверь свои знания в наших бесплатных тестах по ИИ! Пройди тест и узнай, насколько хорошо ты разбираешься в технологиях искусственного интеллекта!
При температуре 1 сюжет может получиться креативным, но также случайным и шаблонным. Поэтому давайте сделаем «шаг назад».
| Запрос: | На основе популярных шутеров от первого лица, назови 5 ключевых вымышленных сеттингов, которые делают сюжет уровня сложным и увлекательным. |
| Вывод модели: | Заброшенная военная база: Огромный постапокалиптический военный комплекс, кишащий мутировавшими солдатами и бунтующими роботами — идеальное место для напряжённых перестрелок. Киберпанк-город: Неоновый футуристический мегаполис с небоскрёбами и узкими улочками, где игрок столкнётся с кибернетически улучшенными врагами и механизмами взлома. Инопланетный корабль: Огромный корабль пришельцев, потерпевший крушение на Земле, с жуткими коридорами, зонами с нулевой гравитацией и враждебными внеземными существами. Город, захваченный зомби: Заброшенный город, переполненный ордами агрессивных зомби, где игроку предстоит участвовать в ближнем бою и решать головоломки, чтобы найти безопасный путь. Подводная исследовательская станция: Затопленная глубоководная лаборатория, населённая мутировавшими морскими созданиями, где выживание требует скрытности и навыков подводного исследования. |
Таблица 9. Пример step-back prompting для согласованности.
Эти темы отлично подходят для шутера от первого лица. Теперь вернёмся к исходному запросу, но добавим контекст из ответа «шага назад», и посмотрим, что получится.
| Запрос: | Контекст: 5 увлекательных тем для шутера от первого лица: Заброшенная военная база… Киберпанк-город… Инопланетный корабль… Город, захваченный зомби… Подводная исследовательская станция… Выбери одну из тем и напиши в одном абзаце сюжет для нового уровня шутера от первого лица, который будет сложным и увлекательным. |
| Вывод модели: | В глубинах мрачной бездны покоится разрушенная подводная исследовательская станция — немой свидетель человеческих амбиций и их катастрофических последствий. Окутанная тьмой, наполненная гулом неисправных механизмов и эхом погибших душ, станция теперь стала рассадником кошмаров, порождённых морской пучиной. Игрок, элитный боец, оснащённый продвинутым водолазным снаряжением и экспериментальным оружием, получает задание проникнуть в этот подводный мир ужаса. Ему предстоит пройти через опасные коридоры, разгадывать загадки и сражаться с чудовищными морскими тварями, скрывающимися в глубинах. От борьбы с давящим давлением водной толщи до противостояния хитрым подводным хищникам — каждый момент в этом неизведанном мире проверяет пределы человеческой выносливости и отваги. |
Таблица 10. Пример согласованного prompting.
Теперь сюжет выглядит куда интереснее! Использование step-back prompting позволяет повысить точность и качество ответов модели.
