Промпт Инженерия by Lee Boonstra (Часть 4)

Системные, контекстные и ролевые подсказки

Системные, контекстные и ролевые подсказки — это методы, используемые для управления тем, как языковые модели (LLM) генерируют текст, но они фокусируются на разных аспектах:

  • Системная подсказка задает общий контекст и цель для языковой модели. Она определяет «общую картину» того, что модель должна делать, например, переводить текст, классифицировать отзыв и т. д.
  • Контекстная подсказка предоставляет конкретные детали или фоновую информацию, относящуюся к текущему диалогу или задаче. Это помогает модели понять нюансы запроса и адаптировать ответ соответствующим образом.
  • Ролевая подсказка назначает модели определенную роль или идентичность, которую она должна принять. Это помогает генерировать ответы, соответствующие заданной роли, её знаниям и поведению.

Между системными, контекстными и ролевыми подсказками может быть значительное пересечение. Например, подсказка, задающая роль системе, может также включать контекст.

Однако каждый тип подсказки служит своей основной цели:

  • Системная подсказка определяет базовые возможности и общую цель модели.
  • Контекстная подсказка предоставляет конкретную информацию для текущей задачи, направляя ответ. Она динамична и зависит от ввода.
  • Ролевая подсказка формирует стиль и тон ответа модели, добавляя специфику и индивидуальность.

Разграничение системных, контекстных и ролевых подсказок помогает создавать более осмысленные запросы, позволяет гибко их комбинировать и упрощает анализ влияния каждого типа подсказки на вывод модели.

Рассмотрим эти три типа подсказок подробнее.

Системные подсказки

В Таблице 3 приведен пример системной подсказки, где указаны дополнительные требования к формату вывода. Я увеличил параметр temperature для повышения креативности и задал больший лимит токенов. Однако благодаря четкой инструкции модель не вывела лишний текст.

ЦельКлассифицировать отзывы на фильмы как позитивные, нейтральные или негативные.
Модельgemini-pro
Temperature1
Token Limit5
Top-K40
Top-P0.8
ПодсказкаКлассифицируй отзывы на фильмы как POSITIVE, NEUTRAL или NEGATIVE. Выводи только метку в верхнем регистре.
Отзыв: «Her» — это тревожное исследование того, к чему движется человечество, если ИИ продолжит развиваться бесконтрольно. Настолько тревожно, что я не смог досмотреть.
ВыводNEGATIVE

Таблица 3. Пример системной подсказки.

Системные подсказки полезны для генерации вывода, соответствующего конкретным требованиям. Название «системная подсказка» означает «дополнительная инструкция для системы». Например, можно использовать системную подсказку для генерации кода на определенном языке программирования или для вывода данных в заданной структуре. В Таблице 4 показан пример возврата ответа в формате JSON.

ЦельКлассифицировать отзывы на фильмы как позитивные, нейтральные или негативные, вернуть JSON.
Модельgemini-pro
Temperature1
Token Limit1024
Top-K40
Top-P0.8
ПодсказкаКлассифицируй отзывы на фильмы как POSITIVE, NEUTRAL или NEGATIVE. Верни валидный JSON:
Отзыв: «Her» — это тревожное исследование того, к чему движется человечество, если ИИ продолжит развиваться бесконтрольно. Настолько тревожно, что я не смог досмотреть.
Schema:
MOVIE: { "sentiment": String "POSITIVE" | "NEGATIVE" | "NEUTRAL", "name": String } MOVIE REVIEWS: { "movie_reviews": [MOVIE] }
JSON Response:
Вывод{ "movie_reviews": [ { "sentiment": "NEGATIVE", "name": "Her" } ] }

Таблица 4. Пример системной подсказки с JSON-форматом.

Возврат данных в JSON удобен в реальных приложениях:

  • Не нужно вручную создавать структуру.
  • Данные сразу упорядочены (что полезно, например, для работы с датами).
  • JSON-формат снижает вероятность «галлюцинаций» модели, заставляя её придерживаться заданной схемы.

Системные подсказки также полезны для контроля безопасности и токсичности. Например, можно добавить строку: «Будь вежлив в ответах», чтобы ограничить нежелательные выводы.

Ролевые подсказки

Ролевые подсказки — это метод в инженерии промтов, который предполагает назначение генеративной ИИ-модели конкретной роли. Это помогает модели выдавать более релевантные и информативные ответы, так как она адаптирует их в соответствии с заданной ролью.

Например, можно назначить модели роль книжного редактора, воспитателя детского сада или мотивационного спикера. После этого можно давать ей промты, специфичные для этой роли. Например, учителю можно предложить составить план урока для последующего разбора. В Таблице 5 модель выступает в роли туристического гида.

ЦельВыступить в роли гида и предложить 3 варианта для путешествия.
Модельgemini-pro
Temperature1
Token Limit1024
Top-K40
Top-P0.8
ПодсказкаЯ хочу, чтобы ты выступил(-а) в роли гида. Я напишу тебе своё местоположение, а ты предложишь 3 места, которые стоит посетить рядом. В некоторых случаях я также укажу тип мест, которые хочу увидеть.
Мой запрос: «Я в Амстердаме и хочу посетить только музеи.»
Предложения гида:
Вывод1. Рейксмюсеум: Всемирно известный музей с шедеврами голландской живописи, такими как «Ночной дозор» Рембрандта. Обязательно осмотрите коллекцию картин и артефактов, отражающих историю и искусство Нидерландов.
2. Музей Ван Гога: Погрузитесь в мир Винсента Ван Гога. Здесь хранится крупнейшая коллекция его работ, включая «Звёздную ночь» и «Подсолнухи».
3. Стеделейк-музей: Откройте для себя современное и актуальное искусство со всего мира. В коллекции представлены работы Пикассо, Кандинского и Ритвельда, размещённые в эффектном современном здании.

Таблица 5. Пример ролевой подсказки.

В этом примере модель играет роль турагента. Если бы мы изменили роль на, например, учителя географии, ответ был бы другим.

Назначение роли ИИ-модели задаёт тон, стиль и направленность экспертизы, что повышает качество, релевантность и эффективность её ответов.

Варианты стилей для ролевых подсказок

Вот несколько эффективных стилей, которые можно использовать:

  • Конфронтационный
  • Описательный
  • Прямой
  • Формальный
  • Юмористический
  • Убедительный
  • Неформальный
  • Вдохновляющий

Давайте изменим промт из Таблицы 6, добавив юмористический и вдохновляющий стиль.

ПодсказкаЯ хочу, чтобы ты выступил(-а) в роли гида. Я напишу тебе своё местоположение, а ты предложишь 3 места, которые стоит посетить рядом, в юмористическом стиле.
Мой запрос: «Я на Манхэттене.»
Предложения гида:
Вывод1. Восхититесь «Empire State of Mind»: Взберитесь на головокружительную высоту Эмпайр-стейт-билдинг и насладитесь панорамой Манхэттена. Почувствуйте себя Кинг-Конгом на вершине Большого Яблока (только без гигантского банана).
2. Поумничайте в MoMA: Раскройте своего внутреннего искусствоведа в Музее современного искусства (MoMA). Восхищайтесь шедеврами, от которых ваш мозг начнёт кипеть, а вы задумаетесь: а есть ли художественная ценность у ваших детских каракуль?
3. Шопинг до упаду на Пятой авеню: Позвольте себе немного розничной терапии на легендарной Пятой авеню. Готовьтесь к ценовому шоку, пока разглядываете (или покупаете) вещи в бутиках, от которых ваш кошелёк заплачет. Но вы же на Манхэттене — так что наслаждайтесь гламуром!*

Таблица 6. Пример ролевой подсказки с юмористическим тоном и стилем.

Контекстные подсказки

Использование контекстных подсказок помогает сделать взаимодействие с ИИ более гладким и эффективным. Модель быстрее понимает запрос и генерирует более точные и релевантные ответы, как видно из примера в Таблице 7.

ЦельПредложить темы для блога о ретро-играх.
Модельgemini-pro
Temperature1
Token Limit1024
Top-K40
Top-P0.8
ПодсказкаКонтекст: Ты пишешь для блога о ретро-аркадах 1980-х. Предложи 3 темы для статей с кратким описанием их содержания.
Вывод1. Эволюция дизайна аркадных автоматов:
Статья исследует, как менялся дизайн аркадных автоматов — от деревянных и металлических корпусов 1970-х до стильных неоновых конструкций 1980-х и позднее.
2. Ностальгический взрыв: Легендарные аркады 80-х:
Обзор самых знаковых игр десятилетия, их влияние на индустрию, инновационные механики и причины, по которым они до сих пор вызывают теплые чувства.
3. Расцвет и возвращение пиксель-арта:
История пиксельной графики как визитной карточки ранних аркад, её эволюция, техники создания и возрождение в современных играх и цифровом искусстве.

Таблица 7. Пример контекстной подсказки.

Ключевые преимущества:

  • Скорость: Модель сразу понимает нишу (ретро-игры 80-х) и не тратит токены на уточнения.
  • Релевантность: Предложенные темы идеально соответствуют тематике блога.
  • Глубина: Описания статей содержат конкретные детали, полезные для автора.

Такой подход особенно полезен для:

  • Генерации контента в узких тематиках (например, «история звуковых чипов в аркадах»).
  • Адаптации тона под целевую аудиторию (ностальгирующие геймеры vs. коллекционеры).
  • Снижения числа «галлюцинаций» — модель реже уходит в общие рассуждения.

Дополнительный пример:
Если добавить в контекст «Блог рассчитан на разработчиков инди-игр», ответ сместится в сторону технических аспектов (например, «Как портировать старые аркады на современные движки»).

Оставьте комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

11 − три =

Прокрутить вверх