У меня есть два готовых письма клиентам: одно мягко сообщает о переносе срока, другое просит прислать недостающий файл. Если дать их как образцы, новый ответ гораздо легче привести к тому же тону, чем объяснять словами «дружелюбно, но профессионально». Так работает few shot при работе с нейросетью: ты показываешь несколько пар «ситуация — нужный ответ», а затем даёшь новую ситуацию. Приём особенно выручает, когда важен не красивый текст вообще, а привычный голос команды.
Письмо получилось вежливым, но чужим
Однажды я собирала шаблоны для ответов на типовые запросы и написала в задании: «Ответь клиенту тепло, кратко и без канцелярита». Получился текст, который формально подходил под все три слова, но звучал как рассылка от незнакомой компании. Срок стоял в середине, просьба терялась. Я попробовала добавить ещё пять прилагательных. Не помогло. Результат стал длиннее, а причина проблемы осталась.
Потом я положила рядом два письма, которые команда уже сочла удачными. В обоих сначала называли действие, затем причину, а в конце указывали следующий шаг и дату. Я заметила: в слове «тепло» этой последовательности нет. Прилагательное описывает впечатление; образец показывает решение конкретной задачи. Вот разница. Именно здесь два-три примера экономят правки: задают наблюдаемый рисунок ответа.
Но образец нельзя брать наугад. Если оба письма начинаются с одинакового приветствия и касаются только переноса сроков, модель может повторить приветствие и для возврата денег, хотя ситуация иная. Для тренировки я взяла 6 обезличенных писем, отвела на выбор 20 минут, проверила подборку на трёх разных запросах и оставила образцы с разными поводами. Меньше, но точнее. Это полезнее, чем десять почти одинаковых удачных фраз.
Few shot при работе с нейросетью: что считать примером
В few-shot prompting пример состоит из входа и выхода. Вход описывает исходную задачу: кто пишет, что произошло, какой факт нельзя потерять. Выход показывает готовый текст в нужном формате. После двух или трёх таких пар идёт новая задача с пустым местом для ответа. Нейросеть получает шаблон поведения внутри текущего запроса; ей не нужно переобучение.
Сравни две записи. «Пиши коротко и человечно» не говорит, какие сведения оставлять. «Вход: перенос доставки с четверга на пятницу; выход: сначала новая дата, затем причина и предложение подтвердить удобное время» уже показывает порядок. Для деловой переписки порядок часто важнее эпитета. Получатель должен увидеть срок и действие, а не оценивать литературность письма.