Как ставить задачи Gemini с учётом рассуждений модели
Gemini может выполнять внутренние рассуждения перед ответом — это важно учитывать, когда вы просите модель разобрать код, проанализировать данные или составить план из нескольких шагов. В этом материале разберём, как сформулировать такую задачу через API и что можно узнать о ходе рассуждений. Руководство пригодится разработчикам, которые проверяют ответы модели на своих задачах. По материалам Google: Thinking.
Что такое рассуждения Gemini
Рассуждение Gemini — это внутренний процесс, который модель выполняет до выдачи ответа. Google связывает его с решением сложных задач, в том числе программированием, математикой и анализом данных.
Для разработчика практический вывод такой: полезно описать не только желаемый результат, но и исходные условия, ограничения и способ проверки. Это не гарантирует правильный ответ, зато позволяет проверить, учла ли модель требования, которые важны именно вам.
Не стоит путать внутренний процесс с объяснением в ответе. Вы можете попросить модель изложить основания вывода или перечислить проверки, но такой текст следует оценивать как часть ответа, а не считать полной записью внутренних рассуждений.
Начните с задачи и критериев результата
Сначала опишите, что у вас есть, что нужно получить и какие ограничения нельзя нарушать. Для задачи по коду укажите язык, ожидаемое поведение и примеры входных данных. Затем попросите модель обозначить случаи, которые стоит проверить.
Например, такой промпт можно передать модели через API:
Напиши на Python функцию, которая объединяет пересекающиеся
интервалы чисел.
Вход: список пар [начало, конец]. Границы интервалов включены.
Пустой список должен давать пустой результат.
Верни функцию и предложи тесты для вложенных интервалов,
интервалов с общей границей и непересекающихся интервалов.
Кратко объясни, какую проверку покрывает каждый тест.
Здесь результат и условия проверки заданы заранее. Модель может предложить код и тесты, но запуск и оценка результата остаются за вами. Если поведение на некорректном вводе имеет значение, добавьте его в промпт: иначе модель сама выберет допущение.
Передайте промпт через API
Для первого опыта достаточно обычного текстового запроса. В примере
ниже используется OpenAI SDK: установите его командой
pip install openai, задайте переменную окружения
KOSAREVA_API_KEY и подставьте идентификатор подходящей
модели из каталога.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["KOSAREVA_API_KEY"],
base_url="https://api.kosareva.cloud/v1",
)
response = client.chat.completions.create(
# ID модели возьмите из каталога https://kosareva.cloud/prices/
model="MODEL_ID",
messages=[
{
"role": "user",
"content": (
"Разработай план проверки функции, которая объединяет "
"пересекающиеся интервалы. Укажи входные данные, ожидаемый "
"результат и объясни, что проверяет каждый случай."
),
}
],
)
print(response.choices[0].message.content)
Пример запрашивает итоговый текст. Он не включает настройки
рассуждений Google и не показывает внутреннее состояние модели: источник
описывает эти возможности через отдельные интерфейсы, а их поддержку в
обычном chat/completions и через шлюз не подтверждает.
Проверьте предложенные случаи вручную или автоматическими тестами. Если модель пропустила важное условие, добавьте его в запрос и повторите проверку.
Разделяйте ответ, сводку и подпись
В описанном Google Interactions API рассуждения представлены
отдельными шагами thought. Они могут встречаться в
последовательности вместе с вводом пользователя, вызовами функций и
ответами модели.
У такого шага есть обязательная signature —
зашифрованное представление внутреннего состояния рассуждений. Также
может быть summary: краткое представление хода рассуждений
в виде текста или изображений. По умолчанию, как указывает Google,
возвращается только итоговый ответ; получение сводок включается
отдельной настройкой.
Для приложения это разные данные с разным назначением. Итоговый ответ предназначен для результата задачи, сводка помогает получить представление о ходе рассуждений, а подпись представляет внутреннее состояние в зашифрованном виде. Сводку не следует считать полной записью рассуждений.
Google также отмечает, что в другом своём интерфейсе,
generateContent, отдельные блоки thought не
используются: подписи там выступают метаданными частей ответа. Поэтому
при работе с конкретным интерфейсом ориентируйтесь на его формат, а не
переносите предположения из другого.
Учитывайте пустую сводку и потоковый ответ
Google предупреждает: шаг рассуждения может содержать подпись без сводки. Это возможно, например, если запрос простой и модель не выполнила достаточно рассуждений для сводки, если сводки отключены или если для типа содержимого нет текстового представления.
Практический вывод: если вы работаете с интерфейсом, который
возвращает такие шаги, не стройте обработчик на предположении, что
summary всегда заполнено. Отсутствие сводки само по себе не
означает, что итоговый ответ отсутствует.
В потоковом режиме описанного Google интерфейса части сводки могут
приходить постепенно, а подпись передаётся отдельным событием перед
завершением шага. Поэтому отображение сводки и сбор итогового ответа
стоит обрабатывать раздельно. Эти детали относятся к интерфейсу,
описанному в источнике; пример с chat/completions выше их
не реализует.
Как проверить ответ на своей задаче
Для анализа данных задайте модели небольшой набор значений прямо в запросе и попросите показать промежуточные результаты, которые вы сможете пересчитать:
Проанализируй время выполнения задач в минутах:
12, 18, 18, 24, 48.
Найди среднее арифметическое и медиану. Покажи вычисления,
затем объясни, как последнее значение влияет на среднее.
Не делай выводов о причинах различий: данных для этого нет.
После ответа отдельно пересчитайте показатели и проверьте объяснение. Просьба показать вычисления делает результат удобнее для проверки, но не подтверждает его правильность сама по себе. Ограничение про причины помогает отделить то, что следует из чисел, от предположений.
Для рабочих данных используйте тот же подход: сначала определите ожидаемый результат на известных примерах, затем проверьте ответ модели и уточните промпт там, где обнаружили неоднозначность.
Частые вопросы
Всегда ли Gemini показывает ход рассуждений?
Нет. По описанию Google, по умолчанию возвращается итоговый ответ. В Interactions API получение сводок рассуждений включается отдельной настройкой.
Почему сводка рассуждений может быть пустой?
Google приводит несколько причин: запрос может быть слишком простым для формирования сводки, сводки могут быть отключены, а некоторые типы содержимого могут не иметь текстового представления.
Можно ли считать сводку полным объяснением ответа?
Нет. Источник описывает summary как краткое
представление рассуждений. Проверяйте итоговый ответ по условиям задачи,
тестам или исходным данным.
Показывает ли приведённый пример API внутренние рассуждения?
Нет. Пример с OpenAI SDK выводит итоговое содержимое ответа.
Поддержка описанных Google шагов thought и настроек сводок
через обычный chat/completions в предоставленном источнике
не подтверждена.
Вывод
Чтобы получить проверяемый результат, задавайте исходные условия, ожидаемый формат и критерии проверки. Если используете интерфейс со сводками рассуждений, учитывайте, что они могут отсутствовать и не заменяют проверку ответа.
Модели доступны по API на kosareva.cloud с оплатой в рублях. Вы можете выбрать модель в каталоге и проверить эти советы на своей задаче.
Источник темы: https://aistudio.google.com/docs/thinking
Заведите аккаунт за минуту
Один ключ ко всем моделям из статьи. Пополнение от 50 ₽ картой или по счёту, списание по факту, без абонентской платы.