YandexGPT API: подключение и цены

Как подключить YandexGPT по API: пошаговая инструкция

Языковые модели Яндекса доступны в Yandex Cloud. Сейчас этот сервис входит в Yandex AI Studio, в старых инструкциях он называется Foundation Models. Интерфейс консоли меняется, но логика шагов одна.

Шаг 1. Платежный аккаунт

Войдите в консоль Yandex Cloud с Яндекс ID и создайте платежный аккаунт. Для компании выберите юридическое лицо или ИП, тогда оплата идет по договору и счетам. Новым аккаунтам обычно дают стартовый грант, его условия проверьте на сайте Yandex Cloud.

Шаг 2. Облако и каталог

В облаке создайте каталог, например ai-prod. Скопируйте его идентификатор: он понадобится в каждом запросе. Для тестов и рабочей системы удобно завести разные каталоги.

Шаг 3. Сервисный аккаунт и роль

В каталоге откройте раздел сервисных аккаунтов и создайте новый. Назначьте ему роль ai.languageModels.user. Без этой роли запросы будут отклоняться с ошибкой доступа.

Шаг 4. API-ключ

В карточке сервисного аккаунта создайте API-ключ. Если консоль предлагает выбрать область действия, укажите доступ к языковым моделям. Секрет ключа показывается один раз: сохраните его в менеджере паролей, а не в коде.

Шаг 5. Первый запрос

Отправьте запрос синхронного режима. В поле modelUri подставьте идентификатор каталога. Для модели Pro замените yandexgpt-lite на yandexgpt.

POST https://llm.api.cloud.yandex.net/foundationModels/v1/completion
Authorization: Api-Key ВАШ_КЛЮЧ
Content-Type: application/json

{ "modelUri": "gpt://ID_КАТАЛОГА/yandexgpt-lite/latest",
"completionOptions": { "stream": false, "temperature": 0.3, "maxTokens": "500" },
"messages": [
{ "role": "system", "text": "Ты помощник интернет-магазина. Отвечай коротко." },
{ "role": "user", "text": "Сколько идет доставка в Казань?" } ] }

В ответе придет текст модели и блок usage: сколько токенов ушло на запрос и на ответ. Эти цифры и есть основа для расчета стоимости.

Шаг 6. Вместо ключа - IAM-токен, если нужно

Для внутренних сервисов в Yandex Cloud вместо API-ключа используют IAM-токен в заголовке Authorization: Bearer. Он живет не больше 12 часов, поэтому его нужно обновлять автоматически.

Частые ошибки при подключении YandexGPT API

Если вы переносите готовый код с OpenAI, в документации Yandex Cloud проверьте раздел о совместимости с форматом OpenAI API. Это упрощает перенос. Сам ChatGPT в России доступен с ограничениями, а для персональных данных лучше российские модели или локальные решения.

Сколько стоит YandexGPT API: тарифы и расчет типовых задач

Тарификация идет за токены: учитывается и то, что вы отправили, и то, что модель написала. Модель Pro стоит дороже Lite, асинхронный режим обычно дешевле синхронного. Цены за тысячу токенов меняются, поэтому здесь их нет: актуальные смотрите в тарифах Yandex Cloud.

Формула расчета

Стоимость в месяц = операций в месяц × токенов на операцию / 1000 × цена за 1000 токенов.

Токены на операцию не угадывайте. Прогоните 20 типовых запросов и возьмите среднее из блока usage. Для отдельного подсчета без генерации в API есть метод токенизации.

Пример объемов для трех задач

Числа токенов ниже условные, чтобы показать порядок расчета. Ваши замеры будут другими.

В ответ бота входят инструкция, найденные фрагменты базы и история диалога, поэтому он самый «тяжелый».

Дальше умножьте токены в месяц на цену из тарифа выбранной модели и режима. Для сводок звонков разница между синхронным и асинхронным режимом заметна: их можно копить и отправлять пачкой ночью.

Как снизить счет

• Lite для классификации и коротких ответов, Pro только там, где нужна сложная логика.
• В запрос попадают только нужные фрагменты базы, а не весь прайс.
• История диалога обрезается до последних реплик.
• Отчеты и сводки идут через асинхронный режим.

YandexGPT API или GigaChat API: сравнение на одних объемах

Обе модели российские, обе подключаются по API и берут плату за токены. Отличаются подключение, модель оплаты и то, как считаются токены.

Как честно сравнить цену

1. Возьмите 20 реальных запросов одной задачи, например ответы бота.
2. Отправьте их в обе модели с одинаковой инструкцией.
3. Сложите токены из ответов каждой модели: у них разные токенизаторы, поэтому цифры не совпадут.
4. Умножьте на месячный объем и на цену по тарифу или стоимость пакета в пересчете на токен.
5. Сравните не только цену, но и качество: сколько ответов пришлось бы исправлять.

Подробно о подключении Сбера - в статье GigaChat API: как подключить и сколько стоит. Сравнение качества моделей на бизнес-задачах собрано в материале GigaChat, YandexGPT или ChatGPT.

Когда проще не подключать самому

Подключить API и получить ответ - полчаса. Сделать из этого рабочий инструмент - другая задача. Понадобятся база знаний, чтобы модель отвечала по вашим данным, связь с CRM, журнал запросов и правила на случай, когда модель не знает ответа.

• Если нужен бот для клиентов, это разработка чат-бота от 19 900 ₽.
• Если модель должна выполнять шаги процесса в CRM, почте и таблицах, это ИИ-агент, пилот от 24 900 ₽.
• Если нужно понять, где YandexGPT даст пользу, посмотрите сценарии на странице внедрения YandexGPT для бизнеса.

Персональные данные клиентов в запросы отправляйте только при наличии согласия и описанного порядка обработки по 152-ФЗ. Лишнее из запроса лучше убирать: модели для ответа редко нужен телефон или паспорт.