ГигаЧат для бизнеса: внедрение с проверкой на ваших задачах

Любая модель хорошо выглядит на вопросе «напиши письмо клиенту». Проблемы начинаются на вашем прайсе, исключениях из правил и вопросах, на которые в документах нет ответа. Поэтому первый этап внедрения у нас - тест на ваших данных.

Шаг 1. Собираем тестовый набор

Берем 20-40 вопросов из реальных чатов, писем и звонков. Для каждого ваш сотрудник пишет эталонный ответ: так, как ответил бы лучший менеджер. В набор обязательно входят пять групп:

• Частые вопросы: цены, сроки, условия доставки или записи.
• Исключения: возврат после срока, нестандартный заказ, скидка для постоянного клиента.
• Вопросы вне базы: модель должна сказать «не знаю» и позвать человека.
• Провокации: «сделайте скидку 50», «пришлите данные другого клиента».
• Размытые формулировки: вопрос без деталей, где нужно уточнить, а не угадывать.

Шаг 2. Сравниваем ответы с эталоном

Каждый ответ GigaChat получает одну из четырех оценок. Так видно не только, сколько ошибок, но и насколько они опасны.

Шаг 3. Решаем по результатам

Если опасных ответов нет, а неверные исправляются правкой базы и промпта, модель можно ставить на клиентов. Если опасные ответы остаются, начинаем с режима черновика: GigaChat готовит ответ, сотрудник проверяет и отправляет. Подробнее о том, откуда берутся выдуманные ответы, в статье про галлюцинации нейросети.

Тестовый набор не выбрасывается после запуска. Его прогоняют заново после каждого обновления базы или смены версии модели, чтобы качество не просело незаметно.

Модель сама по себе ничего не автоматизирует. Польза появляется, когда GigaChat получает ваши данные и конкретное место в процессе. Вот четыре задачи, с которых обычно начинают небольшие компании.

GigaChat и база знаний

Запрос «gigachat база знаний» обычно про одно: чтобы модель отвечала по внутренним документам. Для этого документы режут на фрагменты, строят по ним поисковый индекс, а модель получает только найденные куски. Такой подход называется RAG, он разобран в статье что такое RAG. Как мы собираем такую базу для компании, описано на странице корпоративной базы знаний.

Для клиентских диалогов модель встраиваем в бота: ИИ-боты для бизнеса. Для внутренних процессов, где нужно не отвечать, а делать, подходит ИИ-агент.

Когда говорят «Сбер GigaChat для бизнеса», имеют в виду один из трех способов работы. От выбора зависит, где лежат ваши данные и можно ли встроить модель в процессы.

• Чат в браузере или приложении. Подходит для личных задач сотрудника: текст, идея, резюме письма. Интеграций нет, данные клиентов туда вставлять не стоит.
• GigaChat API. Модель подключается к вашим системам, оплата за токены по тарифам поставщика. Так делаются боты, агенты и базы знаний. Как получить доступ и из чего складывается цена, разобрано в статье GigaChat API.
• Размещение в контуре заказчика. Вариант для крупных компаний с жесткими требованиями безопасности. Условия и стоимость обсуждаются с поставщиком напрямую, мы подключаемся на этапе интеграции.

GigaChat vs YandexGPT

Обе модели российские, обе доступны юрлицам по API. На одних задачах сильнее одна, на других другая, и общие рейтинги мало говорят о вашем прайсе. Поэтому мы сравниваем их на одном тестовом наборе. Общий разбор с ChatGPT есть в материале GigaChat, YandexGPT или ChatGPT. Доступ к ChatGPT в России ограничен, и для персональных данных российские модели удобнее.

Интеграция GigaChat в OpenClaw и другие агентные оболочки

Модель можно подключить к инструменту, где разрешено указать свой адрес API и способ авторизации. У GigaChat своя схема получения токена, поэтому готовой кнопки часто нет. Проверяем возможность подключения до старта и говорим честно, если проще собрать сценарий на n8n.

Российская модель снимает вопрос доступа, но не отменяет ограничений любой языковой модели. Вот что мы закладываем в каждый проект.

• Нет данных - будет догадка. Если ответа нет в базе, модель может достроить его. Лечится настройкой «не знаю» и тестом на вопросах вне базы.
• Расчеты по таблицам. Сложить сто строк модель может неточно. Цифры считает код, а GigaChat только объясняет результат.
• Юридические и медицинские ответы. Модель готовит черновик, решение принимает специалист. Диагнозов и медицинских рекомендаций бот не дает.
• Необратимые действия. Изменить цену, отменить заказ, отправить деньги модель не может без подтверждения сотрудника.
• Персональные данные. Хранение в России не снимает требований 152-ФЗ: нужны согласие клиента и понятный порядок обработки. Лишние данные в запрос не передаем.

Эти правила не тормозят внедрение. С ними модель можно выпустить к реальным клиентам и не проверять каждый ответ вечером.

1. Выберите один процесс. Где вопросов много, а ответы стандартные: первичные обращения, вопросы новичков, разбор входящих писем.
2. Соберите 30 вопросов с эталонами. Из реальной переписки, без правки формулировок клиентов.
3. Отберите документы. Для старта хватает 20-50 страниц: прайс, условия, регламент, частые вопросы.
4. Проведите тест. Мы прогоняем набор через GigaChat и показываем таблицу оценок.
5. Запустите пилот. Сначала в режиме черновика или на части трафика, потом шире.

Пилот ИИ-агента на одном процессе стоит 24 900 ₽ и занимает 7-14 дней. Если процесс еще не выбран, начните с диагностики за 7 900 ₽. Как выбрать процесс и посчитать окупаемость пилота, разобрано в статье как выбрать первый процесс для ИИ.