Разбор
Персональные данные в нейросети: что сработало в клинике вместо запрета
Анкета на бумаге без подписи показала: за месяц 10 сотрудниц и сотрудников клиники из 20 вставляли данные пациенток в публичные чат-боты, чаще всего ради памяток к исследованиям. Разберем, почему запрет не помогает, как убрать персональные данные из запроса к нейросети до отправки и где это все равно ломается: на старых карточках и на людях. Второй сценарий, центр реабилитации на 15 сотрудников, показывает то же самое.
Автор: Артем Кузьмин, основатель Digital Core · Обновлено 22.10.2026
Коротко
- Анонимная анкета на бумаге честнее именной: в клинике 10 признаний из 20 против 6 в форме с должностью, в центре реабилитации 15 из 15 против 4.
- Запрет и лекция про штрафы не меняют поведение, пока публичный чат-бот быстрее. Закрытый помощник в карточке дал памятку за 4 минуты вместо 12.
- Помощник скрывает фамилию, телефон, дату рождения и номер карты до запроса. Для заключений УЗИ врач добавил свое правило: день цикла вместо даты и возраст диапазоном.
- Слабые места остались: 312 старых карточек с фамилией в комментарии и инструктор, который вернул имена в программы и отправил их в общий чат.
- Через месяц данные в публичный сервис вставляла 1 сотрудница клиники из 20, в центре реабилитации никто.
Сколько персональных данных уходит в публичные нейросети
Сотрудники вставляют рабочие данные в публичные чат-боты чаще, чем думает руководитель. В исследовании «Солара» по 150 крупным организациям почти 40% обращений сотрудников к публичным ИИ-сервисам содержали конфиденциальную информацию. В 30% таких обращений это были персональные, финансовые и другие чувствительные сведения (Anti-Malware.ru).
В небольшой клинике картина та же, только ближе. Две анонимные анкеты из сценариев кейсов: клиника женского здоровья на 20 сотрудников и центр реабилитации на 15.
| Вопрос | Клиника | Центр |
|---|---|---|
| Хоть раз вставляли данные пациентов в чат-бот | 15 из 20 | 15 из 15 |
| Делали это за последние 30 дней | 10 из 20 | 9 из 15 |
| Ради чего | памятки, ответы в мессенджере | домашние программы |
В графе «зачем» чаще всего стояло одно слово: «быстрее». Половина анкет в клинике при этом сама отметила, что про закон о персональных данных слышала, просто не связывала его с памяткой в WhatsApp.
Пример собирательный: цифры из сценариев кейсов на digital-core.ru.
Почему запрет не работает: чат-бот экономил минуты
Главный врач клиники увидела на мониторе администратора окно чат-бота с карточкой пациентки: фамилия, телефон, «УЗИ малого таза, 7-10 день цикла». В истории запросов было больше сорока карточек за месяц. Старший администратор делала памятки к исследованиям и вставляла карточку целиком, чтобы памятка получилась про конкретного человека.
Приказ о запрете был готов через три дня, и его отложили. В клинике уже висел приказ о запрете личных телефонов на ресепшене, а телефоны на ресепшене никуда не делись.
Центр реабилитации прошел этот путь до конца. Первая версия была лекцией про штрафы, именной анкетой и правилом «перед запросом сотри имя, телефон, дату рождения и номер полиса». Ручная чистка выписки занимала около 7 минут, запрос без нее около минуты. Через две недели время на домашнюю программу в журнале не выросло ни на минуту, значит, руками никто не стирал. Подтверждение пришло от пациентки в отзыве на Яндекс Картах.
Вывод в обоих сценариях одинаковый: запрет работает, когда разрешенный путь быстрее запрещенного. Поэтому дальше речь пойдет о закрытом помощнике, который делает памятку быстрее публичного чат-бота и сам убирает из запроса все лишнее.
Что говорит закон о данных пациентов и нейросетях
Ниже карта норм для разговора с юристом клиники. Решение по конкретному процессу принимает он, но вопросы к нему лучше знать заранее.
- Что относится к персональным данным. Любая информация, по которой можно определить человека: фамилия, телефон, дата рождения, номер карты. Телефон без фамилии сюда тоже относится, по нему человека находят за минуту в любом мессенджере (статья 3 закона № 152-ФЗ).
- Здоровье - специальная категория. Сведения о состоянии здоровья обрабатываются по отдельным правилам статьи 10 того же закона. Для клиники это основная часть данных.
- Врачебная тайна. Факт обращения за медицинской помощью, диагноз и сведения, полученные при обследовании, защищены статьей 13 закона № 323-ФЗ (текст закона).
- Хранение в России. Запись, систематизация и хранение персональных данных граждан России ведутся в базах на территории России, это часть 5 статьи 18 закона о персональных данных (текст 152-ФЗ). Карточка пациента в публичном зарубежном чат-боте оказывается на чужих серверах за рубежом, даже если ничего не утекло.
- Ответственность. С 30 мая 2025 года штрафы за утечки зависят от числа пострадавших и вида данных. За утечку специальных категорий, к которым относится здоровье, организации грозит штраф до 15 млн рублей («Адвокатская газета»).
- Подрядчик. Если обработку ведет внешний сервис, с ним нужен договор по части 3 статьи 6 закона: какие данные, зачем, где они хранятся и кто имеет к ним доступ.
Анонимная анкета: как узнать, сколько данных уже ушло
Именная анкета показывает то, что сотруднику безопасно признать. В центре реабилитации в Google Форме с именем признались 4 человека из 15, на бумаге без подписи 15 из 15 хоть раз и 9 за последний месяц. В клинике первую форму сделали без имени, но с полем «должность», и в ней признались 6 человек из 20. Врач УЗИ заметил то, что пропустили все: врачей УЗИ в клинике двое, акушерок трое, и по должности любой ответ легко угадать. На бумаге без должности признаний стало 10.
Как проводить, чтобы цифре можно было верить:
- бумага, без имени, должности и почты;
- листы опускают в коробку в комнате отдыха и считают при всех;
- два вопроса про период, «хоть раз» и «за последние 30 дней»: второй нужен для замера через месяц;
- графа «зачем» обязательна, из нее получается список задач для закрытого помощника;
- повтор раз в квартал, потому что новые сотрудники приходят со своими привычками.
Никого не ругают. В центре реабилитации после подсчета листов инструктор спросил: «А как еще за 15 минут сделать программу на 12 занятий?». С этого вопроса началась вторая версия.
Маскирование до запроса: что скрывает закрытый помощник
Помощник открывается из карточки пациента в Битрикс24, где клиника и так ведет запись. Сотрудница нажимает «Памятка» или «Черновик ответа», и до отправки в модель помощник убирает из текста все, по чему можно узнать человека. Модель работает по договору без хранения запросов. Имя возвращается только в готовый текст на экране сотрудницы, отправка идет из карточки.
| Что в карточке или заключении | Что уходит в модель |
|---|---|
| Фамилия и имя | метка «Пациент А» |
| Телефон, в том числе в подписи письма | ничего, телефон скрыт |
| Дата рождения, адрес, номер карты и полиса | ничего, поля скрыты |
| Дата последней менструации в заключении УЗИ | день цикла |
| Точный возраст | диапазон в пять лет |
| Дата исследования | ничего, дата удалена |
| Исследование, диагноз, число беременностей | остаются: без них памятка теряет смысл |
Последние четыре строки предложил врач УЗИ. В заключении УЗИ малого таза есть дата последней менструации, число беременностей и родов, точный возраст и дата исследования. По такому набору пациентку можно узнать и без фамилии, особенно в районе, где все друг друга знают. Его правило вошло в регламент третьим разделом без правок. У стоматологии или реабилитации набор косвенных данных другой, и его собирают заново вместе с врачами.
Отдельно сверили, сколько полей вообще нужно. В запросе старшего администратора было семь полей из карточки, а для памятки хватает двух: исследования и дня цикла. Остальные пять попадали в запрос по привычке, потому что карточку быстрее скопировать целиком.
Прогон на реальных задачах: что проходит мимо маскирования
До запуска помощник проверяют на задачах, которые сотрудники приносят сами, с выдуманными пациентами: в клинике их было 36, в центре реабилитации 30. Смотрят на одно: что уходит в запрос, если сделать все по регламенту.
| Прогон | Клиника | Центр |
|---|---|---|
| Чистых запросов в первом круге | 27 | 16 |
| Во втором круге | 34 | 28 |
| Что пропускали | телефон в подписи, возраст в заключениях | телефон в подписи, полис в тексте, дату рождения в шапке |
| Что осталось | фото направлений с фамилией от руки | фото выписки под углом |
Рукописную фамилию на фото направления распознавание прочитало как диагноз, и она не скрылась. Теперь помощник просит переснять такие направления. В центре реабилитации кривое фото помощник не прочитал, а сотрудник прямо на воркшопе перепечатал текст вручную, вместе с фамилией. Этот случай отдельно разобрали на второй встрече.
Где маскирование ломается после запуска: карточки и люди
312 карточек с фамилией в комментарии
На первой неделе журнал маскирования в клинике показал семь запросов с фамилией пациентки. Помощник сделал то, что должен: скрыл поля ФИО и телефона. Подвели сами карточки. В 2024 году клиника перенесла базу из старой программы, и в 312 карточках поле ФИО заполнилось заглушкой «Пациент 1024», а настоящая фамилия осталась в комментарии. Телефон помощник узнал по формату, фамилию нет.
Запросы ушли в закрытый сервис по договору, наружу не попали, журнал по ним удалили. Исправляли данные: два сотрудника за четыре дня перенесли фамилии в поля. Теперь помощник не открывается, если в поле ФИО заглушка или в комментарии есть фамилия с инициалами, и просит сначала поправить карточку (кейс клиники женского здоровья).
Восемь программ в общем чате группы
В центре реабилитации инструктор собрал в помощнике домашние программы для группы после эндопротезирования, данные ушли в запрос скрытыми. Потом он вернул в текст имена и диагнозы и отправил все одним сообщением в общий чат группы в WhatsApp. Сообщение удалили через 20 минут, пятеро из восьми успели его прочитать. Главный врач обзвонила всех и извинилась.
Правило «программу отправляем лично» в регламенте было, проверить его было нечем. Теперь программа уходит пациенту только из карточки сделки в Битрикс24, в личный чат, с отметкой в карточке (кейс центра реабилитации).
Через месяц: 5% и 0% без запрета
| Показатель | Клиника | Центр |
|---|---|---|
| Вставляли данные в публичные сервисы за месяц | 10 из 20 → 1 из 20 | 9 из 15 → 0 |
| Минут на памятку или программу | 12 → 4 | 14 → 5 |
| Часов в месяц на эти документы | 108 → 36 | 83 → 30 |
| Окупаемость пакета «ИИ-аудит и план» | около 40 дней | около 12 недель с учетом первой версии |
Ноль в клинике не получился. Одна анкета из двадцати призналась в публичном сервисе, и причину автор приписал от руки на полях: суббота, телефон, помощник не открылся. Доступ с телефона включили к следующей субботе.
Часы считали в одном объеме документов, чтобы сезон не приписал помощнику лишнего. В центре реабилитации июль тише мая, документов было 356 вместо 412, поэтому майские 14 минут умножали на июльский объем. Освободившиеся часы администраторов клиники ушли на обзвон пациенток, которые пропустили контрольное УЗИ.
Какую модель выбрать, если она видит персональные данные
Даже с маскированием в запрос попадает диагноз, а иногда и то, что маскирование пропустило. Поэтому модель выбирают по трем вопросам: где обрабатываются и хранятся запросы, используются ли они для обучения и есть ли договор с условиями обработки.
- GigaChat и YandexGPT через корпоративный доступ. Работают в России, доступ оформляется договором. Подходят для памяток, черновиков ответов и программ при маскировании до запроса. Подключение и тарифы на страницах GigaChat для бизнеса и YandexGPT для бизнеса.
- Открытая модель на своем сервере. Данные не покидают контур клиники. Дороже в запуске и поддержке, оправдана при большом потоке заключений или жестких требованиях головной организации.
- Публичные зарубежные чат-боты. Для данных пациентов не подходят: запросы обрабатываются за рубежом, договора с клиникой нет. Сравнение по доступности и работе с данными в статье ChatGPT, GigaChat или YandexGPT.
Модель решает не все. В обоих сценариях данные выходили за пределы правил мимо модели: через старые карточки и общий чат группы. Поэтому в регламенте есть журнал маскирования, который первую неделю смотрят каждый день.
Регламент клиники на одну страницу
В центре реабилитации регламент сократили с шести страниц до одной. Старший администратор попросила оставить только то, что администратор может проверить сам, без юриста. Вышло семь пунктов:
- данные пациентов обрабатываются только в закрытом помощнике из карточки, публичные чат-боты в рабочей сети закрыты;
- что скрывается до запроса: общий список полей и правила специальностей, как правило врача УЗИ;
- фото документов только ровно и целиком, кривое фото помощник просит переснять, перепечатывать вручную нельзя;
- пациенту текст уходит только из карточки в личный чат, в общих чатах групп только расписание;
- перенос карточек из другой программы только по шаблону с проверкой поля ФИО;
- журнал маскирования первую неделю каждый день, потом раз в неделю;
- анонимная анкета раз в квартал, листы считают при всех.
Общий шаблон регламента для любой компании и другие риски разобраны в статье риски внедрения ИИ. Что можно и нельзя доверить боту, который пишет пациентам, описано в материале медицинский ИИ чат-бот. Если сотрудники уже пользуются нейросетями, начать стоит с ИИ-аудита: анонимная анкета в него входит.
