Модели, поиск по документам и автоматизация процессов работают на ваших серверах или в выделенном облачном сегменте. Документы, переписка, клиентская база и финансовые данные не передаются публичным AI-сервисам.
Публичные AI-сервисы удобны, но любой документ, отправленный в них, покидает периметр компании. Для договоров, коммерческих условий, персональных данных клиентов и сотрудников, финансовой отчётности это часто неприемлемо — независимо от того, что обещает сервис.
Закрытый контур решает эту задачу архитектурно: модель работает там же, где хранятся данные. Запросы сотрудников, найденные документы и ответы системы не выходят за границу сети компании.
Архитектура проектируется с учётом требований компании к информационной безопасности и обработке данных.
Выбор зависит от требований безопасности, имеющегося оборудования и бюджета. Возможны комбинации: например, пилот в private cloud с последующим переносом на собственные серверы.
Модели и сервисы KV13 работают на серверах в вашем дата-центре или серверной. Полный физический контроль над оборудованием и данными.
Выделенный сегмент у облачного провайдера с размещением в России. Ресурсы не разделяются с другими клиентами провайдера, доступ — только из вашей сети.
Система работает в сегменте сети без доступа в интернет. Обновления моделей и ПО передаются через контролируемую процедуру после проверки.
Все компоненты находятся внутри периметра. Сотрудник работает через привычный интерфейс, система обращается к данным с его правами и записывает каждое действие в журнал.
Выделены компоненты KV13, остальные узлы — ваши системы и данные. Ни один из узлов не обращается к внешним AI-сервисам.
Граница контура определяется заранее и фиксируется в проектной документации.
Остаётся внутри контура
Пересекает границу только по вашему решению
Если компания решает использовать внешнюю модель для отдельных несекретных задач, это настраивается явно, с фильтрацией данных и записью в журнал.
Закрытый контур — это не только место размещения модели. Это набор механизмов, которые определяют, кто, к чему и с каким результатом обращается.
Система наследует права из AD или LDAP. Менеджер по продажам не получит в ответе выдержку из документа бухгалтерии, если не имеет к нему доступа. Роли для администраторов, владельцев знаний и пользователей разделены.
Каждый запрос, найденные документы, ответ модели и действие в учётной системе записываются с указанием пользователя и времени. Журнал можно передавать в вашу SIEM-систему.
Единая точка, через которую проходят все обращения к моделям. На ней задаются лимиты, фильтры чувствительных данных, выбор модели под задачу и правила маршрутизации. Заменить модель можно без переделки процессов.
Для действий с финансовыми, юридическими или кадровыми последствиями система готовит решение, а выполняет его сотрудник. Подтверждение фиксируется в журнале.
Конфигурации, индексы и журналы резервируются по вашему регламенту. При отказе модели процессы переключаются в ручной режим, а не останавливаются.
Архитектура проектируется с учётом требований компании к информационной безопасности и обработке данных.
Языковая модель сама по себе не знает ваших регламентов, договоров и цен. Обучать её на документах компании долго, дорого и неудобно: любой новый документ потребует повторного обучения. Поэтому используется другой подход — его называют RAG, поиск с генерацией ответа.
Работает это так же, как опытный сотрудник с хорошим архивом:
Для директора важны три следствия. Новый регламент становится доступен в поиске сразу после загрузки. Права доступа соблюдаются на уровне каждого документа. Любой ответ можно проверить по ссылке на источник. Подробнее — на странице корпоративной базы знаний.
Частый вопрос — нужно ли сразу покупать GPU-сервер. Не всегда. Конфигурация зависит от задач, количества пользователей и требуемой скорости ответа.
| Сценарий | Оборудование | Класс моделей | Ограничения |
|---|---|---|---|
| Пилот на одном процессе | Существующий сервер или виртуальная машина, иногда без GPU | Компактные модели для классификации, извлечения полей, поиска | Невысокая скорость, мало одновременных пользователей |
| Ассистент для отдела или база знаний | Сервер с одной-двумя GPU | Модели среднего размера для ответов на вопросы и работы с документами | Нагрузку нужно замерить на пилоте |
| Несколько процессов и сотни пользователей | Несколько GPU-серверов или кластер | Модели крупного класса и специализированные модели под задачи | Требуется проектирование отказоустойчивости |
| Старт без закупки | Выделенные GPU-ресурсы в private cloud | Любой класс в пределах арендованной мощности | Ежемесячные расходы вместо капитальных |
Конфигурация подбирается после замера нагрузки на ваших данных. Мы не называем показатели производительности до тестов: они зависят от модели, длины документов и характера запросов.
Архитектура собирается из стандартных компонентов, которые ваша команда сможет сопровождать. Привязки к единственному поставщику модели нет.
Работа ведётся совместно с вашей IT-службой и службой безопасности. Каждый этап согласуется до начала следующего.
Изучаем инфраструктуру, требования ИБ, системы-источники данных и процессы, для которых нужен ИИ.
Выбираем вариант размещения, модели, схему прав и журналирования. Согласуем со службой безопасности.
Разворачиваем компоненты на ограниченном объёме данных, замеряем скорость и качество ответов.
Подключаем один процесс или группу пользователей. Проверяем нагрузку, права, журналы, качество.
Масштабируем ресурсы, настраиваем резервирование и мониторинг, передаём документацию.
Юридических гарантий мы не даём: соответствие зависит от всей системы обработки данных в компании, а не только от ИИ-компонента. Архитектура проектируется с учётом требований компании к информационной безопасности и обработке данных, и мы готовим описание решения для вашей службы безопасности и юристов.
Для задач бизнес-процессов — классификации, извлечения данных из документов, ответов по базе знаний — современные open-source модели дают результат, достаточный для работы. Мы проверяем качество на ваших данных на этапе прототипа, до решения о закупке оборудования.
Да. Пилот часто запускается на существующем сервере с компактной моделью или на арендованных ресурсах в private cloud. Решение о закупке принимается после замера нагрузки.
Возможны оба варианта: сопровождение силами KV13 по договору поддержки или передача вашей IT-команде с документацией и обучением. Часто используется смешанная модель.
Процессы проектируются так, чтобы при недоступности ИИ работа продолжалась вручную. Резервирование конфигураций, индексов и журналов настраивается по вашему регламенту.
Да. Все обращения проходят через model gateway, поэтому модель можно заменить или добавить новую без переделки процессов. Перед заменой качество проверяется на тестовом наборе вопросов.
Расскажите о вашей инфраструктуре и требованиях безопасности. Предложим вариант размещения и формат пилота, который можно запустить без закупки оборудования.
Напишите, где удобнее. Ответим в течение рабочего дня.
Оставить контакт