Три режима работы
Режим выбираем под требования службы безопасности. Режимы можно сочетать: облачные модели для общих задач, локальные — для чувствительных данных.
Облачные модели
Самые сильные модели без своей инфраструктуры.
- Модели
- Claude и другие ведущие модели через API
- Где обрабатываются данные
- Запросы обрабатываются у провайдера модели. Подходит для задач без персональных и конфиденциальных данных
- Срок запуска
- Несколько дней
- Подходит для
- Быстрый старт, максимальное качество ответов
Открытые модели в России
Баланс качества, стоимости и требований 152-ФЗ.
- Модели
- Qwen, DeepSeek, Llama и другие открытые модели
- Где обрабатываются данные
- Серверы в России, данные не покидают страну
- Срок запуска
- 1–2 недели
- Подходит для
- Работа с персональными и коммерческими данными
Self-hosted в вашем контуре
Полный контроль: модели и данные внутри вашего периметра.
- Модели
- Открытые модели на ваших серверах (vLLM, Ollama)
- Где обрабатываются данные
- Внутри вашего периметра, без внешних запросов
- Срок запуска
- От 3 недель, зависит от инфраструктуры
- Подходит для
- Банки, промышленность, госсектор, закрытые контуры
Безопасность в любом режиме
Права доступа
Роли и пространства: каждый сотрудник и агент видит только свои данные.
Журнал действий
Каждый запрос и каждое действие агента записываются и доступны для аудита.
Подтверждение человеком
Критичные операции агент выполняет только после подтверждения сотрудником.
ИИ-политика компании
Правила, какие данные можно передавать в какой режим. Утверждаем до запуска.
Данные в России
В режимах с открытыми моделями и self-hosted данные не покидают страну или ваш периметр. 152-ФЗ.
Сочетание режимов
Облачные модели для общих задач, локальные — для персональных и конфиденциальных данных.
Что нужно для self-hosted
Точные требования рассчитываем на диагностике.
Серверы
Серверы с GPU под Linux. Конфигурацию рассчитываем по числу пользователей и выбранным моделям.
Модели
Открытые модели — Qwen, DeepSeek, Llama и другие — через vLLM или Ollama с OpenAI-совместимым API.
Поставка
Разворачиваем в Docker на вашей инфраструктуре, передаём документацию и обучаем ваших администраторов.
Обсудим требования вашей службы безопасности
За 30 минут подберём режим развёртывания и модели под ваши данные и бюджет.
Записаться на диагностику