COMPNETSAI integration Обсудить задачу
Локальные модели · без выхода в интернет

Сервер под ИИ — подберём, привезём, обучим

Модель учится на ваших документах и отвечает внутри вашей сети. Ни обучение, ни работа ассистента не требуют выхода в интернет: данные, веса и журналы остаются у вас.

  • ДообучениеLoRA/QLoRA на ваших данных и регламентах
  • КонтурGPU on-premise, офлайн-инференс, 152-ФЗ и КИИ
  • Передачавеса модели, датасет и скрипты — ваши
01 / Локальный контур

Данные не покидают ваш периметр

Обычный ИИ-ассистент отправляет каждый запрос в облако провайдера. Мы делаем иначе: модель дообучается и работает на вашем сервере, без обращения наружу.

Разобрать ваш сценарий
  1. 01Данные остаются внутри. Документы, переписка, регламенты и заявки не уходят с ваших серверов — их обрабатывает модель в вашей сети.
  2. 02Дообучение на вашем GPU. LoRA/QLoRA под ваши формулировки, инструкции и эталонные ответы. Отдельная модель на каждую задачу.
  3. 03Работа офлайн. Ассистент отвечает без интернета: если внешний канал упадёт или его отключат по требованиям безопасности, он продолжит работать.
Дообучение

Готовим датасет из ваших инструкций и «правильных» ответов, дообучаем открытую модель, проверяем на отложенной выборке. Качество видно до запуска.

Железо

Подбираем GPU-сервер под задачу: от одной карты для пилота до нескольких узлов. Помогаем с закупкой и настройкой, если железа пока нет.

Контроль

Версии модели, журналы запросов и откат к предыдущей сборке. Видно, что и на каких данных модель отвечала.

Требования

Контур под 152-ФЗ и объекты КИИ: изолированный сегмент сети, без внешних API и телеметрии вендора.

02 / Серверы для ИИ

Поставляем и обслуживаем серверы для ИИ

Подбираем, собираем, привозим, устанавливаем и настраиваем: от рабочей станции с одной картой до стоечного узла на восемь GPU. Любой класс оборудования — под вашу модель, помещение и бюджет, с обслуживанием после запуска.

  1. 01 Подбор конфигурации. Считаем видеопамять под модель и длину контекста, пропускную способность, питание и охлаждение. Даём два-три варианта с ценой и сроком поставки. 2–5 дней
  2. 02 Поставка и сборка. Привозим серверы, GPU, NVMe и сетевые карты — от вендоров или со склада комплектующих. Собираем, обновляем прошивки и прогоняем тесты до отправки на площадку. 2–8 недель
  3. 03 Монтаж и настройка. Ставим в стойку, подключаем питание и сеть, разворачиваем драйверы, CUDA/ROCm, контейнеры, vLLM и саму модель. Проверяем под нагрузкой перед передачей. 1–3 дня
  4. 04 Обслуживание. Мониторинг температур и ошибок GPU, обновления, замена комплектующих, диагностика по SLA. Отвечаем за работоспособность системы, а не только железа. по договору
Вычислители NVIDIA и AMD, 1–8 GPU в узле; рабочие станции для разработки и инференса
Память и диски До 1,5 ТБ видеопамяти на узел, NVMe под датасеты и кеш моделей
Сеть 25/100 GbE, InfiniBand для многоузлового обучения, изолированные сегменты
Питание и холод Расчёт мощности, ИБП, воздушное или жидкостное охлаждение, шум и нагрузка на помещение

Фото — иллюстрации Wikimedia Commons: C. Spille / pcgameshardware, CC BY-SA 4.0 · NOIRLab/NSF/AURA/T. Slater, CC BY 4.0 · Shixart1985, CC BY 2.0 · BalticServers.com, CC BY-SA 3.0

03 / MCP-серверы

Подключаем ИИ к вашим системам по MCP

MCP — открытый стандарт, по которому модель обращается к инструментам и данным. Пишем такие серверы под ваши системы и держим их внутри контура: без облака, с правами и журналом каждого вызова.

  1. 01 Разбор систем. Смотрим, какие данные и действия нужны модели: 1С, CRM, базы, файлы, почта. 2–3 дня
  2. 02 Прототип сервера. Пишем MCP-сервер с 3–5 инструментами и подключаем к вашей модели. 1–2 недели
  3. 03 Права и журнал. Ограничиваем доступ на чтение и запись, включаем лимиты и журнал вызовов. 1 неделя
  4. 04 Сопровождение. Обновляем инструменты под изменения систем и следим за журналом. по договору
1С и учёт Заказы, остатки, контрагенты: ИИ читает данные и готовит документы, база не покидает контур.
CRM и трекеры Bitrix24, amoCRM, YouGile, Jira: модель создаёт задачи, двигает статусы, собирает сводки.
Базы и знания PostgreSQL, ClickHouse, файловые хранилища: поиск по регламентам, договорам, истории тикетов.
Почта и календарь IMAP и SMTP, Exchange: сортировка писем, черновики ответов, напоминания о встречах.
Ваши сервисы Внутренние API, склад, производство — оборачиваем в MCP и отдаём модели как инструменты.
Контроль доступа Только чтение или запись по правилам, ключи, лимиты и журнал каждого вызова.

Python · TypeScript SDK · stdio и HTTP + SSE · Docker · ключи, лимиты и журнал

04 / Задачи

Где ИИ окупается быстрее всего

Шесть процессов, с которых обычно начинают. Берите один — остальные подключаются по мере пользы, на той же инфраструктуре.

  • 01

    Поддержка клиентов

    Агент на дообученной модели отвечает по вашей базе знаний и передаёт сложные обращения людям. Работает в вашей сети, без обращений к внешним API.

    Своя модельБаза знанийОфлайн
  • 02

    Продажи и переписка

    Квалификация входящих обращений, подготовка коммерческих предложений, разбор переписок и звонков, сводка по клиенту в CRM.

    CRMТранскрипцияЧерновики писем
  • 03

    Документы

    Извлечение и сверка данных из счетов, актов, договоров и накладных. Проверка по регламенту — до того, как документ попадёт в учёт. Документы не уходят за периметр.

    OCRИзвлечение полейЛокально
  • 04

    Внутренняя база знаний

    Поиск по договорам, регламентам и проектной документации. Ответ за секунды — со ссылкой на пункт источника. Индекс и модель живут на вашем сервере.

    RAGРоли доступаЦитаты
  • 05

    Производство и заявки

    Разбор заявок и отчётов, контроль отклонений, автоматические сводки для смены и руководителя.

    РегламентыУведомленияСводки
  • 06

    Аналитика

    Сводки по звонкам, тикетам и отзывам. Отчёты собираются сами — вместо ручных выгрузок в таблицы.

    ОтчётыКлассификацияМетрики
05 / Процесс

Как идёт проект

Четыре этапа. На каждом остаётся артефакт, который можно проверить: карта процессов, прототип, интеграция, документация.

01

Аудит

Разбираем процессы, считаем объём ручной работы и точки, где ИИ даёт эффект. Смотрим, какие данные нужны модели и можно ли их обрабатывать внутри контура.

1–2 недели
02

Пилот в контуре

Поднимаем модель на вашем сервере (или на нашем, для теста) и меряем качество на реальных документах. До запуска фиксируем метрику и стоимость операции.

3–6 недель
03

Дообучение

Собираем датасет из ваших инструкций и эталонных ответов, дообучаем модель (LoRA/QLoRA), проверяем на отложенной выборке. Данные не покидают периметр.

2–5 недель
04

Интеграция и поддержка

Подключаем к 1С, Битрикс24, amoCRM, Telegram и внутренним API, настраиваем мониторинг. Версии модели, логи и документация остаются у вас.

4–8 недель
06 / Принципы

Четыре правила, от которых не отступаем

ИИ в бизнесе — это не только модель. Это доступ к данным, ответственность за ошибки и вопрос, кто будет поддерживать систему через год.

Данные

Без выхода в интернет

Дообучение и работа модели идут на вашем железе, без запросов к внешним API. Даже если канал упадёт, ассистент продолжит отвечать внутри сети.

Метрика

Измеримость

До старта договариваемся о метрике: время обработки, доля автоответов, стоимость операции. После запуска показываем динамику, а не «стало удобнее».

Технологии

Своя модель, а не аренда API

Берём открытые модели (Qwen, Llama, Mistral) и дообучаем под ваши формулировки. Внешние API — только если вы сами этого захотите; архитектура позволяет заменить модель.

Команда

Передача команды

Веса модели, датасет, скрипты и документация остаются у вас. Обучаем инженеров запускать и обновлять модель без нас — или поддерживаем её по договору.

07 / Стек

На чём собираем

Выбор технологий диктует контур заказчика, а не привычка подрядчика. Если данные нельзя выносить — ставим модели на своё железо.

Модели

  • Qwen
  • Llama
  • Mistral
  • GigaChat — локально
  • GPT / Claude — по желанию

Дообучение

  • LoRA / QLoRA
  • Instruction tuning
  • DPO
  • Разметка и датасеты
  • Оценка на отложенной выборке

Запуск в контуре

  • vLLM
  • Ollama, llama.cpp
  • Офлайн-инференс
  • 1–8 GPU, on-premise

Интеграции

  • 1С, Битрикс24, amoCRM
  • Telegram Bot API
  • Почта, IMAP / SMTP
  • REST, webhooks
  • Docker, Linux
08 / Контакты

Обсудим вашу задачу

Ответим в течение рабочего дня. Расскажите про процесс — предложим, что автоматизировать первым, какое железо нужно и как оставить данные внутри контура.

Почта
info@compnets.ru
Уже работаем вместе? Заявки и переписка — в кабинете поддержки help.compnets.ru · вход по почте
  • 01Отвечаем в течение рабочего дня — письмом или звонком.
  • 02Подписываем NDA до обсуждения деталей и данных.
  • 03Первый разбор задачи и оценка эффекта — без оплаты.

Заявка

Три поля и описание задачи — этого достаточно для первого разговора.

Данные нужны только для ответа. Реклама не рассылается.