Свой контур
Когда данные нельзя отправлять в облако
Договоры, цены, персональные данные и техпроцессы обрабатывает модель на сервере внутри компании. Интернет для работы не нужен.
Подбираем модель под задачу
Открытые модели семейств Qwen, DeepSeek, GLM, Gemma. Сравниваем на ваших примерах и берём ту, что справляется на доступном железе.
Дообучаем на ваших данных
Учим модель вашим терминам, шаблонам документов и формату ответов. Подключаем базу документов, чтобы ответы шли со ссылкой на источник.
Закупаем и настраиваем железо
Подбираем сервер по опроснику, закупаем, собираем, ставим модели и мониторинг. Сдаём под ключ, с журналом запросов и разграничением доступа.
| Облачная модель | Своя модель на сервере |
| Где обрабатываются данные | У поставщика модели | Внутри компании |
| Работа без интернета | Нет | Да |
| Расходы | За каждый запрос, растут с нагрузкой | Сервер один раз, дальше электричество и поддержка |
| Подстройка под компанию | Подсказками в запросе; дообучение только у поставщика и с передачей ему данных | Дообучение на ваших документах |
| Когда выбирать | Открытые данные, быстрый старт, сложные рассуждения | Коммерческая тайна, ПДн, закрытые контуры |
Готовые серверы
Готовые конфигурации под локальные модели
Собираем, тестируем на вашей задаче и привозим настроенными. Пока идёт пилот, решение работает на наших таких же серверах — так вы видите скорость до покупки.
С нового года оборудование подорожает минимум на 22%На все зарубежные закупки добавится НДС. Оформите заказ до 31 декабря, пока цены прежние.
Подобрать конфигурацию
Тихий старт
Mac mini M5 Pro
Apple M5 Pro · 64 ГБ общей памяти
- Модели
- MoE до 30B быстро, плотные до 32B
- Одновременно
- 1–5 человек
- Место и шум
- На столе, почти бесшумно, около 100 Вт
Помощник по документам для небольшого отдела. Офис без серверной.
Подходит по опроснику
Оптимум цены
2 × RTX 2080 Ti 22 ГБ
2 GPU · 44 ГБ видеопамяти · мост NVLink · 128 ГБ ОЗУ
- Модели
- До 32B с запасом под длинный контекст
- Одновременно
- 5–15 человек
- Память
- Мост NVLink: карты обмениваются в 2–3 раза быстрее, чем по PCIe, модель делится между ними с малыми потерями. Одной картой на 44 ГБ они не становятся
- Место и шум
- Башня в серверной, около 650 Вт
Разбор договоров, расшифровка звонков, поиск по базе документов.
Подходит по опроснику
Скорость
RTX 5090
1 GPU · 32 ГБ GDDR7 · 128 ГБ ОЗУ
- Модели
- До 32B, самые быстрые ответы в линейке
- Одновременно
- 10–25 человек
- Место и шум
- Башня в серверной, около 900 Вт
Чат-помощник для всей компании, обработка потока писем и звонков.
Подходит по опроснику
Отдел целиком
2 × RTX 5090
2 GPU · 64 ГБ GDDR7 · 256 ГБ ОЗУ
- Модели
- До 70B, дообучение моделей до 32B на месте
- Одновременно
- 25–60 человек
- Память
- У 5090 нет NVLink: модель делится по PCIe, единого пула нет
- Место и шум
- Стойка 4U, около 1,6 кВт
Несколько решений на одном сервере, регулярное дообучение.
Подходит по опроснику
Ещё круче, ещё мощнее RTX PRO 6000 на 96 ГБ и NVIDIA DGX Spark на 128 ГБ
Максимум одной картой
RTX PRO 6000 Blackwell
1 GPU · 96 ГБ GDDR7 ECC · 256 ГБ ОЗУ
- Модели
- 70B в 8 бит, MoE класса 120B в 4 бит
- Одновременно
- 25–60 человек
- Память
- Единая: модель не делится между картами и не теряет скорость на PCIe
- Место и шум
- Башня или стойка, 300 Вт (Max-Q) или 600 Вт
Тот же кристалл и та же скорость памяти, что у 5090 (1,8 ТБ/с), но памяти втрое больше. Для крупных моделей без раскладки по двум картам.
Подходит по опроснику
Суперкомпьютер на столе
NVIDIA DGX Spark
GB10 Grace Blackwell · 128 ГБ единой памяти LPDDR5x
128 ГБобщая для CPU и GPU
- Модели
- 70B в 8 бит и MoE около 120B, запас под длинный контекст
- Одновременно
- 1–5 человек
- Скорость
- Память 273 ГБ/с: ответы заметно медленнее, чем на 5090 (1 792 ГБ/с)
- Место и шум
- Размером с мини-ПК, ставится на стол
Для самой крупной модели у специалиста, ночных пакетных задач и дообучения небольших моделей. Для работы отдела в реальном времени лучше карты.
Подходит по опроснику
Цены на эти позиции за последние месяцы заметно менялись, поэтому называем их в предложении после проверки наличия. Технические данные: DGX Spark у NVIDIA, сравнение RTX PRO 6000 и RTX 5090. Пользователей считаем так же, как для остальных конфигураций.
Число пользователей — ориентир для типичных запросов в рабочий день. Точную цифру и цену фиксируем после теста вашей задачи на нашем сервере такой же конфигурации. В конфигурациях с двумя картами память не сливается в одну: программа видит две карты и раскладывает модель между ними (vLLM, llama.cpp). У 2 × RTX 2080 Ti есть мост NVLink: обмен между картами в 2–3 раза быстрее PCIe, поэтому все 44 ГБ работают на одну модель с небольшими потерями скорости. У RTX 5090 NVLink нет: данные между картами идут по PCIe, скорость ниже, чем у одной карты такого же объёма. Шкала памяти показана относительно 140 ГБ — столько нужно, чтобы запустить модель на 70B без сжатия.