NVIDIA DGX Spark и ИСКРА: тестируем локальный корпоративный ИИ
Начинаем тесты
Теперь начинается серия практических испытаний.
Будем проверять:
— какие модели оптимально работают на Spark;
— какую реальную нагрузку выдерживает система;
— сколько сотрудников смогут одновременно работать с ИСКРА;
— как ведут себя RAG, корпоративная память и ИИ-агенты;
— насколько быстро можно развернуть такую систему у нового клиента;
— как организовать полностью локальный сценарий работы без зависимости от внешних ИИ-сервисов;
— и главное — можно ли превратить всё это в действительно удобный коробочный продукт для бизнеса.
Если эксперимент окажется успешным, в будущем ИСКРА сможет поставляться не только как программная платформа, но и как готовый программно-аппаратный ИИ-комплекс.
Собственный корпоративный ИИ.
На своей инфраструктуре.
Со своими данными.
Внутри собственного контура компании.
Без необходимости строить отдельный ИИ-датацентр.
Начинаем тесты 💪
Будем проверять:
— какие модели оптимально работают на Spark;
— какую реальную нагрузку выдерживает система;
— сколько сотрудников смогут одновременно работать с ИСКРА;
— как ведут себя RAG, корпоративная память и ИИ-агенты;
— насколько быстро можно развернуть такую систему у нового клиента;
— как организовать полностью локальный сценарий работы без зависимости от внешних ИИ-сервисов;
— и главное — можно ли превратить всё это в действительно удобный коробочный продукт для бизнеса.
Если эксперимент окажется успешным, в будущем ИСКРА сможет поставляться не только как программная платформа, но и как готовый программно-аппаратный ИИ-комплекс.
Собственный корпоративный ИИ.
На своей инфраструктуре.
Со своими данными.
Внутри собственного контура компании.
Без необходимости строить отдельный ИИ-датацентр.
Начинаем тесты 💪
От ИИ-платформы к коробочному решению
Для корпоративного рынка такой формат особенно интересен.
Вместо самостоятельного проектирования серверной инфраструктуры, подбора оборудования и последующей настройки программного окружения компания потенциально сможет получить заранее подготовленный программно-аппаратный комплекс.
ИСКРА отвечает за ИИ-агентов, корпоративную память, RAG, работу с документами и интеграцию с бизнес-процессами.
Локальная вычислительная платформа — за запуск моделей непосредственно внутри инфраструктуры организации.
В результате получается замкнутый корпоративный ИИ-контур, который можно адаптировать под конкретную компанию.
Именно возможность превратить эту концепцию в полноценное коробочное решение нам и предстоит проверить.
Вместо самостоятельного проектирования серверной инфраструктуры, подбора оборудования и последующей настройки программного окружения компания потенциально сможет получить заранее подготовленный программно-аппаратный комплекс.
ИСКРА отвечает за ИИ-агентов, корпоративную память, RAG, работу с документами и интеграцию с бизнес-процессами.
Локальная вычислительная платформа — за запуск моделей непосредственно внутри инфраструктуры организации.
В результате получается замкнутый корпоративный ИИ-контур, который можно адаптировать под конкретную компанию.
Именно возможность превратить эту концепцию в полноценное коробочное решение нам и предстоит проверить.
Корпоративному ИИ нужен свой контур
Чем глубже искусственный интеллект интегрируется в реальные процессы компании, тем больше данных ему необходимо.
Документы. Корпоративная база знаний. Внутренние регламенты. Задачи сотрудников. Финансовая и управленческая информация. Данные из CRM, ERP и других систем.
И здесь вопрос инфраструктуры становится не менее важным, чем возможности самой ИИ-модели.
Для многих организаций принципиально важно, чтобы корпоративные данные не покидали внутренний контур компании, а работа ИИ не зависела от доступности внешнего облачного сервиса или стороннего API.
Поэтому мы хотим проверить другой сценарий:
можно ли дать бизнесу готовый локальный ИИ-комплекс — ИСКРА + компактная вычислительная платформа NVIDIA — который разворачивается непосредственно внутри компании и работает в её собственном контуре.
Идея достаточно простая.
Компания получает устройство, внутри которого работает корпоративный ИИ, подключённый к её данным и бизнес-процессам.
Данные при этом могут оставаться внутри инфраструктуры организации, а сотрудникам не нужно думать о том, где находится модель, как она запускается и на каком сервере работает.
По сути, мы хотим приблизиться к формату:
подключили → интегрировали с системами компании → получили собственный корпоративный ИИ.
Документы. Корпоративная база знаний. Внутренние регламенты. Задачи сотрудников. Финансовая и управленческая информация. Данные из CRM, ERP и других систем.
И здесь вопрос инфраструктуры становится не менее важным, чем возможности самой ИИ-модели.
Для многих организаций принципиально важно, чтобы корпоративные данные не покидали внутренний контур компании, а работа ИИ не зависела от доступности внешнего облачного сервиса или стороннего API.
Поэтому мы хотим проверить другой сценарий:
можно ли дать бизнесу готовый локальный ИИ-комплекс — ИСКРА + компактная вычислительная платформа NVIDIA — который разворачивается непосредственно внутри компании и работает в её собственном контуре.
Идея достаточно простая.
Компания получает устройство, внутри которого работает корпоративный ИИ, подключённый к её данным и бизнес-процессам.
Данные при этом могут оставаться внутри инфраструктуры организации, а сотрудникам не нужно думать о том, где находится модель, как она запускается и на каком сервере работает.
По сути, мы хотим приблизиться к формату:
подключили → интегрировали с системами компании → получили собственный корпоративный ИИ.
Что такое NVIDIA DGX Spark
DGX Spark — компактная вычислительная платформа NVIDIA на архитектуре Grace Blackwell, разработанная специально для локальной работы с искусственным интеллектом.
Внутри — суперчип NVIDIA GB10 Grace Blackwell, 128 ГБ объединённой системной памяти и производительность до 1 PFLOP в вычислениях FP4.
По данным NVIDIA, система позволяет локально запускать инференс ИИ-моделей размером до 200 млрд параметров — и всё это в устройстве размером примерно 15×15 см.
Для нас особенно интересно другое: сама концепция Spark хорошо совпадает с направлением, в котором мы развиваем ИСКРА.
Внутри — суперчип NVIDIA GB10 Grace Blackwell, 128 ГБ объединённой системной памяти и производительность до 1 PFLOP в вычислениях FP4.
По данным NVIDIA, система позволяет локально запускать инференс ИИ-моделей размером до 200 млрд параметров — и всё это в устройстве размером примерно 15×15 см.
Для нас особенно интересно другое: сама концепция Spark хорошо совпадает с направлением, в котором мы развиваем ИСКРА.
К нам приехал NVIDIA DGX Spark — и для нас это не просто новое оборудование, а тестовая платформа для следующего этапа развития ИСКРА.
До сих пор корпоративные ИИ-системы чаще всего ассоциируются либо с облачными сервисами, либо с собственной серверной инфраструктурой, развёртывание которой требует времени, специалистов и дополнительных инвестиций.
Но между этими вариантами постепенно появляется ещё один сценарий — компактные локальные вычислительные системы, способные запускать современные модели непосредственно внутри инфраструктуры компании.
Именно этот сценарий мы хотим проверить на практике.
До сих пор корпоративные ИИ-системы чаще всего ассоциируются либо с облачными сервисами, либо с собственной серверной инфраструктурой, развёртывание которой требует времени, специалистов и дополнительных инвестиций.
Но между этими вариантами постепенно появляется ещё один сценарий — компактные локальные вычислительные системы, способные запускать современные модели непосредственно внутри инфраструктуры компании.
Именно этот сценарий мы хотим проверить на практике.