NVIDIA представляет EGX – платформу периферийных вычислений для применения ИИ в индустрии

ТАЙПЕЙ — Computex — 27 мая 2019 — NVIDIA сегодня представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах: получать непрерывный поток данных от 5G станций, складов, магазинов, заводов и других мест, обрабатывать их и принимать необходимые решения в реальном времени.

Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально – там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.

К 2025 году человечеству понадобится порядка 150 млрд датчиков и IoT устройств для обработки бесконечного потока данных⁽¹⁾ — это на порядки больше объема данных, поступающих сегодня со смартфонов. Edge-серверы, такие как NVIDIA EGX, будут установлены повсеместно для обработки данных с сенсоров в режиме реального времени.

(1) Статья IDC, профинансированная Seagate: «Data Age 2025: The Digitization of the World from Edge to Core», ноябрь 2018.

«Компаниям нужны более мощные локальные вычислительные ресурсы для обработки огромных массивов сырых данных, поступающих от бесчисленных взаимодействий с пользователями и оборудованием, для принятия быстрых бизнес-решений на базе результатов ИИ-обработки, – говорит Боб Пит (Bob Pette), вице-президент и директор по корпоративным и периферийным вычислениям в NVIDIA. – Масштабируемая платформа, такая как NVIDIA EGX, позволяет легко разворачивать необходимые системы локально, в облаке или и там и там одновременно».

Масштабируемость

Корпоративные решения

NVIDIA Edge Stack – это оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA® Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X™ и контейнеризированные AI фреймворки и приложения, включая TensorRT™, TensorRT Inference Server и DeepStream. NVIDIA Edge Stack оптимизирован для сертифицированных серверов и доступен для загрузки из NVIDIA NGC™.

Локальное ИИ-облако в коробке

«Сетевые карты и переключатели Mellanox Smart обеспечивают идеальный интерфейс для доступа к данным, которые масштабируются до больших дата-центров, – говорит Михаил Каган (Michael Kagan), технический директор Mellanox Technologies. – Сочетание высокой производительности, низких задержек и ускоренных сетевых соединений поднимает инфраструктурные вычисления на новый уровень, необходимый для эффективного доступа к данным и работы передовых ИИ-решений нового поколения на периферийных платформах, таких как NVIDIA EGX».

«Компания Cisco рада сотрудничать с NVIDIA, чтобы предоставить своим клиентам полноценные решения на базе EGX платформы Cisco с ПО Cisco для вычислений, хранения и управления данными и Ethernet и IP сетевыми технологиями», – говорит Каустуб Дас (Kaustubh Das), вице-президент Cisco Computing Systems.

Интернет вещей на базе гибридных и мультиоблаков

«Azure IoT Edge помогает клиентам быстро и безопасно наделять облачными сервисами свои IoT устройства, – говорит Сэм Джордж (Sam George), директор Azure IoT Edge. – Мы стремимся к поддержке платформы NVIDIA EGX на устройствах Azure IoT Edge, чтобы клиенты могли запускать ИИ-задачи, предназначенные для EGX-совместимого аппаратного обеспечения».

Широкая поддержка среди разработчиков

Сюда относятся приложения для видеоаналитики, идеально подходящие для крупных розничных сетей и умных городов, от таких поставщиков, как AnyVision, DeepVision, IronYun и Malong Technologies, а также приложения здравоохранения от 12 Sigma, Infervision, Qunatib и Subtle Medical.

На вооружении у ведущих производителей компьютеров