Новая модель MSI EdgeXpert с 64 ГБ памяти для ускорения работы локальных систем искусственного интеллекта

Новая конфигурация памяти на платформе NVIDIA DGX Spark снижает совокупную стоимость владения для развертывания на периферии корпоративных сетей

Компания MSI анонсировала 64-гигабайтную конфигурацию своего настольного суперкомпьютера EdgeXpert для искусственного интеллекта, основанного на платформе NVIDIA DGX Spark™. Модель с 64 ГБ памяти, проверенная в таких областях, как управление интеллектуальной собственностью, интеллектуальное управление производством, автономный перевод речи и агентные рабочие процессы, дополняет существующий уровень с 128 ГБ памяти, предоставляя предприятиям экономически эффективный способ масштабирования агентов ИИ. NVIDIA Sync помогает командам создавать кластер подключенных систем и отслеживать активность ЦП и ГП из одного настольного приложения.

Постоянно работающий агентный ИИ на периферии сети

По мере развития ИИ от чат-ботов до автономных агентов, рабочие нагрузки требуют круглосуточной доступности, многоэтапного анализа и прямого доступа к локальным данным. Модель MSI EdgeXpert 64GB, основанная на платформе NVIDIA DGX Spark (1 петафлопс вычислительных ресурсов FP4 для ИИ), запускает до 100 миллиардов параметров моделей с открытым исходным кодом полностью внутри брандмауэра:
  • Производство: Обеспечивает работу операторов визуального контроля качества для обнаружения дефектов в режиме реального времени и принятия корректирующих мер.
  • Банковское дело и юриспруденция: Обеспечивает агентам по расследованию мошенничеств и проведению аудита полную независимость данных.
  • Здравоохранение и розничная торговля: размещает средства для ведения клинической документации и учета запасов в непосредственной близости от оперативных данных.

Два уровня, одна платформа: масштабная разработка, внедрение принципов бережливого производства

«Агентный ИИ переходит от стадии проверки концепции к внедрению в производство, меняя потребности предприятий в инфраструктуре», — сказала Юнис Хуанг, вице-президент MSI IPC. «Модель EdgeXpert объемом 128 ГБ предназначена для команд разработчиков, работающих с моделями, содержащими 200 миллиардов параметров, или для тонкой настройки до 70 миллиардов параметров. Новая модель объемом 64 ГБ ориентирована на организации, которые в первую очередь внедряют агенты на разных площадках, где эффективность затрат на единицу продукции определяет охват».
 
Типичный процесс развертывания начинается со 128-гигабайтных устройств в головных центрах искусственного интеллекта, а затем расширяется до парков 64-гигабайтных устройств в филиалах, на производственных площадках, в розничных магазинах и регулируемых средах.

Основные характеристики

  • 64 ГБ унифицированной памяти LPDDR5x (поддерживает модели с параметрами до 100B)
  • Превосходные тепловые характеристики: разработаны для стабильной работы при непрерывных нагрузках.
  • Компактные размеры: настольный корпус объемом 1,2 литра и весом 1,2 кг с бесшумной системой охлаждения.
  • Корпоративные возможности подключения: сетевое соединение 10 Гбит/с и сетевая карта NVIDIA ConnectX-7 200 Гбит/с для кластеризации систем.
  • Программное обеспечение «под ключ»: предустановленная ОС NVIDIA DGX и полный набор программного обеспечения NVIDIA AI.
  • Вывод данных в локальной сети: нулевая утечка данных, полное соответствие нормативным требованиям и предсказуемая совокупная стоимость владения.