Ускоритель следующего поколения на базе архитектуры «at-memory» призван преодолеть «стену памяти» с помощью технологии 3D-гибридного бондинга.
Компания MemryX Inc., разработчик решений для ускорения ИИ-инференса (вывода), представила стратегическую дорожную карту для своего чипа нового поколения — MX4. Ускоритель спроектирован для масштабирования фирменной архитектуры потока данных «at-memory» (вычисления непосредственно у памяти) из сегмента граничных устройств в сегмент дата-центров. Ключевая инновация — использование 3D-памяти с гибридным бондингом, что позволяет устранить главную проблему индустрии: «стену памяти» (разрыв в скорости между процессором и памятью).
В настоящее время MemryX поставляет серийные чипы MX3, которые демонстрируют более чем 20-кратное превосходство по производительности на ватт по сравнению с массовыми GPU в специализированных задачах ИИ. В MX4 компания развивает этот успех, чтобы удовлетворить потребности дата-центров, где рабочие нагрузки все чаще ограничиваются не вычислительной мощностью, а емкостью памяти, пропускной способностью и энергоэффективностью.
MemryX уже подписала соглашение с партнером в области 3D-памяти следующего поколения для реализации программы тестовых чипов в 2026 году. Цель программы — валидация интерфейса гибридного бондинга класса ~5 мкм и прямой интеграции памяти в вычислительные тайлы (tiles). Имя партнера на данный момент не разглашается.
Программная преемственность: на базе компилятора MX3
MemryX планирует использовать свой зрелый программный стек MX3, включая компилятор и среду выполнения, в качестве фундамента для MX4. Несмотря на новые возможности поддержки огромных объемов памяти, дорожная карта разработана так, чтобы сохранить ключевые элементы модели программирования MX3. Это позволит клиентам максимально быстро внедрить новые решения, используя уже имеющиеся наработки.
Больше чем LLM: ИИ нового поколения
Помимо больших языковых моделей (LLM), современные дата-центры активно переходят к большим моделям действий (LAM), мультимодальному машинному зрению высокого разрешения и системам рекомендаций в реальном времени. Эти «фронтирные нагрузки» требуют колоссальной емкости памяти и предсказуемой пропускной способности, которые традиционные архитектуры на базе 2.5D HBM (High Bandwidth Memory) не могут обеспечить эффективно.
MX4 решает эту задачу путем физического соединения высокоскоростной памяти напрямую с вычислительными тайлами, перенося фокус с перемещения данных обратно на высокоэффективные вычисления.
Преимущества асинхронности: масштабируемость без «узких мест»
MX4 представляет собой фундаментальный отказ от синхронного проектирования чипов. Многие современные ускорители полагаются на глобальный синхронный тактовый сигнал, что создает проблемы с перекосом фазы (clock skew) и тепловыделением при масштабировании в 3D-стеках.
Как и MX3, новый чип использует модель управления потоком «производитель/потребитель» (data-driven producer/consumer) и избегает централизованных узких мест в памяти.
- Асинхронное масштабирование: Тайлы работают независимо, обрабатывая данные только тогда, когда они доступны и «потребитель» готов их принять. Это естественным образом управляет нагрузкой и снижает накладные расходы на переключение сигналов.
- Интерфейс 3D «Direct-to-Tile»: Используя шаг гибридного бондинга ~5 мкм, MX4 реализует распределенное вертикальное соединение. Каждый вычислительный движок получает прямой доступ к слоям памяти без участия единого контроллера памяти, как в современных HBM-решениях.
- Технологическая гибкость: Архитектура поддерживает различные форматы 3D-памяти, включая современную стековую DRAM и перспективные технологии класса FeRAM.
Дорожная карта производства
- 2026 год: Выпуск специализированного тестового чипа для валидации 3D-интеграции.
- 2027 год: Первые образцы для заказчиков.
- 2028 год: Полномасштабное производство, масштабирование от одночиповых систем до массивов для дата-центров с конфигурациями памяти более 1 ТБ.
«Индустрия признала, что детерминированный поток данных — это единственный верный путь для ИИ-инференса, но критически важны и эффективность, и масштаб», — заявил Кит Крессин, генеральный директор MemryX. «Объединяя нашу проверенную архитектуру с 3D-гибридным бондингом, мы устраняем физические барьеры для энергоэффективного масштабирования моделей с триллионами параметров».
О компании MemryX Inc.
MemryX Inc. — фаблесс-компания (разработчик без собственных производственных мощностей), специализирующаяся на ускорении ИИ-инференса. Штаб-квартира находится в Анн-Арборе, штат Мичиган. Компания привлекла 44 млн долларов в рамках раунда серии B от таких инвесторов, как HarbourVest, NEOM Investment Fund (NIF), Arm IoT Fund и других.
Официальный сайт: www.memryx.com
