Skymizer представила необычную PCIe-карту HTX301, которая запускает модели на 700 млрд параметров, потребляя всего 240 Вт. Вместо современных HBM и нанометровых техпроцессов используются 28-нм чипы и LPDDR4/LPDDR5.
Изображение: ixbt.com
Тайваньская компания Skymizer заявила о разработке ИИ-ускорителя HTX301 — необычного устройства, которое ставит на эффективность вместо сырой вычислительной мощности. Карта способна запускать большие языковые модели до 700 млрд параметров, но при этом использует 28-нм чипы и стандартную память LPDDR4/LPDDR5 вместо дорогостоящей HBM.
В одну карту встроили 384 ГБ памяти, распределённых между шестью специализированными чипами HyperThought. Всё устройство потребляет около 240 Вт — значительно меньше, чем AMD Instinct MI350P или Nvidia RTX PRO 6000 Blackwell, требующие 600 Вт и больше. По заявлениям разработчиков, HTX301 выдаёт до 30 токенов в секунду на гигантских моделях и до 240 токенов в секунду на Llama2 7B благодаря специальным алгоритмам сжатия весов и KV-кэша.
Skymizer позиционирует решение как альтернативу дорогостоящей инфраструктуре с GPU-кластерами и сложным охлаждением. Карта рассчитана на установку в обычные серверы с воздушным охлаждением без модернизации дата-центров. Компания делает ставку на локальный запуск ИИ-моделей внутри организаций — это должно исключить утечки данных, зависимость от облачных сервисов и непредсказуемые расходы.
Однако все показатели существуют только в презентациях. Независимые тесты HTX301 запланированы на выставке Computex 2026 в июне — именно они покажут, действительно ли Skymizer создала жизнеспособную альтернативу или это очередной амбициозный проект, не подтвердивший обещания.
По данным Bloomberg, два гиганта полупроводниковой индустрии проявляют интерес к разработчику ИИ-акселераторов на базе RISC-V. Речь идёт о предварительных обсуждениях, официального подтверждения нет.
AMD объявила о масштабных инвестициях в расширение производственных мощностей для ИИ-процессоров. Компания нацелена на усиление позиций против NVIDIA на рынке решений для искусственного интеллекта.
По оценкам Morgan Stanley, стоимость памяти в новых AI-системах VR200 NVL72 достигла $2 млн за стойку. Память теперь занимает четверть от общей цены, а сами GPU Rubin обойдутся в $50 тыс.