Глава SK hynix предупредил, что дефицит DRAM заставит производителей оптимизировать ПО под меньший объём памяти. Новые мощности появятся только через несколько лет, а спрос на память для ИИ-центров продолжает расти.
Изображение: techpowerup.com
Председатель SK Group Чой Тэ-вон, курирующий SK hynix, заявил о критической ситуации на рынке оперативной памяти. По его словам, если производители памяти не нарастят объёмы поставок, клиенты будут вынуждены оптимизировать инфраструктуру и софт для работы с меньшим количеством DRAM.
Сейчас Samsung, SK hynix и Micron продают всю доступную память на месяцы вперёд. Спрос взлетел из-за расширения ИИ-центров: гиганты вроде NVIDIA и AMD скупают память для обучения моделей с триллионами параметров, требующих сотни гигабайт оперативной памяти на каждый инстанс.
Производители памяти осознают проблему, но неохотно расширяют производство. Строительство новых фабрик занимает годы, а спрос может стабилизироваться раньше, чем мощности заработают. SK hynix заказала около 20 машин Low-NA EUV от ASML, но эти инвестиции дадут результат не раньше чем через несколько лет.
Чой Тэ-вон отметил, что клиенты уже начинают применять техники оптимизации: используют форматы с меньшей точностью и лучше структурируют код. Однако есть парадокс — когда софт становится эффективнее, он быстро начинает потреблять освободившиеся ресурсы. Рынок ждёт, как разрешится противостояние между оптимизацией и растущим спросом на память.
Американский производитель памяти модернизирует завод в Вирджинии и внедрит передовой техпроцесс 1α. Инвестиции в $2 млрд позволят обеспечить спрос на DDR4 в специализированных сегментах рынка.
Финансовый директор NVIDIA Колетт Кресс рассказала, как компания предвидела рост стоимости памяти и успела подготовиться к дефициту, в отличие от конкурентов.
Пользователь Reddit собрал рабочую станцию с процессором Xeon и видеокартой RTX 3060, где вместо обычной оперативной памяти использовал 768GB снятых с производства Intel Optane DCPMM. Система справляется с локальным запуском модели Kimi K2.5 на скорости 4 токена в секунду.