В связи с быстрым развитием крупномасштабных-моделей ИИ, агентов ИИ и мультимодальных приложений перед вычислительными системами ИИ стоит новая задача: смогут ли возможности хранения данных идти в ногу с ростом вычислительной мощности? Недавно в мировой индустрии хранения данных наблюдался значительный прогресс: SK Hynix и SanDisk совместно выпустили первый в отрасли набор стандартов для High Bandwidth Flash (HBF), что ознаменовало начало стандартизированной фазы разработки технологии хранения данных с искусственным интеллектом следующего-поколения.
Эта новость не только привлекла внимание представителей полупроводниковой промышленности, но и означает, что конкуренция в инфраструктуре искусственного интеллекта постепенно переходит от простого стремления к производительности вычислений к новому этапу «синергетической оптимизации вычислений и хранения данных». Для производителей серверов, операторов центров обработки данных и связанных с ними компаний, занимающихся поставками оборудования, развитие HBF может стать важным направлением будущих обновлений архитектуры систем искусственного интеллекта.
Ускорит ли создание стандартной системы HBF формирование экосистемы хранения данных с использованием искусственного интеллекта?
Стандартные спецификации HBF были разработаны Технической рабочей группой HBF проекта Open Compute Project (OCP) при участии SK Hynix и SanDisk в качестве основных технических разработчиков. Тем временем Google и компания Tensorrent, производящая чипы искусственного интеллекта, присоединились к альянсу, обеспечивая поддержку в проверке технологий, разработке интерфейсов и развитии экосистемы.
Этот стандарт в первую очередь нацелен на системы вывода искусственного интеллекта и приложения-ускорители искусственного интеллекта, создавая единую техническую основу, включающую системные интерфейсы, электрические характеристики, конструкцию стека микросхем, надежность упаковки и рекомендации по чтению и записи программного обеспечения.
По сравнению с традиционными решениями для хранения данных, HBF призван решить проблему доступа к данным, возникающую из-за постоянно расширяющегося масштаба моделей искусственного интеллекта, позволяя ресурсам хранения большей емкости и с более высокой пропускной способностью быть ближе к вычислительному ядру, тем самым повышая общую эффективность системы.
Зачем индустрии искусственного интеллекта нужны новые технологии хранения данных, такие как HBF?
В последние годы приложения искусственного интеллекта, примером которых являются большие языковые модели, быстро развиваются, при этом масштаб параметров моделей постоянно увеличивается. От миллиардов до сотен миллиардов параметров системы искусственного интеллекта предъявляют более высокие требования к возможностям высокоскоростного-считывания данных.
В настоящее время память с высокой пропускной способностью (HBM) с ее чрезвычайно высокой скоростью передачи данных стала важным компонентом хранения данных для ускорителей искусственного интеллекта. Однако из-за своей высокой стоимости и ограниченной мощности HBM склонен к нехватке мощностей при работе с выводами моделей сверх-крупного-масштаба.
Технология HBF — это новый уровень хранения данных, появившийся на этом фоне. Он использует усовершенствованный метод упаковки, аналогичный HBM, объединяя несколько микросхем NAND Flash для достижения большей емкости хранения при сохранении высоких скоростей передачи данных.
Согласно соответствующим технологическим планам, продукт HBF первого-поколения нацелен на достижение емкости одного-стека в 512 ГБ и пропускной способности чтения примерно 1,6 ТБ/с, демонстрируя значительные преимущества в расширении емкости и контроле удельных затрат.
Каковы будущие сценарии применения HBF?
С точки зрения промышленного применения HBF больше подходит для обработки данных с высокими требованиями к чтению. Например, во время вывода модели ИИ веса моделей, векторные базы данных и некоторые кэшированные данные требуют частого чтения, а HBF может эффективно снизить нагрузку при передаче данных на традиционные устройства хранения.
Ожидается, что в будущем HBF будет применяться для:
AI-серверы и системы хранения данных в центрах обработки данных;
Крупномасштабные-платформы вывода языковых моделей;
Интеллектуальные системы обработки данных вождения;
Облачная инфраструктура искусственного интеллекта;
Высокопроизводительное-вычислительное оборудование (HPC).
В условиях быстрого развития агентов искусственного интеллекта модели должны обрабатывать более сложную контекстную информацию и взаимодействие с данными в-режиме реального времени, что еще больше повышает важность хранения с высокой-емкостью и высокой-пропускной способностью.
Сможет ли HBF заменить HBM?Конкуренция в отрасли по-прежнему требует долгосрочного-наблюдения.
Хотя HBF продемонстрировал значительный потенциал развития, в отрасли в целом полагают, что он не заменит HBM полностью, а, скорее всего, станет дополнительным уровнем в архитектуре хранения данных с использованием искусственного интеллекта.
Поскольку HBF основан на технологии NAND Flash, срок его службы при записи и стирании ограничен, что делает его более подходящим для приложений с частым чтением и нечастым обновлением данных, например для хранения частичных параметров модели, исторических данных кэша и крупномасштабных задач-извлечения данных.
Будущие системы искусственного интеллекта могут сформировать более диверсифицированную архитектуру хранения данных: HBM будет решать задачи доступа с малой-задержкой и высокой{1}}частотой, а HBF будет удовлетворять потребности в хранении данных большей-емкости, причем обе системы будут работать вместе для повышения эффективности вычислений с использованием ИИ.
Заключение: Выпуск стандарта HBF выведет инфраструктуру искусственного интеллекта на новый этап.
Продвижение стандарта HBF компаниями SK Hynix и SanDisk — это не только технологический апгрейд, но и представление отраслевой цепочки искусственного интеллекта, изучающей новые решения для хранения данных. Поскольку глобальные приложения ИИ продолжают расширяться, достижение более низкой-затраты и более эффективного-доступа к данным станет ключом к будущей конкуренции в инфраструктуре ИИ.
Для производителей полупроводников, компаний, занимающихся серверным оборудованием, и компаний, занимающихся цепочками промышленных поставок, развитие экосистемы HBF заслуживает постоянного внимания. Благодаря постепенному совершенствованию стандартов и постоянному расширению отраслевых альянсов рынок хранения данных с искусственным интеллектом следующего-поколения может открыть новые возможности для роста.
