Компания облачных вычислений Lambda запускает новый кластерный сервис для доступа по требованию к графическим процессорам Nvidia H100

Недавно компания Lambda, занимающаяся облачными вычислениями на графических процессорах, объявила о запуске новой услуги кластеров 1-Click, и теперь клиенты могут получить кластеры Nvidia H100 GPU и Quantum2InfiniBand по требованию. Этот инновационный сервис позволяет предприятиям получать вычислительную мощность только тогда, когда это необходимо, особенно тем компаниям, которым не требуется круглосуточный доступ к графическим процессорам.

Примечание к источнику изображения: изображение генерируется искусственным интеллектом и разрешено поставщиком услуг Midjourney.

Роберт Брукс, соучредитель и вице-президент Lambda, заявил в интервью, что сервис предназначен для компаний, которые создают свои собственные модели. Таким образом, им нужно быстро получить необходимую вычислительную мощность графического процессора только тогда, когда она им нужна, избегая сложной координации аппаратного и программного обеспечения, которая требовалась ранее. Он упомянул, что для создания компании, занимающейся искусственным интеллектом, требуется много денег и времени, особенно для настройки большого кластера графических процессоров.

В отличие от традиционной модели аренды графического процессора, сервис Lambda исключает сложный процесс согласования времени использования с поставщиками графических процессоров. Брукс отметил, что Lambda нашла решение, позволяющее сделать графический процессор Nvidia H100 и сеть Infini легкодоступными для проектов обучения новых моделей.

Многие люди склонны использовать предварительно обученные модели ИИ и настраивать их с помощью собственных политик управления данными, поскольку стоимость создания и обучения базовых моделей высока. Более того, графические процессоры Nvidia стоят дорого, и многие компании просто не могут позволить себе построить собственные центры обработки данных для хранения этих графических процессоров. Небольшие компании, занимающиеся искусственным интеллектом, обычно могут только арендовать пространство для графических процессоров или сотрудничать с поставщиками облачных услуг в надежде получить данные. необходимые для обучения моделей, требующие обработки.

Хотя поставщики облачных услуг, такие как AWS и Microsoft Azure, предоставляют доступ к ИИ и графическим процессорам Nvidia, Брукс подчеркнул, что их внимание сосредоточено на этапе вывода модели, а не на этапе обучения. Подписание традиционных контрактов на кластеры графических процессоров часто занимает год или больше.

Кластер 1-Click специально предназначен для компаний, которым нужны только краткосрочные модели, особенно для тех, кто не хочет подписывать долгосрочные контракты. Клиенты могут зарезервировать необходимые узлы по мере необходимости, минимальный период резервирования составляет две недели. Конкретные цены варьируются в зависимости от количества узлов и требуемого времени.

Lambda была основана в 2012 году и в феврале этого года успешно привлекла 320 миллионов долларов США, в результате чего оценка компании достигла 1,5 миллиарда долларов США.

Основные моменты:

- ? Lambda запускает кластерную службу 1-Click, позволяющую пользователям получать графический процессор Nvidia H100 по требованию, нарушая ограничения долгосрочных контрактов.

- ⏳ Эта услуга предназначена для компаний, которым необходимы краткосрочные модели обучения, и пользователи могут зарезервировать ее минимум на две недели.

- В этом году Lambda привлекла 320 миллионов долларов США и была оценена в 1,5 миллиарда долларов США, что свидетельствует о высоком рыночном спросе на ее услуги.