A empresa de computação em nuvem Lambda lança novo serviço de cluster para acesso sob demanda às GPUs Nvidia H100

Recentemente, a empresa de computação em nuvem GPU Lambda anunciou o lançamento de seu novo serviço de cluster 1-Click, e os clientes agora podem obter clusters Nvidia H100 GPU e Quantum2InfiniBand sob demanda. Este serviço inovador permite que as empresas obtenham poder computacional apenas quando necessário, especialmente para aquelas empresas que não necessitam de acesso 24 horas por dia, 7 dias por semana às GPUs.

Nota sobre a fonte da imagem: a imagem é gerada por IA e autorizada pelo provedor de serviços Midjourney

Robert Brooks, cofundador e vice-presidente da Lambda, disse em entrevista que o serviço é voltado para empresas que estão construindo seus próprios modelos. Dessa forma, eles só precisam obter rapidamente o poder de computação da GPU de que precisam, quando precisam, evitando a complexa coordenação de hardware e software que era necessária anteriormente. Ele mencionou que iniciar uma empresa de IA requer muito dinheiro e tempo, especialmente para configurar um grande cluster de GPU.

Ao contrário do modelo tradicional de locação de GPU, o serviço Lambda elimina o complexo processo de negociação do tempo de uso com fornecedores de GPU. Brooks observou que a Lambda encontrou uma solução para tornar a GPU Nvidia H100 e a rede Infini prontamente disponíveis para projetos de treinamento de novos modelos.

Muitas pessoas tendem a usar modelos de IA pré-treinados e ajustá-los com suas próprias políticas de gerenciamento de dados, porque o custo de construção e treinamento de modelos básicos é alto. Além disso, as GPUs da Nvidia são caras e muitas empresas simplesmente não podem construir seus próprios data centers para armazenar essas GPUs. Para pequenas empresas de IA, elas geralmente só podem optar por alugar espaço de GPU ou cooperar com provedores de serviços em nuvem, na esperança de obter os dados. necessário para os modelos de treinamento necessários.

Embora provedores de serviços em nuvem como AWS e Microsoft Azure forneçam acesso a GPUs de IA e Nvidia, Brooks enfatizou que seu foco está na fase de inferência do modelo, não na fase de treinamento. Os contratos tradicionais de cluster de GPU geralmente levam um ano ou mais para serem assinados.

O cluster 1-Click destina-se especificamente a empresas que necessitam apenas de modelos de curto prazo, especialmente aquelas que não pretendem assinar contratos de longo prazo. Os clientes podem reservar os nós necessários conforme necessário, com um período mínimo de reserva de duas semanas. O preço específico varia de acordo com o número de nós e o tempo necessário.

A Lambda foi fundada em 2012 e arrecadou com sucesso 320 milhões de dólares em fevereiro deste ano, elevando a avaliação da empresa para 1,5 mil milhões de dólares.

Destaques:

- ?Lambda lança serviço de cluster 1-Click, permitindo aos usuários obter GPU Nvidia H100 sob demanda, quebrando as restrições de contratos de longo prazo.

- ⏳ Este serviço destina-se a empresas que necessitam de modelos de formação de curta duração, podendo os utilizadores reservá-lo por um período mínimo de duas semanas.

- ?A Lambda arrecadou 320 milhões de dólares este ano e foi avaliada em 1,5 mil milhões de dólares, demonstrando uma forte procura do mercado pelos seus serviços.