La société de cloud computing Lambda lance un nouveau service de cluster pour un accès à la demande aux GPU Nvidia H100

Récemment, la société de cloud computing GPU Lambda a annoncé le lancement de son nouveau service de cluster 1-Click, et les clients peuvent désormais obtenir des clusters Nvidia H100 GPU et Quantum2InfiniBand à la demande. Ce service innovant permet aux entreprises d'obtenir de la puissance de calcul uniquement en cas de besoin, en particulier pour celles qui n'ont pas besoin d'un accès 24h/24 et 7j/7 aux GPU.

Remarque sur la source de l'image : l'image est générée par l'IA et l'image est autorisée par le fournisseur de services Midjourney

Robert Brooks, co-fondateur et vice-président de Lambda, a déclaré dans une interview que le service est conçu pour les entreprises qui construisent leurs propres modèles. De cette manière, ils n’ont besoin d’obtenir rapidement la puissance de calcul GPU dont ils ont besoin que lorsqu’ils en ont besoin, évitant ainsi la coordination complexe du matériel et des logiciels qui était auparavant requise. Il a mentionné que démarrer une entreprise d’IA nécessite beaucoup de temps et d’argent, notamment pour configurer un grand cluster GPU.

Contrairement au modèle traditionnel de location de GPU, le service Lambda élimine le processus complexe de négociation de la durée d'utilisation avec les fournisseurs de GPU. Brooks a noté que Lambda avait trouvé une solution pour rendre le GPU Nvidia H100 et le réseau Infini facilement disponibles pour les nouveaux projets de formation de modèles.

De nombreuses personnes ont tendance à utiliser des modèles d’IA pré-entraînés et à les affiner avec leurs propres politiques de gestion des données, car le coût de création et de formation de modèles de base est élevé. De plus, les GPU Nvidia sont chers et de nombreuses entreprises ne peuvent tout simplement pas se permettre de construire leurs propres centres de données pour stocker ces GPU. Pour les petites entreprises d'IA, elles ne peuvent généralement choisir que de louer de l'espace GPU ou de coopérer avec des fournisseurs de services cloud, dans l'espoir d'obtenir les données. requis pour la formation des modèles.

Alors que les fournisseurs de services cloud comme AWS et Microsoft Azure fournissent un accès à l'IA et aux GPU Nvidia, Brooks a souligné qu'ils se concentrent sur la phase d'inférence du modèle, et non sur la phase de formation. Les contrats de cluster GPU traditionnels prennent souvent un an ou plus à signer.

Le cluster 1-Click s'adresse spécifiquement aux entreprises qui n'ont besoin que de modèles à court terme, notamment celles qui ne souhaitent pas signer de contrats à long terme. Les clients peuvent réserver les nœuds requis selon leurs besoins, avec une période de réservation minimale de deux semaines. Les tarifs spécifiques varient en fonction du nombre de nœuds et du temps requis.

Lambda a été fondée en 2012 et a levé avec succès 320 millions de dollars en février de cette année, portant la valorisation de l'entreprise à 1,5 milliard de dollars.

Souligner:

- ? Lambda lance le service de cluster 1-Click, permettant aux utilisateurs d'obtenir le GPU Nvidia H100 à la demande, brisant ainsi les restrictions des contrats à long terme.

- ⏳ Ce service est conçu pour les entreprises qui ont besoin de modèles de formation à court terme, et les utilisateurs peuvent le réserver pour un minimum de deux semaines.

- ? Lambda a levé 320 millions de dollars cette année et a été valorisée à 1,5 milliard de dollars, ce qui montre une forte demande du marché pour ses services.