Das Cloud-Computing-Unternehmen Lambda führt einen neuen Cluster-Dienst für den On-Demand-Zugriff auf Nvidia H100-GPUs ein

Kürzlich kündigte das GPU-Cloud-Computing-Unternehmen Lambda die Einführung seines neuen 1-Click-Cluster-Dienstes an. Kunden können nun Nvidia H100-GPU- und Quantum2InfiniBand-Cluster auf Anfrage erhalten. Dieser innovative Service ermöglicht es Unternehmen, Rechenleistung nur dann zu erhalten, wenn sie benötigt wird, insbesondere solchen Unternehmen, die keinen 24/7-Zugriff auf GPUs benötigen.

Hinweis zur Bildquelle: Das Bild wird von KI generiert und vom Dienstanbieter Midjourney autorisiert

Robert Brooks, Mitbegründer und Vizepräsident von Lambda, sagte in einem Interview, dass der Dienst für Unternehmen gedacht sei, die ihre eigenen Modelle bauen. Auf diese Weise müssen sie die GPU-Rechenleistung, die sie benötigen, nur dann schnell abrufen, wenn sie sie benötigen, und können die zuvor erforderliche komplexe Hardware- und Softwarekoordination vermeiden. Er erwähnte, dass die Gründung eines KI-Unternehmens viel Geld und Zeit erfordert, insbesondere die Konfiguration eines großen GPU-Clusters.

Im Gegensatz zum herkömmlichen GPU-Leasingmodell entfällt beim Lambda-Service der komplexe Prozess der Aushandlung der Nutzungsdauer mit GPU-Anbietern. Brooks wies darauf hin, dass Lambda eine Lösung gefunden habe, um die Nvidia H100-GPU und das Infini-Netzwerk für neue Modellschulungsprojekte leicht verfügbar zu machen.

Viele Menschen neigen dazu, vorab trainierte KI-Modelle zu verwenden und diese mit ihren eigenen Datenverwaltungsrichtlinien zu verfeinern, da die Kosten für die Erstellung und Schulung grundlegender Modelle hoch sind. Darüber hinaus sind Nvidia-GPUs teuer und viele Unternehmen können es sich einfach nicht leisten, eigene Rechenzentren zur Speicherung dieser GPUs zu bauen. Kleine KI-Unternehmen können in der Hoffnung, an die Daten zu gelangen, normalerweise nur GPU-Platz mieten oder mit Cloud-Dienstanbietern zusammenarbeiten für Trainingsmodelle erforderlich.

Während Cloud-Dienstanbieter wie AWS und Microsoft Azure Zugriff auf KI- und Nvidia-GPUs bieten, betonte Brooks, dass ihr Fokus auf der Inferenzphase des Modells und nicht auf der Trainingsphase liege. Die Unterzeichnung herkömmlicher GPU-Cluster-Verträge dauert oft ein Jahr oder länger.

Der 1-Click-Cluster richtet sich speziell an Unternehmen, die nur kurzfristige Modelle benötigen, insbesondere solche, die keine langfristigen Verträge abschließen möchten. Kunden können die benötigten Knoten nach Bedarf reservieren, mit einer Mindestbuchungsfrist von zwei Wochen. Die spezifischen Preise variieren je nach Anzahl der Knoten und benötigter Zeit.

Lambda wurde 2012 gegründet und hat im Februar dieses Jahres erfolgreich 320 Millionen US-Dollar eingesammelt, wodurch sich die Unternehmensbewertung auf 1,5 Milliarden US-Dollar erhöhte.

Highlight:

- ? Lambda führt den 1-Click-Cluster-Dienst ein, der es Benutzern ermöglicht, Nvidia H100-GPUs auf Abruf zu erhalten und so die Beschränkungen langfristiger Verträge zu durchbrechen.

- ⏳ Dieser Service richtet sich an Unternehmen, die kurzfristige Schulungsmodelle benötigen, und kann von Nutzern für mindestens zwei Wochen reserviert werden.

- ? Lambda hat in diesem Jahr 320 Millionen US-Dollar eingesammelt und wurde mit 1,5 Milliarden US-Dollar bewertet, was eine starke Marktnachfrage nach seinen Dienstleistungen zeigt.