La empresa de computación en la nube Lambda lanza un nuevo servicio de clúster para acceso bajo demanda a las GPU Nvidia H100

Recientemente, la empresa de computación en la nube GPU Lambda anunció el lanzamiento de su nuevo servicio de clúster 1-Click, y los clientes ahora pueden obtener la GPU Nvidia H100 y los clústeres Quantum2InfiniBand bajo demanda. Este servicio innovador permite a las empresas obtener potencia informática solo cuando la necesitan, especialmente para aquellas empresas que no requieren acceso 24 horas al día, 7 días a la semana a las GPU.

Nota sobre la fuente de la imagen: la imagen es generada por IA y la imagen está autorizada por el proveedor de servicios Midjourney

Robert Brooks, cofundador y vicepresidente de Lambda, dijo en una entrevista que el servicio está diseñado para empresas que están construyendo sus propios modelos. De esta manera, solo necesitan obtener rápidamente la potencia informática de GPU que necesitan cuando la necesitan, evitando la compleja coordinación de hardware y software que se requería anteriormente. Mencionó que iniciar una empresa de inteligencia artificial requiere mucho dinero y tiempo, especialmente para configurar un gran clúster de GPU.

A diferencia del modelo tradicional de arrendamiento de GPU, el servicio Lambda elimina el complejo proceso de negociar el tiempo de uso con los proveedores de GPU. Brooks señaló que Lambda encontró una solución para que la GPU Nvidia H100 y la red Infini estén disponibles para proyectos de capacitación de nuevos modelos.

Muchas personas tienden a utilizar modelos de IA previamente entrenados y afinarlos con sus propias políticas de gestión de datos, porque el costo de construir y entrenar modelos básicos es alto. Además, las GPU de Nvidia son caras y muchas empresas simplemente no pueden permitirse el lujo de construir sus propios centros de datos para almacenar estas GPU. Las pequeñas empresas de inteligencia artificial, por lo general, solo pueden optar por alquilar espacio de GPU o cooperar con proveedores de servicios en la nube, con la esperanza de obtener los datos. requerido para los modelos de entrenamiento.

Si bien los proveedores de servicios en la nube como AWS y Microsoft Azure brindan acceso a IA y GPU de Nvidia, Brooks enfatizó que su atención se centra en la fase de inferencia del modelo, no en la fase de entrenamiento. Los contratos de clúster de GPU tradicionales suelen tardar un año o más en firmarse.

El clúster 1-Click está dirigido específicamente a empresas que sólo necesitan modelos a corto plazo, especialmente aquellas que no quieren firmar contratos a largo plazo. Los clientes pueden reservar los nodos requeridos según sea necesario, con un período mínimo de reserva de dos semanas. El precio específico varía según la cantidad de nodos y el tiempo requerido.

Lambda se fundó en 2012 y recaudó con éxito 320 millones de dólares en febrero de este año, lo que elevó la valoración de la empresa a 1.500 millones de dólares.

Destacar:

- ? Lambda lanza el servicio de clúster 1-Click, que permite a los usuarios obtener la GPU Nvidia H100 bajo demanda, rompiendo las restricciones de los contratos a largo plazo.

- ⏳ Este servicio está diseñado para empresas que necesitan modelos de formación de corta duración, pudiendo los usuarios reservarlo por un mínimo de dos semanas.

- Lambda recaudó 320 millones de dólares este año y fue valorada en 1.500 millones de dólares, lo que demuestra una fuerte demanda del mercado por sus servicios.