클라우드 컴퓨팅 회사인 Lambda는 Nvidia H100 GPU에 대한 온디맨드 액세스를 위한 새로운 클러스터 서비스를 출시합니다.

최근 GPU 클라우드 컴퓨팅 회사인 Lambda는 새로운 1-Click 클러스터 서비스 출시를 발표했으며 이제 고객은 필요에 따라 Nvidia H100 GPU 및 Quantum2InfiniBand 클러스터를 얻을 수 있습니다. 이 혁신적인 서비스를 통해 기업은 필요할 때만 컴퓨팅 성능을 얻을 수 있으며, 특히 GPU에 연중무휴 액세스가 필요하지 않은 기업의 경우 더욱 그렇습니다.

사진 출처 참고: 사진은 AI에 의해 생성되었으며 사진은 서비스 제공업체 Midjourney의 승인을 받았습니다.

Lambda의 공동 창립자이자 부사장인 Robert Brooks는 인터뷰에서 이 서비스는 자체 모델을 구축하는 회사를 위해 설계되었다고 말했습니다. 이러한 방식으로, 필요할 때 필요한 GPU 컴퓨팅 성능을 신속하게 확보하기만 하면 이전에 필요했던 복잡한 하드웨어 및 소프트웨어 조정을 피할 수 있습니다. 그는 AI 회사를 창업하려면 많은 돈과 시간이 필요하며, 특히 대규모 GPU 클러스터를 구성하는 데에는 시간이 많이 걸린다고 언급했습니다.

기존 GPU 임대 모델과 달리 Lambda 서비스는 GPU 공급업체와 사용 시간을 협상하는 복잡한 프로세스를 제거합니다. Brooks는 Lambda가 Nvidia H100 GPU 및 Infini 네트워크를 새로운 모델 교육 프로젝트에 쉽게 사용할 수 있도록 하는 솔루션을 찾았다고 언급했습니다.

많은 사람들이 기본 모델을 구축하고 훈련하는 데 드는 비용이 높기 때문에 사전 훈련된 AI 모델을 사용하고 자체 데이터 관리 정책으로 미세 조정하는 경향이 있습니다. 더욱이 Nvidia GPU는 비싸며 많은 기업에서는 이러한 GPU를 저장하기 위해 자체 데이터 센터를 구축할 여력이 없습니다. 소규모 AI 회사의 경우 일반적으로 데이터를 얻기 위해 GPU 공간을 임대하거나 클라우드 서비스 제공업체와 협력하는 방법만 선택할 수 있습니다. 모델 학습에 필요한 처리입니다.

AWS 및 Microsoft Azure와 같은 클라우드 서비스 제공업체는 AI 및 Nvidia GPU에 대한 액세스를 제공하지만 Brooks는 교육 단계가 아닌 모델의 추론 단계에 중점을 두고 있다고 강조했습니다. 기존 GPU 클러스터 계약에 서명하는 데 1년 이상이 걸리는 경우가 많습니다.

1-Click 클러스터는 특히 단기 모델만 필요한 회사, 특히 장기 계약을 체결하고 싶지 않은 회사를 대상으로 합니다. 고객은 필요에 따라 필요한 노드를 예약할 수 있으며 최소 예약 기간은 2주입니다. 구체적인 가격은 노드 수와 필요한 시간에 따라 다릅니다.

람다는 2012년 설립돼 올해 2월 3억2천만달러를 성공적으로 유치해 회사 가치를 15억달러로 끌어올렸다.

가장 밝은 부분:

- ? Lambda는 사용자가 필요에 따라 Nvidia H100 GPU를 얻을 수 있도록 하는 1-Click 클러스터 서비스를 출시하여 장기 계약의 제한을 깨뜨렸습니다.

- ⏳ 본 서비스는 단기 교육 모델이 필요한 기업을 위해 제작되었으며, 최소 2주 동안 예약이 가능합니다.

- 람다(Lambda)는 올해 3억 2천만 달러의 자금을 조달했으며 가치는 15억 달러로 평가되어 서비스에 대한 강력한 시장 수요를 보여주었습니다.