Perusahaan komputasi awan Lambda meluncurkan layanan cluster baru untuk akses on-demand ke GPU Nvidia H100

Baru-baru ini, perusahaan komputasi awan GPU Lambda mengumumkan peluncuran layanan cluster 1-Klik barunya, dan pelanggan kini dapat memperoleh GPU Nvidia H100 dan cluster Quantum2InfiniBand sesuai permintaan. Layanan inovatif ini memungkinkan perusahaan memperoleh daya komputasi hanya ketika diperlukan, terutama bagi perusahaan yang tidak memerlukan akses 24/7 ke GPU.

Catatan sumber gambar: Gambar dihasilkan oleh AI, dan gambar tersebut disahkan oleh penyedia layanan Midjourney

Robert Brooks, salah satu pendiri dan wakil presiden Lambda, mengatakan dalam sebuah wawancara bahwa layanan ini dirancang untuk perusahaan yang membangun model mereka sendiri. Dengan cara ini, mereka hanya perlu mendapatkan daya komputasi GPU yang mereka butuhkan dengan cepat saat mereka membutuhkannya, menghindari koordinasi perangkat keras dan perangkat lunak yang rumit yang sebelumnya diperlukan. Ia menyebutkan bahwa memulai perusahaan AI membutuhkan banyak uang dan waktu, terutama untuk mengkonfigurasi cluster GPU yang besar.

Berbeda dengan model penyewaan GPU tradisional, layanan Lambda menghilangkan proses rumit dalam menegosiasikan waktu penggunaan dengan vendor GPU. Brooks mencatat bahwa Lambda menemukan solusi untuk membuat GPU Nvidia H100 dan jaringan Infini tersedia untuk proyek pelatihan model baru.

Banyak orang cenderung menggunakan model AI yang telah dilatih sebelumnya dan menyempurnakannya dengan kebijakan pengelolaan data mereka sendiri, karena biaya pembuatan dan pelatihan model dasar yang tinggi. Selain itu, harga GPU Nvidia mahal, dan banyak perusahaan tidak mampu membangun pusat data sendiri untuk menyimpan GPU ini. Untuk perusahaan AI kecil, mereka biasanya hanya dapat memilih untuk menyewa ruang GPU atau bekerja sama dengan penyedia layanan cloud, dengan harapan mendapatkan datanya diperlukan untuk model pelatihan.

Meskipun penyedia layanan cloud seperti AWS dan Microsoft Azure menyediakan akses ke AI dan GPU Nvidia, Brooks menekankan bahwa fokus mereka adalah pada fase inferensi model, bukan fase pelatihan. Kontrak cluster GPU tradisional seringkali membutuhkan waktu satu tahun atau lebih untuk ditandatangani.

Cluster 1-Click ditujukan khusus untuk perusahaan yang hanya membutuhkan model jangka pendek, terutama yang tidak ingin menandatangani kontrak jangka panjang. Pelanggan dapat melakukan pemesanan node yang dibutuhkan sesuai kebutuhan, dengan periode pemesanan minimal dua minggu. Harga spesifik bervariasi berdasarkan jumlah node dan waktu yang dibutuhkan.

Lambda didirikan pada tahun 2012 dan berhasil mengumpulkan dana sebesar US$320 juta pada bulan Februari tahun ini, menjadikan valuasi perusahaan menjadi US$1,5 miliar.

Menyorot:

- ? Lambda meluncurkan layanan cluster 1-Klik, memungkinkan pengguna mendapatkan GPU Nvidia H100 sesuai permintaan, melanggar batasan kontrak jangka panjang.

- ⏳ Layanan ini dirancang untuk perusahaan yang membutuhkan model pelatihan jangka pendek, dan pengguna dapat memesannya minimal untuk dua minggu.

- ? Lambda mengumpulkan US$320 juta tahun ini dan bernilai US$1,5 miliar, menunjukkan permintaan pasar yang kuat terhadap layanannya.