인스턴트 GPU, 인피니트 AI: GMI Cloud, 온디맨드 GPU 클라우드 제품 출시

산업 전반에서 AI 채택이 가속화됨에 따라 기업은 혁신에 필요한 GPU 리소스에 액세스하는 데 있어 전례 없는 장벽에 직면하고 있습니다.높은 계약금, 장기 계약, 수개월의 리드 타임으로 인해 많은 사람들이 AI 혁신을 감당할 수 없게 되었습니다.하지만 오늘날 GMI Cloud는 최상위 NVIDIA GPU에 즉각적이고 확장 가능하며 경제적인 액세스를 제공하는 온디맨드 GPU 클라우드 제품을 출시하면서 이러한 환경을 바꾸고 있습니다.

컴퓨팅에 대한 글로벌 수요를 충족하기 위한 다양한 옵션:

현재 AI 컴퓨팅 파워에 대한 글로벌 수요가 급증함에 따라 기업은 GPU에 액세스하기 위한 전략적인 접근 방식을 취해야 합니다.빠르게 변화하는 환경에서 조직은 25~ 50% 의 계약금을 지불하고 6~12개월 내에 예약된 GPU 인프라를 이용할 수 있다는 약속과 함께 3년 계약을 신청하라는 요청을 받고 있습니다.

기본 모델 교육이나 지속적인 추론과 같은 대규모 AI 이니셔티브 및 프로젝트에는 확실히 유용하지만 예약된 베어메탈/프라이빗 클라우드 솔루션이 모든 사용 사례에 적합하지는 않습니다.특정 기업, 특히 신생 기업의 경우 대규모 GPU 설치에 투입할 예산이나 장기 예측 능력이 항상 있는 것은 아닙니다.애플리케이션 요구 사항에 따라 규모를 늘리거나 줄일 수 있는 유연성이 필요합니다.마찬가지로 엔터프라이즈 데이터 사이언스 팀은 AI 애플리케이션을 빠르게 실험하고 프로토타이핑하고 평가하기 위한 민첩성이 필요한 경우가 많습니다.

GMI 클라우드 온디맨드 GPU

GMI Cloud는 최상위 GPU 컴퓨팅에 향상된 접근성을 제공하여 혁신을 주도하는 데 전념하고 있습니다.오늘 당사는 필요한 솔루션을 제공하는 온디맨드 GPU 클라우드 제품을 출시합니다. 이를 통해 조직은 장기 계약 없이도 긴 리드 타임을 우회하고 GPU 리소스에 액세스할 수 있습니다.효과적인 방식으로 GPU에 액세스하지 못해 기업들이 느끼는 좌절감을 많이 목격했습니다.접근성은 현재 많은 기업에서 혁신의 주요 장애물로 작용하고 있습니다. GMI Cloud On-Demand는 이러한 문제를 해결하기 위해 GMI Cloud On-Demand를 구축했습니다.온디맨드 모델은 빠른 프로토타이핑이나 모델 미세 조정과 같이 높은 컴퓨팅 성능이 필요한 프로젝트를 수행하기 위해 하나 또는 두 개의 인스턴스에 대한 즉각적인 단기 액세스가 필요한 사용자에게 적합합니다.GMI Cloud 온디맨드는 NVIDIA H100 컴퓨팅 리소스에 거의 즉각적으로 액세스할 수 있는 기능을 제공하며 예약된 프라이빗 클라우드 GPU 옆에 추가 옵션을 제공합니다.

GMI 클라우드 온디맨드 모델의 이점

• 유연성 향상: 장기 약정이나 계약금 없이 거의 즉시 GPU 리소스를 확장하거나 축소할 수 있습니다.
• 간편한 배포: 전문적으로 사전 구축된 Docker 이미지 라이브러리를 사용하여 클릭 한 번으로 컨테이너를 시작하여 AI 모델을 손쉽게 배포할 수 있습니다.환경을 설정하는 데 드는 시간과 복잡성을 줄여 팀이 인프라보다 혁신에 집중할 수 있도록 합니다.
• 클라우드 네이티브 오케스트레이션: 컨트롤 플레인에서 관리 API에 이르기까지 NVIDIA 소프트웨어 및 Kubernetes 통합을 통해 AI 워크로드를 원활하게 관리하고 확장합니다.확장성과 유연성을 제공하여 비즈니스가 성능 저하 없이 변화하는 수요에 빠르게 적응할 수 있도록 지원합니다.

기술적 특징 및 이점:

NVIDIA 소프트웨어 스택 통합:

GMI Cloud의 온디맨드 GPU 클라우드 제품에는 원활한 배포 및 추론을 위한 포괄적인 NVIDIA 소프트웨어 스택이 포함되어 있습니다.

• TensorRT: NVIDIA GPU에 최적화된 고성능 딥 러닝 추론 라이브러리입니다.TensorRT는 다양한 프레임워크에서 모델 추론을 가속화하여 실시간 애플리케이션의 지연 시간을 크게 줄입니다.
• NVIDIA 트리톤 인퍼런스 서버: 텐서플로우, 파이토치, ONNX, OpenVINO를 비롯한 여러 프레임워크를 지원하는 오픈 소스 인퍼런스 서빙 소프트웨어입니다.트리톤은 효율적인 추론을 위한 앙상블 배포, 동적 배칭, 모델 최적화를 지원합니다.
• NVIDIA NGC 컨테이너: NGC 카탈로그에서 사전 빌드된 NVIDIA GPU 최적화 컨테이너에 액세스할 수 있습니다.비전, NLP, 음성 및 추천 시스템용 모델 및 컨테이너가 포함됩니다.

쿠버네티스 오케스트레이션:

GMI Cloud의 쿠버네티스 매니지드 플랫폼은 ML 워크로드를 위한 확장 가능한 오케스트레이션을 제공합니다.

• 멀티 테넌시 및 격리: Kubernetes 네임스페이스와 리소스 쿼터는 안전한 격리와 효율적인 리소스 할당을 보장합니다.
• 자동 규모 조정: 수평적 파드 오토스케일링 (HPA) 은 워크로드 수요에 따라 파드 레플리카의 수를 동적으로 조정한다.
• GPU 리소스 스케줄링: 쿠버네티스 디바이스 플러그인을 통해 NVIDIA GPU를 기본적으로 지원하여 최적의 GPU 활용 및 스케줄링을 보장합니다.

추론 모델 배포:

GMI Cloud의 온디맨드 GPU 클라우드 제품은 다양한 모델의 배포 및 추론을 간소화합니다.

• 라마 3:8B에서 70B 파라미터에 이르는 다양한 Lama 3 모델 크기를 미세 조정하고 추론합니다.
• 믹스트랄 8x7B: 병렬 추론을 위해 설계된 다중 LLM 앙상블인 믹스트랄을 배포하세요.
• 스테이블 디퓨전: 스테이블 디퓨전의 최첨단 디퓨전 모델을 사용하여 고품질 이미지를 효율적으로 생성합니다.
• 젬마 8x16B: 병렬 추론 서비스에 최적화된 Google의 대규모 젬마 모델에 대한 추론을 지원합니다.

온디맨드 GPU 사용 사례

신생 기업 및 연구원:

• 초기 단계의 스타트업: 장기 계약이나 대규모 자본 투자 없이 AI 프로젝트의 프로토타입을 빠르게 만들고 견인력을 기반으로 GPU 리소스를 확장할 수 있습니다.
• ML 연구원: 단기 또는 예측할 수 없는 워크로드에 적합한 유연한 종량 과금제를 사용하여 새로운 모델, 알고리즘 및 기술을 실험해 보십시오.
• 미세 조정 전문가: 사설 인프라를 설정하는 오버헤드 없이 LaMa 3, Mixtral, Gemma와 같은 모델을 최적화하고 미세 조정할 수 있습니다.

엔터프라이즈 데이터 사이언스 팀:

• 데이터 과학자 및 분석가: 거의 즉각적인 GPU 액세스로 AI 애플리케이션을 프로토타이핑, 평가 및 확장하여 민첩한 실험과 테스트를 가능하게 합니다.
• 마감일이 촉박한 AI 팀: 수개월의 리드 타임과 장기 약정으로 인한 지연을 피하면서 모델 교육 및 추론을 가속화합니다.
• 프라이빗 클라우드 보완: 온디맨드 인스턴스를 사용하여 기존 프라이빗 클라우드 인프라를 보완하여 대규모 워크로드를 위한 오버플로우 용량을 제공합니다.

ML 실무자 및 데브옵스 엔지니어:

• ML 엔지니어: 사전 구성된 NVIDIA 소프트웨어 스택 환경을 사용하여 스테이블 디퓨전, 믹스트랄, 트리톤과 같은 모델을 효율적으로 배포하고 추론할 수 있습니다.
• DevOps 팀: GPU 스케줄링, 네임스페이스 격리, 자동 확장을 통해 Kubernetes 오케스트레이션을 활용하여 ML 워크플로를 간소화합니다.
• 모델 배포 전문가: NVIDIA Triton, TensorRT 및 NGC 컨테이너와의 원활한 통합으로 다양한 AI 모델에서 번거롭지 않은 추론이 가능합니다.

시작하기:

GMI Cloud는 14일 동안 NVIDIA H100 GPU에 온디맨드로 액세스할 수 있도록 시간당 4.39달러로 경쟁력 있는 가격을 제공합니다.다음 사이트를 방문하십시오 gmicloud.ai 온디맨드 GPU 클라우드에 액세스하고 AI의 잠재력을 무제한으로 활용할 수 있습니다.

6월에 대만 Computex에 있는 GMI Cloud 부스를 방문하여 온디맨드 GPU 클라우드 제품 및 기타 혁신적인 AI 솔루션을 직접 시연해 보십시오.