AI 스택을 구축하고 소유하는 방법: HPE의 Jordan Nanos와 함께하는 GMI Cloud 가상 이벤트에서 얻은 인사이트

최근 GMI Cloud 가상 이벤트에서 업계 전문가들은 AI 인프라 구축 및 관리에 대한 중추적인 통찰력을 공유했습니다.이 행사에서는 GMI Cloud CEO인 알렉스 예, 휴렛 팩커드 엔터프라이즈의 머신러닝 아키텍트인 조던 나노스, GMI Cloud의 소프트웨어 엔지니어 매니저인 Yujing Qian의 프레젠테이션과 토론이 진행되었습니다.이 문서에서는 웨비나에서 논의한 주요 사항에 대한 자세한 개요와 요약을 제공합니다.

전체 웨비나는 YouTube에서 여기에서 시청할 수 있습니다.

웨비나 하이라이트

비전 및 전략

Alex Yeh는 먼저 Shopify가 전자 상거래를 민주화하는 방식과 마찬가지로 사용자가 AI 애플리케이션을 손쉽게 구축할 수 있도록 하는 GMI Cloud의 비전을 강조했습니다.Alex는 “누구나 클릭 한 번으로 AI 애플리케이션을 구축할 수 있도록 하고 싶습니다”라고 강조했습니다.그는 클라우드 플랫폼에서 AI 애플리케이션을 구축하는 전체 스택을 지원하는 “AI TSMC”가 되겠다는 회사의 목표에 대해 논의했습니다.여기에는 원시 컴퓨팅 파워뿐만 아니라 필요한 모든 도구와 리소스를 제공하는 것도 포함됩니다.

인프라 포커스

GMI Cloud 전략의 핵심 측면은 하드웨어를 제어하여 고가용성, 안정성 및 최적화된 성능을 보장하는 것입니다.Alex는 “우리는 노드를 제어하기 때문에 고객이 항상 최고의 가용성과 안정성을 유지할 수 있습니다.” 라고 말했습니다.

데이터센터 및 글로벌 진출

현재 GMI Cloud는 아시아 태평양 지역에서 여러 데이터 센터를 운영하고 있으며, 내년 말까지 전 세계 30개 지점으로 확장할 계획입니다.이러한 데이터 센터는 대기 시간을 최소화하고 성능을 최적화하기 위해 인구 밀도가 높은 지역에 전략적으로 배치됩니다.Alex는 “세 개의 데이터 센터를 운영 중이며 8월 중순까지 두 곳이 더 가동될 예정입니다.” 라고 강조했습니다.

기술적 역량

GMI Cloud는 NVIDIA H100을 비롯한 최상위 GPU 하드웨어와 대규모 배포를 간소화하는 사내 설계 소프트웨어 스택에 대한 액세스를 제공합니다.이 회사는 또한 클러스터 엔진 계층을 제공합니다. 여기에는 교육 및 추론 워크로드 모두에 필수적인 컨테이너 오케스트레이션을 위한 전문가 수준의 제어 및 사용자 지정을 위한 멀티테넌트 Kubernetes가 포함됩니다.

서비스 모델

다양한 고객 요구를 충족하기 위해 GMI Cloud는 온디맨드와 예약이라는 두 가지 주요 서비스 모델을 제공합니다.온디맨드 모델은 워크로드를 예측할 수 없는 스타트업과 연구자에게 적합하며, 예약 모델은 안정적이고 장기적인 요구 사항이 있는 대기업에 적합합니다.이러한 유연하고 예측 가능한 가격 구조를 통해 다양한 운영 시나리오를 효율적으로 관리할 수 있습니다.

오프닝 프레젠테이션

알렉스 예 (GMI 클라우드 CEO)

Alex는 GMI Cloud가 업계에서 쌓아온 탄탄한 기반과 대만의 Google 및 OEM 경험이 있는 핵심 팀의 광범위한 경험을 바탕으로 AI 애플리케이션 구축의 전체 스택을 지원하겠다는 목표를 강조했습니다.그는 지연 시간을 최소화하고 성능을 최적화하기 위해 특히 아시아 태평양 지역의 전략적 데이터 센터 위치가 중요하다고 강조했습니다.Alex는 “우리의 목표는 내년 말까지 30개의 데이터 센터를 보유하여 아시아 전역에 가장 광범위한 GPU 제품군을 제공하고 궁극적으로는 전 세계로 확장하는 것”이라고 설명했습니다.

와글와글 채팅: 주요 시사점

노변 채팅에서 Alex Yeh와 Jordan Nanos는 확장성과 효율성 문제에 대해 자세히 설명했고 Alex는 인프라 관리의 중요성에 대해 설명했습니다.그는 “우리는 AI 시스템 관리의 복잡성을 간소화하는 강력한 인프라를 제공하는 것을 목표로 한다”고 말했다.Jordan은 “전략적 하드웨어 제어를 통해 신뢰성과 성능을 보장하는 것”이라고 덧붙였습니다.

토론에서는 데이터 프라이버시 및 보안도 다루었습니다.Jordan은 규정 준수를 유지하면서 지속적인 혁신을 위해 다중 계층에서 데이터를 보호하고 오픈 소스 커뮤니티를 활용하는 것의 중요성에 대해 자세히 설명했습니다.그는 “오픈소스 생태계는 활기차고 AI 발전에 필수적이지만, 우리는 데이터 무결성과 보안을 보장해야 한다”고 강조했다.

또한 Jordan은 관련 복잡성과 비용을 강조하면서 AI 인프라 관리의 어려움에 대해서도 논의했습니다.그는 높은 가동 시간과 안정성을 보장하기 위한 강력한 운영의 필요성을 강조하면서 이렇게 말했습니다. “하드웨어 관리는 엄청나게 비용이 많이 들고 복잡합니다.우리의 목표는 고객을 위해 이러한 단계를 간소화하는 것입니다.”또한 Jordan은 데이터 프라이버시, 모델 보안, 애플리케이션 규정 준수라는 세 가지 보안 계층에 대해 자세히 설명하면서 보안 문제를 해결했습니다.그는 “데이터 수집부터 모델 배포에 이르기까지 여러 계층에서 데이터 프라이버시를 보장하는 것이 중요하다”고 지적했다.

Alex와 Jordan은 미래를 내다보며 AI 산업에서 예상되는 단기적 혼란과 장기적 혁신에 대해 논의했습니다.Alex는 “맞춤형 AI 솔루션을 통해 광고 및 상거래 부문에 상당한 변화가 있을 것”이라고 언급했습니다.그는 또한 AI가 생명공학, 재료 과학 및 기타 분야에 혁명을 일으킬 잠재력을 강조하면서 “AI 에이전트는 다양한 기업 기능을 지원하여 여러 산업의 혁신을 가속화할 것”이라고 말했습니다.

Alex는 GMI Cloud가 업계에서 쌓아온 탄탄한 기반과 대만의 Google 및 OEM 경험이 있는 핵심 팀의 광범위한 경험을 바탕으로 AI 애플리케이션 구축의 전체 스택을 지원하겠다는 목표를 강조했습니다.그는 지연 시간을 최소화하고 성능을 최적화하기 위해 특히 아시아 태평양 지역의 전략적 데이터 센터 위치가 중요하다고 강조했습니다.Alex는 “우리의 목표는 내년 말까지 30개의 데이터 센터를 보유하여 아시아 전역에 가장 광범위한 GPU 제품군을 제공하고 궁극적으로는 전 세계로 확장하는 것”이라고 설명했습니다.

데모 세션: GMI 클라우드에 라마 3 배포하기

Yujing Qian의 데모 세션에서는 GMI Cloud의 플랫폼 기능을 실제로 시연했습니다.그는 사용자 친화적인 인터페이스와 유연한 컨테이너 솔루션을 강조하면서 이 플랫폼을 통해 Lama 3를 원활하게 배포할 수 있는 방법을 선보였습니다.Yujing은 광범위한 AI 워크로드를 처리하는 GMI Cloud GPU의 강력한 성능을 강조하면서 “우리 플랫폼의 유연성은 빠른 설정과 효율적인 AI 모델 배포를 가능하게 합니다”라고 시연했습니다.

결론

GMI Cloud 가상 이벤트는 강력한 인프라, 전략적 하드웨어 제어 및 사용자 중심 플랫폼을 통해 AI 혁신을 강화하려는 회사의 노력을 강조했습니다.확장성, 효율성 및 보안의 주요 문제를 해결함으로써 GMI Cloud는 AI 인프라 분야의 리더로 자리매김하고 AI의 미래를 구축하는 데 있어 기업과 개발자를 지원할 준비가 되어 있습니다.행사에 참여하여 업계에 대한 귀중한 통찰력을 제공해 준 Jordan Nanos와 HPE 파트너에게 큰 감사를 드립니다.

GMI Cloud에서 더 많은 인사이트와 업데이트를 기대해 주세요.저희를 팔로우해 주세요 링크드인 과 유튜브 AI 산업의 최신 발전을 위해질문이나 의견이 있으면 언제든지 영업팀 (sales@gmicloud.ai) 에 문의하세요.

‍