GMI Cloud로 AI 음성 에이전트를 구축하는 방법

Why managing AI risk presents new challenges

Aliquet morbi justo auctor cursus auctor aliquam. Neque elit blandit et quis tortor vel ut lectus morbi. Amet mus nunc rhoncus sit sagittis pellentesque eleifend lobortis commodo vestibulum hendrerit proin varius lorem ultrices quam velit sed consequat duis. Lectus condimentum maecenas adipiscing massa neque erat porttitor in adipiscing aliquam auctor aliquam eu phasellus egestas lectus hendrerit sit malesuada tincidunt quisque volutpat aliquet vitae lorem odio feugiat lectus sem purus.

Lorem ipsum dolor sit amet consectetur lobortis pellentesque sit ullamcorpe.
Mauris aliquet faucibus iaculis vitae ullamco consectetur praesent luctus.
Posuere enim mi pharetra neque proin condimentum maecenas adipiscing.
Posuere enim mi pharetra neque proin nibh dolor amet vitae feugiat.

The difficult of using AI to improve risk management

Viverra mi ut nulla eu mattis in purus. Habitant donec mauris id consectetur. Tempus consequat ornare dui tortor feugiat cursus. Pellentesque massa molestie phasellus enim lobortis pellentesque sit ullamcorper purus. Elementum ante nunc quam pulvinar. Volutpat nibh dolor amet vitae feugiat varius augue justo elit. Vitae amet curabitur in sagittis arcu montes tortor. In enim pulvinar pharetra sagittis fermentum. Ultricies non eu faucibus praesent tristique dolor tellus bibendum. Cursus bibendum nunc enim.

Id suspendisse massa mauris amet volutpat adipiscing odio eu pellentesque tristique nisi.

How to bring AI into managing risk

Mattis quisque amet pharetra nisl congue nulla orci. Nibh commodo maecenas adipiscing adipiscing. Blandit ut odio urna arcu quam eleifend donec neque. Augue nisl arcu malesuada interdum risus lectus sed. Pulvinar aliquam morbi arcu commodo. Accumsan elementum elit vitae pellentesque sit. Nibh elementum morbi feugiat amet aliquet. Ultrices duis lobortis mauris nibh pellentesque mattis est maecenas. Tellus pellentesque vivamus massa purus arcu sagittis. Viverra consectetur praesent luctus faucibus phasellus integer fermentum mattis donec.

Pros and cons of using AI to manage risks

Commodo velit viverra neque aliquet tincidunt feugiat. Amet proin cras pharetra mauris leo. In vitae mattis sit fermentum. Maecenas nullam egestas lorem tincidunt eleifend est felis tincidunt. Etiam dictum consectetur blandit tortor vitae. Eget integer tortor in mattis velit ante purus ante.

Vestibulum faucibus semper vitae imperdiet at eget sed diam ullamcorper vulputate.
Quam mi proin libero morbi viverra ultrices odio sem felis mattis etiam faucibus morbi.
Tincidunt ac eu aliquet turpis amet morbi at hendrerit donec pharetra tellus vel nec.
Sollicitudin egestas sit bibendum malesuada pulvinar sit aliquet turpis lacus ultricies.

“Lacus donec arcu amet diam vestibulum nunc nulla malesuada velit curabitur mauris tempus nunc curabitur dignig pharetra metus consequat.”

Benefits and opportunities for risk managers applying AI

이 기사는 GMI Cloud의 기술 데모 시리즈의 일부입니다.

최근 ChatGPT 4o가 출시되면서 AI 음성 에이전트가 대중의 시선을 사로잡았습니다.그러나 많은 기업에서 이러한 형태의 AI는 고객 상호 작용을 자동화 및 개선하고 내부 운영을 간소화하여 성장과 수익성을 촉진하는 도구로 이미 주목을 받고 있습니다.이 기사에서는 GMI Cloud를 사용하여 필요한 모든 도구를 한 곳에 모아 AI 음성 상담원을 만드는 방법을 살펴보겠습니다.

GMI 클라우드로 AI 보이스 에이전트 만들기

기본적으로 AI 음성 에이전트는 LLM과 유사하지만 응답을 음성으로 추상화하려면 추가 계층이 필요합니다.음성 에이전트는 음성을 입력으로 받아 LLM으로 처리한 다음 음성을 사용하여 응답을 반환해야 합니다.추가 엔진을 사용하여 응답을 사용자 지정하고 감정 및 방해 관리와 같은 기능을 추가할 수 있습니다.GMI Cloud는 기존 오픈소스 모델을 사용하여 AI 음성 에이전트를 구축하는 데 필요한 모든 소프트웨어 계층을 구성했습니다.

데모 비디오

단계별 가이드:

1.GMI 클라우드 플랫폼에 로그인

계정 생성 또는 이전에 생성한 계정을 사용하여 로그인

2.컨테이너 실행

페이지 왼쪽의 탐색 막대를 사용하여 '컨테이너' 페이지로 이동합니다.
오른쪽 상단 모서리에 있는 '컨테이너 실행' 버튼을 클릭합니다.

3.모델 템플릿과 파라미터를 선택하세요

첫 번째 드롭다운 메뉴에서 ASR 및 TTS가 포함된 GMI Cloud 음성 에이전트 템플릿을 선택합니다.(데모에서는 Chat GLM 6B를 상담원의 LM으로 사용하지만 Lama 3과 같은 모든 모델로 대체할 수 있습니다.)
'하드웨어 리소스 선택' 섹션에서 배포하려는 하드웨어 유형 (예: NVIDIA H100) 을 선택합니다.이렇게 하면 특정 매개변수가 자동으로 채워집니다.
스토리지, 인증 및 컨테이너 이름에 대한 세부 정보 입력

4.시작 컨테이너:

페이지 하단에서 '컨테이너 시작'을 클릭합니다.
'컨테이너' 페이지로 돌아가면 입력한 컨테이너 이름으로 방금 생성한 컨테이너를 볼 수 있습니다.
Jupyter Notebook 아이콘을 클릭하여 컨테이너에 연결합니다.
여기에서 공용 라이브러리를 가져오고 허깅 페이스 토큰을 입력할 수 있습니다.

5.추가 기능 추가 및 테스트

Jupyter Notebook 작업 공간 내에 텍스트 변환 및 음성 응답 기능 추가
그라디오 UI를 사용하여 함수 실행
테스트를 위해 공용 UI에서 실행

AI 보이스 에이전트의 새로운 도래: 인터랙션 및 운영 혁신

AI 음성 에이전트의 사용 사례는 매우 광범위합니다.간단히 말해 대화에 기반한 모든 서비스 또는 기능은 이제 이론적으로 AI 음성 에이전트를 사용하여 수행할 수 있습니다.

다음은 AI 음성 에이전트가 비즈니스에 도움이 될 수 있는 몇 가지 예시입니다.

대규모 콜 센터와 다국어 직원이 필요하지 않으므로 기업은 글로벌 범위를 확장하고 비례적인 비용 증가 없이 연중무휴 고품질 서비스를 제공할 수 있습니다.대규모 AI는 고객 서비스 생산성을 30~ 50% 까지 높일 수 있는 것으로 추정됩니다.
리드 검증, 후속 일정 관리, CRM 시스템으로의 데이터 입력과 같은 영업 프로세스를 간소화하여 영업 효율성과 데이터 정확도를 최대 10% 개선합니다.
임원 및 기타 직원 모두를 위한 강력한 개인 비서 역할 수행
인력을 보다 복잡한 작업에 투입하고 운영 비용을 절감할 수 있습니다.예를 들어 자주 묻는 HR 요청에 음성 상담원을 사용하거나 IT 문제를 해결할 수 있습니다.

GMI 클라우드를 선택해야 하는 이유

접근성:

GMI Cloud는 H100 및 H200 모델을 포함한 최신 엔비디아 GPU에 대한 광범위한 액세스를 보장합니다.아시아에 기반을 둔 데이터 센터와 인증 파트너인 NVIDIA와의 긴밀한 관계를 활용하여 AI 및 머신 러닝 요구 사항을 충족하는 탁월한 GPU 액세스를 제공합니다.

사용 편의성:

당사의 플랫폼은 오케스트레이션, 가상화 및 컨테이너화를 위해 설계된 풍부한 소프트웨어 스택을 통해 AI 배포를 간소화합니다.GMI Cloud 솔루션은 TensorRT와 같은 NVIDIA 도구와 호환되며 사전 빌드된 이미지와 함께 제공되므로 AI 워크플로를 쉽게 시작하고 효율적으로 관리할 수 있습니다.

퍼포먼스:

GMI Cloud는 AI 모델의 학습, 추론 및 미세 조정에 필수적인 고성능 컴퓨팅을 제공합니다.Gloma 인프라는 비용 효율적이고 효율적인 운영을 보장하도록 최적화되어 있어 Lama 3와 같은 모델의 잠재력을 극대화할 수 있습니다.

GMI Cloud는 모든 AI 요구 사항을 충족하는 풀스택 AI 플랫폼을 제공하므로 여러 계층의 기능이 필요한 음성 에이전트와 같은 기능을 구축하는 데 이상적입니다.통합 솔루션을 사용하면 AI 프로세스를 간소화하고 성능을 개선하며 운영의 보안 및 규정 준수를 보장할 수 있습니다.

리소스

‍