突破 AI 基礎建設瓶頸：來自 VAST Data 亞太巡迴研討會的關鍵對策

Why managing AI risk presents new challenges

Aliquet morbi justo auctor cursus auctor aliquam. Neque elit blandit et quis tortor vel ut lectus morbi. Amet mus nunc rhoncus sit sagittis pellentesque eleifend lobortis commodo vestibulum hendrerit proin varius lorem ultrices quam velit sed consequat duis. Lectus condimentum maecenas adipiscing massa neque erat porttitor in adipiscing aliquam auctor aliquam eu phasellus egestas lectus hendrerit sit malesuada tincidunt quisque volutpat aliquet vitae lorem odio feugiat lectus sem purus.

Lorem ipsum dolor sit amet consectetur lobortis pellentesque sit ullamcorpe.
Mauris aliquet faucibus iaculis vitae ullamco consectetur praesent luctus.
Posuere enim mi pharetra neque proin condimentum maecenas adipiscing.
Posuere enim mi pharetra neque proin nibh dolor amet vitae feugiat.

The difficult of using AI to improve risk management

Viverra mi ut nulla eu mattis in purus. Habitant donec mauris id consectetur. Tempus consequat ornare dui tortor feugiat cursus. Pellentesque massa molestie phasellus enim lobortis pellentesque sit ullamcorper purus. Elementum ante nunc quam pulvinar. Volutpat nibh dolor amet vitae feugiat varius augue justo elit. Vitae amet curabitur in sagittis arcu montes tortor. In enim pulvinar pharetra sagittis fermentum. Ultricies non eu faucibus praesent tristique dolor tellus bibendum. Cursus bibendum nunc enim.

Id suspendisse massa mauris amet volutpat adipiscing odio eu pellentesque tristique nisi.

How to bring AI into managing risk

Mattis quisque amet pharetra nisl congue nulla orci. Nibh commodo maecenas adipiscing adipiscing. Blandit ut odio urna arcu quam eleifend donec neque. Augue nisl arcu malesuada interdum risus lectus sed. Pulvinar aliquam morbi arcu commodo. Accumsan elementum elit vitae pellentesque sit. Nibh elementum morbi feugiat amet aliquet. Ultrices duis lobortis mauris nibh pellentesque mattis est maecenas. Tellus pellentesque vivamus massa purus arcu sagittis. Viverra consectetur praesent luctus faucibus phasellus integer fermentum mattis donec.

Pros and cons of using AI to manage risks

Commodo velit viverra neque aliquet tincidunt feugiat. Amet proin cras pharetra mauris leo. In vitae mattis sit fermentum. Maecenas nullam egestas lorem tincidunt eleifend est felis tincidunt. Etiam dictum consectetur blandit tortor vitae. Eget integer tortor in mattis velit ante purus ante.

Vestibulum faucibus semper vitae imperdiet at eget sed diam ullamcorper vulputate.
Quam mi proin libero morbi viverra ultrices odio sem felis mattis etiam faucibus morbi.
Tincidunt ac eu aliquet turpis amet morbi at hendrerit donec pharetra tellus vel nec.
Sollicitudin egestas sit bibendum malesuada pulvinar sit aliquet turpis lacus ultricies.

“Lacus donec arcu amet diam vestibulum nunc nulla malesuada velit curabitur mauris tempus nunc curabitur dignig pharetra metus consequat.”

Benefits and opportunities for risk managers applying AI

「基礎建設就是最大瓶頸」— 這句話在 VAST Data 的新加坡和雪梨巡迴演講中引起強烈共鳴。當全球企業都在擁抱 AI 和機器學習帶來的轉型機會時，卻遇到了基礎建設的重重阻礙，使得發展腳步變得緩慢。在新加坡（10/29）和雪梨（11/28）的 VAST Data 巡迴研討會上，來自 GMI Cloud、NVIDIA、VAST Data 和 FPT Smart Cloud 的產業領袖們分享了他們對這些挑戰的見解和解決之道。

企業在建置 AI 基礎建設時，主要面臨以下幾個關鍵挑戰：

高效能 GPU 供不應求
網路效能瓶頸
資安防護漏洞
資源管理工具不足

高效能 GPU 供不應求

高效能 GPU 的短缺，不僅推高了成本，更嚴重影響了各產業的 AI 專案時程。
企業在擴展 AI 和機器學習能力時，需要 GPU 提供的強大運算資源，才能有效處理大量資料並加速模型訓練。但是，GPU 資源的稀缺往往導致部署時程延長、成本提高，有時甚至只能使用老舊硬體，阻礙了創新的腳步。
這種限制對預算有限的中小企業和新創公司特別不利，因為大型科技公司通常已經搶佔了大部分的 GPU 供應。
因此，許多產業開始尋找替代方案，像是雲端 GPU 租用服務、FPGA（可程式化閘陣列）技術，以及各種資源優化技術。新型態的雲端服務商如 GMI Cloud，就致力於提供高效能、平價且可靠的 GPU 資源，以解決這些瓶頸。

‍

‍網路效能瓶頸

傳統的網路架構難以應付現代 AI 工作負載所需的巨大資料傳輸量，造成嚴重的效能瓶頸。
AI 模型規模和資料集複雜度的指數級成長，對網路效能提出了前所未有的要求。許多組織發現他們既有的基礎建設無法維持所需的資料傳輸速度，導致 GPU 使用率下降、訓練時間拉長，以及資源使用效率低落。這個問題在分散式訓練的情境下特別嚴重，網路延遲會嚴重影響模型收斂和整體訓練效率。
解決網路瓶頸的現代方案需要在儲存和運算資源之間建立直接的資料傳輸路徑，減少不必要的網路跳躍並降低延遲。像是 GPUDirect Storage 這類技術可以大幅提升資料傳輸效率，而先進的資料串流架構則能確保穩定的高速處理效能。在 VAST Data 平台和 GMI Cloud 基礎建設的整合中，就充分展現了這些能力，透過直接的資料路徑和最佳化的協定來提升資源使用效率。

‍‍

資安防護漏洞

AI 工作負載的複雜度與日俱增，帶來了傳統基礎建設方案難以應付的新興資安挑戰。
隨著 AI 系統處理越來越敏感的資料，組織面臨著複雜的資料保護、存取控制和法規遵循需求。AI 工作負載的分散式特性，加上高效能運算的需求，造就了可能危害重要智慧財產和敏感訓練資料的潛在漏洞。傳統的資安措施往往會帶來效能負擔，嚴重影響 AI 工作負載的效率。
AI 基礎建設的有效安全防護需要多層次的方法，結合強大的加密、細粒度的存取控制和持續監控，同時不犧牲效能。透過零信任架構和硬體層級的安全功能，組織可以在維持高傳輸量的同時保護他們的 AI 資產。這種方法在 VAST Data 和 GMI Cloud 實作的安全框架中得到充分展現，為整個 AI 流程提供全面的保護。

‍

資源管理工具不足

組織在有效管理和優化 AI 基礎建設資源時面臨困境，導致資源使用率偏低和營運成本增加。
AI 工作負載的動態特性需要能適應變化需求的複雜資源管理能力。許多組織缺乏有效編排 AI 基礎建設的工具和專業知識，導致資源衝突、配置效率低下，以及擴展營運的困難。在維持效能和成本效益的同時平衡競爭的工作負載，更使這個挑戰雪上加霜。

‍

為什麼選擇 VAST DATA 和 GMI Cloud？

在 AI 和機器學習產業中，選對基礎建設夥伴對企業成功至關重要。VAST DATA 和 GMI Cloud 的合作帶來四大獨特優勢：

統一的資料架構

這個合作的核心是一個無縫整合 NFS 和物件儲存功能的統一資料架構，同時提供完整的資料準備和管線工具。這種統一的方法確保了儲存和運算資源之間的資料流動順暢，消除傳統的資料孤島並加速 AI 工作流程。

企業級效能

這個解決方案透過精密的自動容錯機制，提供持續的高速資料傳輸，同時確保零停機時間。全天候的主動監控系統能即時回應，在問題影響營運前就先發現並解決，確保企業客戶要求的可靠性。

彈性的部署選項

組織能依據特定需求選擇最適合的部署方式。這個合作提供長期營運的保留實例和臨時工作負載的隨需定價，再加上強大的混合雲功能。這種彈性讓組織能在最佳化基礎建設成本的同時，保持 AI 營運的靈活擴展性。

進階編排

這個精密的編排層深度整合了 Kubernetes 和完整的管理 API，自動化資源優化並簡化複雜的部署情境。這讓組織能專注於創新而不是基礎建設管理，打造一個更有效率、更易擴展、更好管理的 AI 基礎建設，能隨企業需求成長。

展望未來

VAST Data 與 GMI Cloud 的合作不只是技術聯盟，更是致力於解決 AI 採用時面臨的基本基礎建設挑戰。從新加坡和雪梨的討論可以看出，組織需要的不只是強大的技術，更需要可靠、安全、且能隨 AI 願景成長的擴展性解決方案。
隨著 GMI Cloud 最近完成 8,200 萬美元的 A 輪募資，加上 VAST Data 在企業市場的豐富經驗，這個合作關係必能持續為以 AI 為導向的組織提供創新解決方案。

想了解 VAST Data 和 GMI Cloud 如何協助企業轉型 AI 基礎建設，請參閱：聯絡我們的解決方案團隊。

‍