GMI Cloud × DA 数智大会 | 基于高稳定性 GPU 集群的 AI 出海研发提效实践
GMI Cloud 亚太区总裁 King Cui 在 Datafun 主办的“ DA 数智大会 2024·深圳站”进行了公开演讲，本文为该次演讲内容纪要。
Why managing AI risk presents new challenges
Aliquet morbi justo auctor cursus auctor aliquam. Neque elit blandit et quis tortor vel ut lectus morbi. Amet mus nunc rhoncus sit sagittis pellentesque eleifend lobortis commodo vestibulum hendrerit proin varius lorem ultrices quam velit sed consequat duis. Lectus condimentum maecenas adipiscing massa neque erat porttitor in adipiscing aliquam auctor aliquam eu phasellus egestas lectus hendrerit sit malesuada tincidunt quisque volutpat aliquet vitae lorem odio feugiat lectus sem purus.
- Lorem ipsum dolor sit amet consectetur lobortis pellentesque sit ullamcorpe.
- Mauris aliquet faucibus iaculis vitae ullamco consectetur praesent luctus.
- Posuere enim mi pharetra neque proin condimentum maecenas adipiscing.
- Posuere enim mi pharetra neque proin nibh dolor amet vitae feugiat.
The difficult of using AI to improve risk management
Viverra mi ut nulla eu mattis in purus. Habitant donec mauris id consectetur. Tempus consequat ornare dui tortor feugiat cursus. Pellentesque massa molestie phasellus enim lobortis pellentesque sit ullamcorper purus. Elementum ante nunc quam pulvinar. Volutpat nibh dolor amet vitae feugiat varius augue justo elit. Vitae amet curabitur in sagittis arcu montes tortor. In enim pulvinar pharetra sagittis fermentum. Ultricies non eu faucibus praesent tristique dolor tellus bibendum. Cursus bibendum nunc enim.
How to bring AI into managing risk
Mattis quisque amet pharetra nisl congue nulla orci. Nibh commodo maecenas adipiscing adipiscing. Blandit ut odio urna arcu quam eleifend donec neque. Augue nisl arcu malesuada interdum risus lectus sed. Pulvinar aliquam morbi arcu commodo. Accumsan elementum elit vitae pellentesque sit. Nibh elementum morbi feugiat amet aliquet. Ultrices duis lobortis mauris nibh pellentesque mattis est maecenas. Tellus pellentesque vivamus massa purus arcu sagittis. Viverra consectetur praesent luctus faucibus phasellus integer fermentum mattis donec.
Pros and cons of using AI to manage risks
Commodo velit viverra neque aliquet tincidunt feugiat. Amet proin cras pharetra mauris leo. In vitae mattis sit fermentum. Maecenas nullam egestas lorem tincidunt eleifend est felis tincidunt. Etiam dictum consectetur blandit tortor vitae. Eget integer tortor in mattis velit ante purus ante.
- Vestibulum faucibus semper vitae imperdiet at eget sed diam ullamcorper vulputate.
- Quam mi proin libero morbi viverra ultrices odio sem felis mattis etiam faucibus morbi.
- Tincidunt ac eu aliquet turpis amet morbi at hendrerit donec pharetra tellus vel nec.
- Sollicitudin egestas sit bibendum malesuada pulvinar sit aliquet turpis lacus ultricies.
“Lacus donec arcu amet diam vestibulum nunc nulla malesuada velit curabitur mauris tempus nunc curabitur dignig pharetra metus consequat.”
Benefits and opportunities for risk managers applying AI
Commodo velit viverra neque aliquet tincidunt feugiat. Amet proin cras pharetra mauris leo. In vitae mattis sit fermentum. Maecenas nullam egestas lorem tincidunt eleifend est felis tincidunt. Etiam dictum consectetur blandit tortor vitae. Eget integer tortor in mattis velit ante purus ante.
2024 年 10 月 26 日，GMI Cloud 亚太区总裁 King Cui 在 Datafun 主办的“ DA 数智大会 2024·深圳站”进行了公开演讲，演讲主题为《GMI Cloud：基于高稳定性 GPU 集群的AI应用研发提效探索》。该演讲聚焦于 AI 企业在全球发展的趋势与挑战，以及 GMI Cloud 如何通过其高稳定性 GPU 集群技术，助力 AI 企业在全球市场上的扩张和成功。
在这场演讲中，King 分享了 GMI Cloud 对于 AI 企业全球化发展的深刻洞察，并详细介绍了公司如何通过其先进的 GPU 云服务，支持AI企业在海外市场的技术研发和业务扩展。GMI Cloud 的目标是“打造一个 AI Cloud 时代的台积电”，为全球企业提供中立、独立的 AI cloud 服务，专注于底层 cloud 产品和形态的创新，而不涉足 PaaS 或 SaaS，确保客户数据的安全性和中立性。
King 表示，“随着 AI 技术的快速发展，AI 企业正面临着前所未有的全球化机遇。GMI Cloud致力于通过其在亚太区的 GPU 优先分配权和 Nvidia Cloud Partner 地位，为AI企业提供强大的算力支持。GMI Cloud 的技术团队，源自Google X ，拥有丰富的 AI 云平台构建经验，能够为 AI 企业提供从技术咨询到模型调优的全方位服务。GMI Cloud 的全球战略布局，目前在美国和亚太地区拥有多个 GPU 服务节点。”
以下为本次演讲精华整理：
King 将云计算的发展分为三个阶段，每个阶段都标志着技术和社会的一次重大飞跃。
- Cloud 1.0（2010-2015）：Cloud Base，企业开始将传统的IDC业务迁移到云端，这一时期的云服务主要以裸金属形态存在，企业开始尝试和适应云的新模式。
- Cloud 2.0（2016-2022）：Cloud Native，用户和企业从简单的云上云转变为深度用云，PaaS产品从裸金属 base 转变为VM base，客户开始更多地使用云厂商提供的PaaS产品，专注于自身业务的研发提效。
- Cloud 3.0（2022年至今）：Cloud 3.0 标志着 AI Native Cloud 时代的到来，以 OpenAI 发布 GPT 为起点，AI浪潮席卷全球。这一阶段的云产品形态与前两个阶段有显著不同，计算、存储和网络产品都发生了重大变化，如从 CPU 计算转向 GPU 计算，存储需求也从传统的文件存储、对象存储转变为需要更高速的存储，如 GBFS，网络也同样需要适应GPU集群的高速网络需求。
AI 推动了云计算的发展。然而，在这个 AI 时代，AI 企业在全球的发展将是一个确定性趋势，未来三年将进入高速发展阶段。AI 技术的发展速度和对人类生活的影响日益增强，尽管 AI 技术的发展处于早期阶段，但已经展现出巨大的潜力和机会。
机会与挑战并存，AI 企业在全球的发展机遇很多,但往往都面临着算力不足的巨大挑战。King 表示，中国的 AI 发展在基础算力方面与美国尚存在差距，特别是在 GPU 算力方面。此外， AI 基础设施（AI Infra）的挑战也非常大，因为 GPU 的故障率远高于 CPU，而许多公司缺乏相关的 AI Infra 经验。
而 GMI Cloud 则致力于支持 AI 应用开发者，提供高稳定性的 GPU 集群，以提高 AI 应用的研发效率和产品竞争力。
GMI Cloud是一个全栈AI应用平台，通过Kubernetes和HPC Slurm管理调度资源，满足AI和HPC需求。通过构建万卡集群，采用三层网络架构，保障GPU卡间网络带宽，实现相互通信。通过IB虚拟化技术提高网络效率、降低成本，基于IBA网络实现VPC，划分多个VBC，提高集群使用效率，实现多租户模式。在存储方面，GMI Cloud根据场景和成本提供多种存储方案，满足不同I/O需求。不仅如此，该平台还具备多种监控功能，保障集群稳定，方便 IT 人员管理。另外值得一提的是，作为Nvidia认证伙伴，GMI Cloud有严格验证体系，同时制定故障预防策略，与相关厂商规划，保证故障快速恢复和数据中心高效运行。
在演讲的最后，King 为 AI 企业在基础设施的选型提出了恳切建议——企业在选择 AI Infra 时，需要基于业务需求、成本效益和技术发展等多个维度进行综合考量。他强调了两种主要的选型策略，即长期稳定的负载和短期临时需求。对于需要长期稳定运行的AI工作负载，King建议企业选择私有云（Private Cloud）或公有云专区。这种模式能够提供更高的性能、安全性和定制化服务，适合对数据处理和存储有严格要求的企业。而对于短期项目或临时需求，如模型测试和开发，King推荐使用按需服务（On-Demand Service）。这种灵活的服务模式可以根据实际使用情况快速扩展或缩减资源，有效降低成本。
如果您想要了解有关 GMI Cloud 的信息
请关注我们并建立联系
