财经网科技对话 GMI Cloud 亚太区总裁 King:2024 AI 应用海外“淘金”,AI Infra 稳定性挑战巨大

日前,财经网记者与 GMI Cloud 亚太区总裁 King Cui 进行了对话,共同探讨了 AI 应用出海趋势和行业痛点。本文为财经网记者基于 AI 出海及 AI Infra 领域洞察撰写的文章。

December 25, 2024

Why managing AI risk presents new challenges

Aliquet morbi justo auctor cursus auctor aliquam. Neque elit blandit et quis tortor vel ut lectus morbi. Amet mus nunc rhoncus sit sagittis pellentesque eleifend lobortis commodo vestibulum hendrerit proin varius lorem ultrices quam velit sed consequat duis. Lectus condimentum maecenas adipiscing massa neque erat porttitor in adipiscing aliquam auctor aliquam eu phasellus egestas lectus hendrerit sit malesuada tincidunt quisque volutpat aliquet vitae lorem odio feugiat lectus sem purus.

  • Lorem ipsum dolor sit amet consectetur lobortis pellentesque sit ullamcorpe.
  • Mauris aliquet faucibus iaculis vitae ullamco consectetur praesent luctus.
  • Posuere enim mi pharetra neque proin condimentum maecenas adipiscing.
  • Posuere enim mi pharetra neque proin nibh dolor amet vitae feugiat.

The difficult of using AI to improve risk management

Viverra mi ut nulla eu mattis in purus. Habitant donec mauris id consectetur. Tempus consequat ornare dui tortor feugiat cursus. Pellentesque massa molestie phasellus enim lobortis pellentesque sit ullamcorper purus. Elementum ante nunc quam pulvinar. Volutpat nibh dolor amet vitae feugiat varius augue justo elit. Vitae amet curabitur in sagittis arcu montes tortor. In enim pulvinar pharetra sagittis fermentum. Ultricies non eu faucibus praesent tristique dolor tellus bibendum. Cursus bibendum nunc enim.

Id suspendisse massa mauris amet volutpat adipiscing odio eu pellentesque tristique nisi.

How to bring AI into managing risk

Mattis quisque amet pharetra nisl congue nulla orci. Nibh commodo maecenas adipiscing adipiscing. Blandit ut odio urna arcu quam eleifend donec neque. Augue nisl arcu malesuada interdum risus lectus sed. Pulvinar aliquam morbi arcu commodo. Accumsan elementum elit vitae pellentesque sit. Nibh elementum morbi feugiat amet aliquet. Ultrices duis lobortis mauris nibh pellentesque mattis est maecenas. Tellus pellentesque vivamus massa purus arcu sagittis. Viverra consectetur praesent luctus faucibus phasellus integer fermentum mattis donec.

Pros and cons of using AI to manage risks

Commodo velit viverra neque aliquet tincidunt feugiat. Amet proin cras pharetra mauris leo. In vitae mattis sit fermentum. Maecenas nullam egestas lorem tincidunt eleifend est felis tincidunt. Etiam dictum consectetur blandit tortor vitae. Eget integer tortor in mattis velit ante purus ante.

  1. Vestibulum faucibus semper vitae imperdiet at eget sed diam ullamcorper vulputate.
  2. Quam mi proin libero morbi viverra ultrices odio sem felis mattis etiam faucibus morbi.
  3. Tincidunt ac eu aliquet turpis amet morbi at hendrerit donec pharetra tellus vel nec.
  4. Sollicitudin egestas sit bibendum malesuada pulvinar sit aliquet turpis lacus ultricies.
“Lacus donec arcu amet diam vestibulum nunc nulla malesuada velit curabitur mauris tempus nunc curabitur dignig pharetra metus consequat.”
Benefits and opportunities for risk managers applying AI

Commodo velit viverra neque aliquet tincidunt feugiat. Amet proin cras pharetra mauris leo. In vitae mattis sit fermentum. Maecenas nullam egestas lorem tincidunt eleifend est felis tincidunt. Etiam dictum consectetur blandit tortor vitae. Eget integer tortor in mattis velit ante purus ante.

北京时间 12 月 21 日凌晨 2 点半,OpenAI 12 天 12 场直播正式结束,从工具发布到产品升级再到新一代推理模型 o3 的推出。其间,谷歌发布Gemini 2.0,并推出多个 AI Agent 成果。双方产品各项性能大幅提升,逐渐打破 AI 发展陷入瓶颈的质疑。

反观国内,过去一年快速“卷”起来的百模大战让“降价潮”随之而来,今年 9 月 OpenAI 的 o1 模型发布后,技术平权的信号让不少创业者,从拼技术向卷应用无缝衔接。

做一款面向全球的产品,几乎成为 AI 创业者共同的梦想。今年下半年开始,投资人也开始密集出手AI应用,“真实情况可能比表面看上去激烈。”AI 投资人 Jack 表示他已知的至少还有 5 家未对外披露。

“尽快、尽早出海”这是和多名 AI 应用者谈到商业化策略时,绕不开的话题。

01 出海正在成为必选项

曾经基本每个月都有的AI、大模型融资消息,到今年近半年似乎成了“稀罕”事。

红杉资本在《AI in 2025:Buiding Blocks Firmly in Place》一文中提到,2025年AI生态系统将发生重大转变,从2023、2024的狂热开始进入更有结构的格局,更强调提供实际价值和合理的投资回报。

目前,业内普遍认为高额融资不会再频繁出现、“烧钱”的基础大模型加大新投入的可能性变小、商业化进程加速、AI应用百花齐放的趋势有了前兆。据媒体报道,高瓴资本、经纬创投、百度风投、英诺等知名投资机构在下半年纷纷加大投资力度,瞄准AI应用领域的早期项目。

但有意思的是,这些AI应用几乎都有一个共性——所属企业对出海有非常具体的规划,甚至部分应用在海外市场已经验证了其商业化能力。比如今年年中零一万物 CEO 李开复曾透露,零一万物海外生产力应用营收预期超 1 亿元,另有消息称在海外推出的 AI 社交产品 Talkie 是 MiniMax 的主要收入来源。

据非凡产研统计,在全球约 1500 家活跃 AI 企业中,中国出海企业已达 103 家,绝大多数 AI 产品创业公司集中在应用层,占比高达 76 %。

这一现象在 GMI Cloud 亚太区总裁 King Cui 的眼里是大势所趋,并认为出海是一个必选项。“一些传统互联网广告平台的公告收入开始进入负增长,流量逐步缩减,不做 global 定位的话,很难获得高增长。”King 觉得 AI 时代出海是一个确定性趋势,但是出海过程中要找准自己定位,做好 PMF(Product Market Fit,即产品和市场达到最佳的契合点)。

近期,GMI CLoud 宣布完成了 8200 万美元(约 6 亿元人民币)的 A 轮融资,其主要为AI应用出海企业提供GPU资源的 AI Native Cloud 服务商。据悉,GMI CLoud 拥有遍布全球的数据中心网络,可以为全球新创公司、研究机构和大型企业提供稳定安全、高效经济的AI云服务解决方案。

而在刚刚经历了融资过程的 King 看来,“融资难易在不同周期的整个估值体系和融资环境不一样,没有办法把当前的融资困难程度和前些年相比。”

他回顾四年前加入某大厂时资本环境还是比较宽松的,整个二级市场的流动性也非常好,甚至有头部互联网公司希望拿一些资金把市场上的创业公司都投一遍,无差别全覆盖,所以整个一级市场的投融资比较积极,被投企业的估值也会相对更高。

“但是这两年多重因素的影响,市场流动性没那么宽松、投资估值也相对谨慎一些,无论机构还是投资人,对商业模式和经济前景要求变得更高一些,所以出现了所谓的融资越来越难的情况。”当下,他认为创业公司要能帮助企业和社会创造价值,并能把商业模式想得比较清楚,让未来投资回报率更明显,依然可以拿到更多一些融资。

02 AI 企业出海后依旧面临算力挑战  

ChatGPT 之后,行业内反复提到的一个问题是:下一个“杀手级”应用何时出现?纵观整个行业,从 AI 驱动的助手到特定行业的专业工具,都在被探索,出海的 AI 应用同样是五花八门,目前主要受欢迎的则集中在图片、视频生成和编辑,情感陪伴,效率工具等。

但是,根据非凡产研发布的 2024 年 11 月出海 AI WEB 月活榜及月活增速榜显示,出海 AI WEB 流量榜 Top 100 中,超 50 款产品 11 月访问量环比下降。显然,要在海外站稳脚跟,并非易事。

AI 应用出海,除了适应本土化产品需求,技术本身至关重要,King 表示 AI 应用出海绕不开 AI 三驾马车——数据、算法、算力。在数据层面,要解决好数据传输合规性问题;在算法层面则需要一些比较优秀的人才;在算力层面需要比较稳定安全高效的 GPU 集群。

就比如,科技巨头 Meta 前段时间发布的一个报告显示, Meta 用了超过 16000 张的 H100 GPU,训练 Llama3 405B 大模型,耗时 54 天出现了 466 次中断故障。其中有419次是计划外的,而跟 GPU 相关得高达 58.7%,超200次,CPU 相关故障则只有 2 次。

“可见 GPU 集群稳定性的挑战是 CPU 的两个数量级,然而一般 AI 出海的企业不太具备大规模 GPU 集群运维的能力。”据 King 透露,目前 GMI Cloud 的研发人员中  70% 是产品和研发相关,核心研发骨干由两个背景构成,一是在智算领域有 Infra 背景,二是在谷歌等企业有深度学习背景的,前者致力于解决 GPU 集群在 Infra 层面的稳定性和突发问题,后者满足客户算法调优的需求。

“目前我们可以实现 K8s 的 99% 的 SLA,给AI出海企业提供一个非常稳定、高效的 GPU 集群,减少企业在这方面的投入,他们可以更加聚焦在整个业务的发展。”

那如何去实现较高 SLA 的可能性?King 介绍道,Cluster Engine 是 GMI Cloud 自主研发的平台,整合了对 GPU 芯片、 GPU 集群节点、存储以及高效网络的控制。“通过这个平台把 GPU 集群管理起来后,会以虚拟机或 K8s 容器的方式进行交付,再把每一张卡的运行状态监控起来,一旦发现某一张卡异常之后,会第一时间把任务重新调度到另外一个容器里,或者另外一张卡去运行。”

在存储方面,King 表示 GMI Cloud 会根据客户的不同数据应用场景提供合适的存储解决方案。网络层面则提供高速的 IB 网络,另外 IB 本身也做了一些虚拟化的技术,一方面增加 IB 网络负载,另一方面通过虚拟化的技术,屏蔽不同的训练任务对于整个网络通路的占用,从而确保资源的隔离。“在计算、存储、网络三个层面通过软件技术保障高 SLA。”

另外在 2024 年 9 月 12 日 OpenAI 宣布推理模型 o1 正式发布后,业内基本形成推理需求即将爆发的共识。据King透露从 10 月他们就着手研发一款名为 Inference Engine 的产品,一款针对推理场景的云平台服务,预计 1.0 版在 2 个月内上线。

03 创企与“大厂”呈补位关系

很显然,目前AI应用企业大规模走向海外,数据、算力等挑战依然存在。作为支撑大模型运行以及生成式 AI 应用开发的关键,AI Infra 的价值潜力被进一步释放。

中金公司指出,目前 AI Infra 产业处于高速增长的发展早期,未来 3-5 年内各细分赛道有望保持超过 30% 的高速增长。另据红杉资本、贝恩等机构统计,预计到 2027 年,全球AI市场规模将飙升至近 1 万亿美元,AI 硬件和服务市场年增长率达 40%-55%。

值得注意的是,AI Infra 不仅包括硬件、软件和网络等基础架构,还涵盖了数据管理、模型训练、推理服务等多个层面。在创业公司里,有的专注做数据标注、数据质量或模型架构,有的则做 GPU 的“贸易商”。根据 King 的观察,目前具备 AI Native Cloud,同时拥有硬件供应链优势和软件平台双重能力的新创公司还不多。

而 AWS、GCP、Azure 这些云计算巨头厂商,无疑是有这些能力的。因此关于初创 AI Infra 会不会和云厂商产生正面冲突,是一直被圈内人好奇的关注点之一。King 认为时代不断在发展,进而有新的需求产生,另外也有可能当下的需求在大厂那得不到了很好地满足,所以才有了创业公司的机会。

“我认为是一种补位的关系,共同去解决社会和客户的需求。”相较于大厂和其他创企,King 总结了三点 GMI Cloud 的差异化优势:一是安全的供应链、二是高性价比、三是产品能力,“这三个能力离不开 GMI CLoud 的融资能力、GPU ODM 厂商直供的稳定供应链以及 GMI Cloud 顶尖研发团队的技术能力。”

早期谈启动 AI 创业时,有一种说法是要走出大厂的“射程”,现在谈创业公司结局,有一种说法则是最好的是被大厂并购。

对于被收购这件事,King 认为是一部分创业公司最终的归宿,他个人觉得,“挺好的,一方面对于初创公司的投资人,有了退出的机制,对于创业公司来讲,它有了更多的资源,可以把整个集团公司的成本和方案把握得更好。”

另一方面对于大厂来讲,“原本在这个领域里面可能自身有一定的短板,通过投资并购的一些创业公司,补齐了自身在这个领域的短板,或者说和原本主营业务有了更好的协同。对于社会和客户来讲,也可以减少一些更多的资源的浪费。”

但是他也说道,是不是最好的结果要按不同的个体、不同的场景来判断。“可能对一些公司来讲,它被大厂收购就是一个最好的结果,但对于有些公司来讲,其实自己能够做大就是好的结果。”

“AI 一天,人间一年”坊间常以此来形容发展速度之快,从而市场需求也在随之变化。但正如百度创始人李彦宏所说,大公司反应都是很慢的,而创业公司所具有的创新优势正好和大厂相辅相成,共同推动行业进步。

过去一年多,AI Infra 已成热门赛道,国内外大厂都在发力 AI Infra 技术产品,如阿里云的磐久 Al Infra 2.0 服务器、百度智能云的百舸 AI 异构计算平台,与此同时,专注于解决某一垂直问题的 AI Infra 初创公司也拥有了比较广阔的市场,譬如 GMI Cloud 为 AI 出海企业提供高稳定的 GPU 云解决方案。

万亿市场中,创业公司和大厂都在以探索之势寻找适合自己的发展路径,以期在这场技术革命中占据一席之地。伴随着技术的不断成熟和市场的加速扩展,AI Infra 的重要性也不言而喻。

如果您想要了解有关 GMI Cloud 的信息

请关注我们并建立联系

图片

即刻开始

试用 GMI Cloud 算力服务,即刻体验高效的 AI 应用构建。

即刻开始
14 天试用
无长期合同约束
无需部署设置
按需 GPU

低至

$ 4.39 /GPU-小时

立即开始使用
预留 GPU

低至

$ 2.50 /GPU-小时

立即开始使用