英伟达 GPU 用量削减 82%！阿里云用 213 张卡干 1192 张卡的活

IT之家 10 月 18 日消息，英伟用量云用南华早报今天（10 月 18 日）发布博文，削减报道称在韩国首尔举办的阿里霸器txt下载第 31 届操作系统原理研讨会（SOSP）上，阿里云发布的干张“Aegaeon”的计算池化解决方案研究成果成功入选，可解决 AI 模型服务中普遍存在的英伟用量云用 GPU 资源浪费问题。

IT之家查询公开资料，削减SOSP 是阿里计算机操作系统领域的顶尖会议，相当于计算机操作系统界的干张“奥斯卡”，其录取率控制非常严格，英伟用量云用平均每年收录的削减论文数量仅有数十篇，入选论文代表了操作系统和软件领域最具代表的阿里霸器txt下载研究成果。

博文称云服务商当前在提供 AI 模型服务时，干张面临着严重的英伟用量云用资源效率低下问题。平台需要同时托管数千个 AI 模型以处理海量并发 API 调用，削减但用户请求往往高度集中在少数几个热门模型上，阿里例如阿里巴巴的 Qwen 系列模型。

研究人员发现，这种“长尾效应”导致了严重的资源闲置：在阿里云的模型市场中，竟有 17.7% 的 GPU 算力仅被用于处理 1.35% 的请求，造成了巨大的成本浪费。

为解决这一痛点，Aegaeon 系统应运而生。它通过创新的 GPU 资源池化技术，允许单个 GPU 动态服务于多个不同的 AI 模型，打破了以往 GPU 与特定模型绑定的低效模式。

在阿里云模型市场进行的为期超过三个月的 Beta 测试中，Aegaeon 系统展现了卓越的效能。测试数据显示，服务数十个参数量高达 720 亿的大模型，所需的英伟达 H20 GPU 数量从 1192 个成功减少至 213 个，数量削减高达 82%。

这项由北京大学与阿里云合作的研究成果，被认为是“首个揭示并解决市场上并发大语言模型服务存在过高成本”的公开工作，为行业提供了全新的优化思路。

值得一提的是，阿里云首席技术官周靖人也是该论文的作者之一。周靖人是国际电气与电子工程师协会会士（IEEE Fellow），国际计算机协会会士（ACM Fellow），阿里巴巴集团副总裁，阿里云智能 CTO、达摩院副院长。