英伟达与迈络思携手：以 IB 组网与算力调度构建高效 GPU 池化管理体系

在人工智能飞速发展的当下，算力已成为驱动技术进步与产业变革的核心要素。其中，高性能的网络连接、科学的算力调度以及高效的 GPU 资源管理，对于发挥算力的最大效能至关重要。英伟达与迈络思在此领域深度协作，借助 InfiniBand（IB）组网技术、算力调度策略以及 GPU 池化管理方案，为各行业提供强大且灵活的算力支持。

InfiniBand 组网：高性能计算的基石

InfiniBand 作为一种高性能计算和数据中心网络技术，自诞生起便致力于突破传统网络的性能瓶颈。其设计目标聚焦于为数据中心和企业级网络提供卓越的性能与出色的可扩展性。在过去，随着外部设备的不断增加，传统的 PCI 总线升级缓慢，严重制约了 I/O 性能，成为整个系统的短板。为解决这一困境，InfiniBand 应运而生。它引入了 RDMA（Remote Direct Memory Access，远程直接数据存取）协议，带来了更低的延迟、更大的带宽以及更高的可靠性，极大地提升了 I/O 性能。

从网络架构来看，InfiniBand 网络主要由 HCA（Host Channel Adapter，主机通道适配器）、TCA（Target Channel Adapter，目标通道适配器）、InfiniBand link（连接通道，包括电缆、光纤或板上链路）以及 InfiniBand 交换机和路由器组成。HCA 通常以网卡的形式存在于服务器中，作为连接 IB 网络的终端节点，能够执行传输层功能并支持 verbs 接口，为 IB 设备提供编程接口。而 InfiniBand 交换机则负责在 IB 网络间转发消息，子网管理器（SM）作为管理 IB 子网的软件，可运行在主机、交换机上，或与统一流量管理器（UFM）协同部署，实现对整个网络的集中路由管理，赋予网络即插即用的便捷特性。

与传统以太网相比，InfiniBand 优势显著。传统以太网类似快递包裹分发网络，交换机和路由器独立运作，根据网络协议分拣投递数据包，每个中转设备需处理各种地址的数据包，计算转发路径，这不仅耗时增加延迟，在业务繁忙时还易丢包。而 InfiniBand 如同地铁轨道交通网络，基于 VCT（Virtual Cut Through）技术，数据包更像火车，以数据单元 “flit” 为车厢。其网络地址数量（LID 号）有限，路由表提前算好，交换机转发时只需简单查询线路图，大大提升了转发效率，降低了延迟。并且，InfiniBand 在通信机制上采用软件定义的方式构建大规模、流量纯净的二层网络，避免了以太网中 ARP 广播机制可能引发的广播风暴和组网限制，链路层提供有序数据包传递和基于信用的流量控制，使 CPU 占用可忽略不计。同时，它能够绕过操作系统内核，为应用程序创建直接通信通道，提供极低延迟的消息传输服务。

在实际应用中，如大型数据中心和高性能计算集群，InfiniBand 组网发挥着关键作用。通过高速、低延迟的网络连接，服务器与存储设备、计算节点之间能够快速传输海量数据，大幅提升数据处理和计算任务的执行效率。以某科研机构的基因测序项目为例，使用 InfiniBand 组网后，数据传输速度提升数倍，原本需要数周的基因数据分析任务，如今仅需几天即可完成，有力推动了科研项目的进展。

英伟达与迈络思的强强联合

迈络思在 InfiniBand 领域堪称领军企业。自成立加入 NGIO，后随 NGIO 与 FIO 合并进入 InfiniBand 阵营，2001 年推出首款 InfiniBand 产品。在发展历程中，迈络思不断拓展业务版图，通过收购硅光子技术公司 Kotura 和并行光互连芯片厂商 IPtronics，完善产业布局。到 2015 年，其在全球 InfiniBand 市场占有率高达 80%，业务涵盖芯片、网卡、交换机 / 网关、远程通信系统以及线缆及模块等全领域，成为世界级网络提供商。

2019 年，英伟达以 69 亿美元成功收购迈络思，这一举措堪称行业重磅事件。英伟达在 GPU 领域拥有无可比拟的算力优势，而迈络思在网络互联方面技术卓越。两者的结合，如同为算力基础设施打造了一个超级 “算力引擎”。英伟达借此将自家的 GPU 算力与迈络思的网络优势深度融合，在高性能计算领域占据了更为领先的地位，为后续在 AI 计算、大数据处理等对算力和网络要求极高的领域持续发力奠定了坚实基础。

英伟达的 GPU 产品在市场上广泛应用于各类场景，从 AI 模型训练到复杂的图形渲染，从科学计算到智能数据分析。而借助迈络思的 InfiniBand 技术，英伟达的 GPU 之间能够实现高速、低延迟的数据传输。例如，在大规模的深度学习训练中，多个搭载英伟达 GPU 的计算节点通过迈络思的 InfiniBand 网络连接，数据能够快速在 GPU 之间流转，大大缩短了训练时间，提升了训练效率，使得模型能够更快收敛，提高了模型的准确性和可用性。

GPU 池化管理：释放 GPU 资源潜力

随着 AI 应用的爆发式增长，对 GPU 资源的需求呈井喷之势。但在实际应用中，企业面临着诸多 GPU 资源管理难题。一方面，GPU 资源有限且价格昂贵，购置成本高昂；另一方面，不同业务对 GPU 的使用需求存在差异，导致资源分配不均，出现部分时段 GPU 闲置，而部分业务因资源不足无法及时开展的情况。同时，在多任务并行处理时，任务之间的调度冲突以及数据传输的开销，也影响了 GPU 资源的整体利用效率。

GPU 池化管理技术应运而生，它以 GPU 虚拟化为基础，突破了传统 GPU 虚拟化仅支持共享的局限，融合了共享、聚合和远程使用等多种能力，致力于打造全能型软件定义 GPU，以解决用户痛点。以英伟达的 GPU 为例，其硬件架构分为用户态、内核态和 GPU 硬件三个层次。在用户态，英伟达提供 CUDA（Compute Unified Device Architecture）等运行库作为 GPU 并行计算的编程接口，应用程序通过调用 CUDA API 与 GPU 用户态驱动通信，进而与内核态驱动交互。内核态驱动则与操作系统内核紧密集成，对 GPU 硬件进行底层控制。

当前实现 GPU 虚拟化主要有内核态虚拟化和用户态虚拟化两种方式。内核态虚拟化通过拦截内核态与用户态之间的 ioctl、mmap、read、write 等接口来实现，需在内核中增加拦截模块并创建模拟设备文件，其优点是灵活性较好，对 GPU 硬件依赖度低，在 GPU 共享时具备一定隔离能力，且因仅支持容器环境，研发工作量相对较小。但缺点也很明显，对系统侵入性大，易引入安全隐患，且由于英伟达 GPU 内核态驱动接口闭源，第三方厂商需逆向工程解析接口，存在法律风险。

用户态虚拟化则利用 CUDA、OpenGL、Vulkan 等标准接口，通过拦截和转发 API，解析被拦截函数后调用硬件厂商用户态库中的相应函数。该方式可借助 RPC 实现远程 API Remoting，使多个 GPU 服务器组成资源池供 AI 业务调用，达成 GPU 池化目的。其优势在于接口公开标准化，兼容性和可持续性佳，运行在用户态可规避内核态安全问题，通过复杂网络协议栈和操作系统支持优化远程 GPU 能力，对用户环境侵入性小、安全性高且自恢复能力强。不过，由于用户态 API 接口参数和功能复杂，数量远超内核态接口，研发工作量巨大。

在实际应用场景中，如互联网企业的在线广告推荐系统，不同时段广告投放量和数据分析任务量波动大。通过 GPU 池化管理，可根据业务负载动态分配 GPU 资源，在广告投放高峰时，将更多 GPU 资源分配给广告推荐算法的实时计算任务；在低峰期，则将资源调整用于数据分析模型的训练，有效提高了 GPU 资源的利用率，降低了企业的运营成本。

算力调度：优化算力资源配置

算力调度在整个算力体系中扮演着资源优化配置的关键角色。它根据不同任务的需求特性，如计算量大小、优先级高低、实时性要求等，合理分配算力资源，以实现算力利用效率的最大化。在复杂的计算环境中，存在着多种类型的任务，有的任务对计算速度要求极高，如金融交易中的高频交易计算；有的任务数据量庞大，需要大量的内存和存储资源支持，如气象模拟中的大规模数据处理。算力调度系统能够精准识别这些任务需求，并将合适的算力资源与之匹配。

在基于英伟达 GPU 和 InfiniBand 组网的环境中，算力调度有着独特的实现方式和优势。由于 InfiniBand 网络的高速低延迟特性，使得算力调度系统在获取各个计算节点的资源状态信息时更加及时准确。例如，通过子网管理器（SM）能够实时掌握每个节点的 GPU 使用情况、内存占用、网络带宽等信息。当有新的计算任务到来时，算力调度系统可依据这些实时数据，快速判断并选择最合适的 GPU 资源进行任务分配。同时，结合 GPU 池化管理技术，调度系统能够灵活地从 GPU 资源池中调配资源，实现资源的动态分配。

以一个大型 AI 训练平台为例，平台上同时运行着多个不同的 AI 模型训练任务，包括图像识别模型、自然语言处理模型等。算力调度系统会根据每个模型的训练进度、计算资源需求以及任务的优先级，动态调整 GPU 资源的分配。对于训练关键阶段、对计算资源需求迫切且优先级高的任务，优先分配性能强劲的英伟达 GPU 资源，并保障其在 InfiniBand 网络中的数据传输带宽，确保任务高效运行。而对于一些处于训练初期、资源需求相对较小的任务，则分配适量的资源，避免资源浪费。通过这种精细化的算力调度，整个 AI 训练平台的资源利用率大幅提升，训练任务的完成时间显著缩短，为企业节省了大量的时间和成本，加速了 AI 产品的研发和迭代。

随着技术的不断发展，英伟达、迈络思以及整个行业在 IB 组网、GPU 池化管理和算力调度方面将持续创新。未来，InfiniBand 组网有望实现更高的带宽和更低的延迟，进一步提升网络性能；GPU 池化管理技术将更加成熟，资源分配的效率和灵活性将达到新的高度；算力调度系统也将更加智能，能够基于人工智能算法实现更精准的资源预测和分配，为各行业的数字化转型和智能化发展提供更强大、更高效的算力支持。

AI服务器采购需求请点击这里：https://www.kuanheng168.com/product

算力中心建设与运营，请点击查看详细方案：https://www.kuanheng168.com/solutions

算力租赁需求请点击这里：https://www.kuanheng168.com/slzl