公司动态

权威机构背书、荣誉资质、展会活动、合作生态与来访交流的官方发布

返回列表

GPUWorks 亮相 COSCon 与 GOTC,分享从算力管理到模型服务的开源实践

11 月 14—15 日,ZStack(云轴科技)旗下私有化 AI 基础设施品牌 FlitAI 亮相杭州第十一届中国开源年会(COSCon’26)与北京 GOTC 2026 全球开源技术峰会。围绕旗下开源项目 GPUWorks,FlitAI 通过技术演讲、圆桌讨论、主论坛现场互动和展区交流,与开发者分享 GPU 算力管理与模型服务实践,探讨企业如何基于已有资源构建私有化 AI 服务。
COSCon’26 · 杭州GOTC 2026 · 北京
COSCon’26 活动现场
GOTC 2026 活动现场

FlitAI 聚焦算力、模型与工具的连接,以“让算力自然流动,让智能按需触达”为品牌主张。作为其中的算力与模型推理底座,GPUWorks 提供轻量的 GPU 算力管理与模型服务能力,将本地与云端的计算资源纳入统一资源池,通过推理模板部署模型,并以 OpenAI 兼容接口向应用提供服务。这也是此次两场活动中,FlitAI 与开源社区交流的重点。

01 / COSCON / INFERENCE PRACTICE

COSCon:从多主机管理走向模型服务交付

在 COSCon’26 开源 AI 基础设施分论坛,ZStack 技术专家张晨(Chen Zhang)发表《More Time for Models: Building a Multi-Host Lightweight Inference Lab》主题演讲,结合 GPUWorks 的设计与实践,介绍多主机轻量级推理环境的构建方式。

张晨在 COSCon’26 发表主题演讲

张晨在 COSCon’26 开源 AI 基础设施分论坛发表主题演讲。

当团队同时使用自有 GPU 服务器、不同类型的加速设备和租用算力时,模型服务的交付需要处理资源接入、运行环境、部署条件与服务状态等一系列问题。围绕缺少专职平台团队的实际约束,张晨从三个方面介绍了 GPUWorks 的技术思路。

以统一管理连接分散资源。 GPUWorks 通过一体化控制平面连接自有与租用主机,在独立管理模式下无需安装 Kubernetes 或 OpenStack,即可完成主机接入、模型选择、部署检查与启动。平台明确呈现设备能力及运行条件,帮助团队匹配模型、推理引擎和硬件组合,并以统一接口提供模型服务。

以可复用配置提高部署的可管理性。 GPUWorks 将模型文件、引擎环境、启动参数和硬件要求等整理为部署配置,用于预检查与实际执行。对于跨主机运行的模型副本,平台先评估完整副本所需的资源,再协调启动,并展示准备、启动与健康检查状态,便于定位问题。跨主机推理仍需满足相应的网络与拓扑条件。

按使用需求安排模型与算力。 在受支持的硬件与引擎组合上,GPUWorks 通过显存预算、vLLM 模型休眠与唤醒,以及按计划或人工调整副本数量等方式,支持模型共享或轮换使用资源。团队可结合具体设备能力和已验证的部署条件,安排不同时段的模型服务。

“More Time for Models”体现了这套设计的出发点:减少团队在资源配置、环境适配和问题排查上的重复投入,将更多精力用于模型与应用开发。演讲之外,张晨还参与圆桌论坛,与现场嘉宾交流 AI 基础设施的发展方向。

COSCon’26 圆桌讨论现场

张晨参与圆桌讨论,与现场嘉宾交流 AI 基础设施发展方向。

02 / GOTC / OPEN SOURCE COMMUNITY

GOTC:以开源项目连接开发者与应用需求

GOTC 2026 全球开源技术峰会以“开源 × AI 创新新生力”为主题,为开源项目与开发者提供展示和交流的平台。FlitAI 携 GPUWorks 参与其中,介绍项目定位,并与社区交流 GPU 资源管理和开源模型部署中的实际需求。

11 月 14 日上午,在 GOTC 主论坛现场互动环节,GPUWorks 作为随机抽选的五家企业和社区之一,与开源中国马总和主场嘉宾刘旸进行了一分钟的互动,分享项目定位与社区目标。

GPUWorks 参与 GOTC 2026 主论坛现场互动

GOTC 主论坛现场互动环节介绍 GPUWorks。

互动中介绍了GPUWorks 是 FlitAI 旗下的开源项目,面向个人及不同规模的团队,提供轻量的 GPU 管理与 MaaS(Model-as-a-Service,模型即服务)能力,帮助用户完成加速卡与开源模型的适配、调度和管理,让卡和模型“装得上、管得好”。他同时向 GOTC 表达感谢与祝福,肯定其长期以来为开源贡献者、开发者和企业搭建交流平台的作用。

随着硬件、模型与推理引擎不断丰富,适配工作也涉及更多组合和运行条件。GPUWorks 希望通过开源协作,将不同环境中的部署配置、能力检查和可复现问题汇集起来,使单个团队的实践能够被更多开发者参考和复用。

03 / TWO CITIES / DEVELOPER CONNECTION

两地展区:在实际部署中交流产品与需求

在 COSCon 与 GOTC 两地展区,ZStack 与 FlitAI 展示了 ZSvirt 和 GPUWorks 两款开源项目,并开展部署体验、现场技术答疑和 GPU 使用调研等互动。开发者围绕设备接入、模型部署和资源管理与团队交流,将各自环境中的使用问题与需求带到现场,也为产品改进提供了直接反馈。

COSCon’26 展区GOTC 2026 展区
COSCon’26 开源项目展示
GOTC 2026 开源项目展示
COSCon’26 开发者交流现场
GOTC 2026 开发者交流现场

从已有算力出发,逐步形成可供业务调用的 AI 服务,是 FlitAI 对私有化 AI 基础设施的产品思路。GPUWorks 将这一思路落实到资源管理与模型部署中;开放的代码、配置与实践经验,则让开发者能够参与其中,在各自的环境里验证、改进并扩展这些能力。

04 / COMMUNITY

加入社区

GPUWorks的开源之路才刚刚开始。无论你是AI开发者、基础设施工程师,还是硬件厂商,都欢迎参与进来,尝试不同的模型与算力组合,分享使用经验,反馈问题,与我们一起完善GPUWorks。

体验GPUWorks,参与开源共建! 

联系我们