黄埔星-凤凰大模型OS平台及DeepSeek一体机发布 ...

在人工智能加速变革的浪潮中，面对复杂的模型部署、庞大的算力需求和日益增长的数据安全挑战，企业如何以更低门槛、更高效率、更安全可靠的方式接入大语言模型？答案就是——大模型一体机。

琶洲实验室（黄埔）数字双移动创新中心张海教授团队联合Xinference团队成功研发黄埔星-凤凰大模型OS平台，与开源Xinference相比较，黄埔星-凤凰大模型OS平台具有如下特色创新：

1.多元异构算力统一调度

支持英伟达、昇腾等国内外GPU算力卡的统计计算与调度，具备异构算力卡的PD分离能力，支持动态负载均衡与高优先级策略，针对不同场景动态配置基础算力；

2. 模型全生命周期管理

提供模型自定义注册、微调、一键部署、删除等全流程管理工具；支持模型热加载，支持针对 GPU 的模型部署隔离；支持模型版本管理，确保模型可控性和稳定性；

3. 多模型、多引擎

支持多种推理引擎，如 vLLM、SGLang 等，灵活适配不同模型和场景；兼容主流应用框架，包括，Langchain、Dify、Ragflow 等，方便一键集成；支持 100+ 最新模型，覆盖文本生成、多模态、音频生成等多种类型。

4.运维简化，运营精细

面向开发人员：平台功能完善，上手简单，预置环境齐全，可开箱即用。面向管理人员：配备运营管理能力，可对算力分配、算力监控、算力使用进行可视化操作和分析，减少管理成本。

基于黄埔星-凤凰大模型OS平台隆重推出黄埔星-凤凰大模型一体机，是一款集高性能硬件、主流大模型、大模型应用开发平台于一体的全栈式AI解决方案。它将“大模型”的强大能力装进一台即插即用的设备，让AI不再遥远，真正走进每一家企业。

黄埔星-凤凰大模型一体机的核心亮点

1.即插即用，零门槛部署

无需复杂搭建，开机即用。支持快速接入企业内部系统，10分钟完成模型落地；

2.多模型兼容，任务全面覆盖

内置支持多个主流大语言模型（如DeepSeek R1/V3、Qwen、Llama、黄埔星多模态大模型等），满足从行业知识检索、代码生成、文本创作等多样化个人需求到智慧物流、智能排产、财务报表等多种企业服务；

3.本地部署，数据安全无忧

数据不出本地，全面支持内网运行、权限控制、访问审计，为政府、工业、金融、医疗、能源等行业提供坚实的安全保障；

4.高性能算力支持，极速响应

搭载主流AI加速卡与高带宽内存，支持大模型的低延迟、高并发推理，轻松应对复杂业务场景。黄埔星-凤凰大模型一体机针对不同的使用场景，提供四个版本，分别是探索版、轻量版、标准版、增强版；

5.灵活扩展，助力企业智能升级

模块化架构设计，支持按需升级硬件与模型版本，助力企业AI能力持续进化。

标签：

@

商务合作+爆料举报+侵权投诉

微信 QQ 飞机

扫一扫

扫一扫

扫一扫

173