背景

某装甲兵学院包括院本部、蚌埠校区和士官学校，院本部地处北京卢沟桥畔，交通便利，环境优美，军事特色鲜明，人文气息浓厚；蚌埠校区和士官学校，分别位于安徽省蚌埠市蚌山区和吉林省长春市经济技术开发区，气候宜人，实战化氛围浓厚。院本部为原装甲兵工程学院，前身是1953年在哈尔滨成立的军事工程学院装甲兵工程系；蚌埠校区为原装甲兵学院，前身是1950年成立的坦克学校；士官学校为原装甲兵技术学院，前身是1951年组建的第三战车编练基地。

用户需求

部署一套DeepSeek-R1 671B（满血版）大模型，为教学、科研提供智能化支撑；要求采用国产化硬件一体机，符合国家安全可靠评测产品；要求20个并发访问时首个token响应时间不超过1秒，单终端10tokens/秒，上下文关联准确率≥95%，上下文长度≥64K，单次对话轮次不低于10轮，支持历史对话追溯等。

智能体要求：

1. 智能问答：具备自然语言处理功能，支持规章制度智能解析，提供智能问答服务，输出摘要与执行建议。 

2. 公文处理：自动生成公文初稿（含报告、通知、讲话等），支持WORD、PDF、TXT、XLS、WPS等格式导出。 

3. 文档分析：能够对本地私有文件进行语义解析、自动摘要、关键信息抽取和分类归档。     

4. 外挂知识库：搭建知识库框架，与基础大模型建立顺畅通联，后期导入专用数据能够被大模型高效读取使用；支持 PDF文档解析，支持多模型并行。

金品解决方案

根据客户需求，“金品计算机”采用2台基于海光处理器的金品KG4208-H74服务器，通过2*200Gb互联构成集群架构，搭载16张x60 48GB国产GPU加速卡，（共768GB显存）离线部署DeepSeek-R1 671B大模型，由于客户的需求有智能问答、公文处理、文档分析和外挂知识库，金品在开源的RAG、Dify的基础上进行了二次开发来满足客户的需求，支持参数微调、增量训练等方式，准确率高达98%，得到客户一致认可。

主要硬件选型

国产DeepSeek-R1 671B大模型一体机架构：

客户收益：

1. 安全可靠：

采用私有化部署，数据本地化处理，与互联网物理隔离，局域网使用；满足客户对数据安全性和合规的要求。

2. 数据接入自动化处理：

支持多种数据源接入，实现文件解析、数据清洗、文本分割、向量化、索引构建等全自动化处理，支持知识库增量更新，方便知识库持续优化。

3. 多轮对话，精准回复

支持多轮对话，用户可进行追问和澄清，系统理解上下文给出精准答案，提供答案来源溯源功能，提高答案可信度；在开源框架基础上进行二次开发、模型微调后，知识库问答准确率高达98%。

4. 多并发、快速响应

经现场测试本套系统支持50个用户并发访问，每个用户10 tokens/秒；多用户并发访问时响应时间为1秒，用户体验流畅。