从工作负载开始
记录资料规模、更新频率、并发请求、模型部署位置和响应目标。文档导入、向量检索与模型推理产生的流量形态不同,不能只凭“RAG”决定网络速率。
把数据路径画出来
区分资料入口、处理服务、向量存储、模型服务和应用接口,标注跨主机或跨机房的路径。若存在训练或多 GPU 通信,再单独评估计算网络。
参考架构保留原配置范围
Cisco 的 FlexPod RAG 文档给出了特定基础设施与软件组合。它可帮助理解组件关系,但不是所有 RAG 都必须采用同一硬件,也不证明本站任意模块可替代文档配置。
用试点流量验证
建议分别测试批量导入与在线问答,观察网络、存储和模型服务的等待时间。先定位瓶颈,再决定扩容网络还是其他组件。
交付接口与运行记录
形成数据路径、组件版本、访问边界、容量测量和故障恢复记录。服务密钥和用户资料不应被写入公开知识内容。
资料来源
资料核对: