用户639用户639
用户4353用户4353
用户9981用户9981
用户7477用户7477
用户2520用户2520CPU型号 | • x86架构(Intel、AMD) • arm64架构 |
加速卡(GPU / NPU ...)型号 | 毕昇平台中需要使用GPU算力的部分包括:LLM、Embedding模型、文档解析模型、Rerank模型。 其中本地部署的LLM、Embedding、Rerank均使用第三方开源模型,这些模型可以在哪些加速卡上运行需要参考厂商的说明,应该大部分NVIDIA及国产加速卡都可正常运行。 文档解析模型是我们自研模型,该模型老版本(OCR SDK)支持GPU卡如下: • NVIDIA GPU:Ada Lovelace架构、Ampere架构、Turing架构、Volta架构 • 华为 Atlas 300I Pro、910b3 • 海光 DCU K100 该模型新版本(ETL4LM)支持GPU卡如下(正在验证更多卡的适配): • NVIDIA GPU:Ada Lovelace架构、Ampere架构、Turing架构 • 华为910b3 |
操作系统 | • CentOS/RedHat Enterprise Linux 的 7.x版本 或 8.x版本 • 银河麒麟高级服务器操作系统V10 • Ubuntu Server |
Docker | |
客户端浏览器 | 毕昇平台内含有文件溯源展示、word在线编辑功能,需要高级浏览器提供底层能力支持,chrome 建议至少 v92+ 。建议使用最新版浏览器,以免功能无法正常使用。 |