Intern S1在昇腾910B的适配问题

[Sariel2]

问一下，Intern S1有做过昇腾910B的适配么，可以提供一下具体的实施方案么

[lvhan028]

可以参考下这篇文档
https://lmdeploy.readthedocs.io/en/latest/get_started/ascend/get_started.html

LMDeploy + dlinfer team 目前主要在适配 910C。如果遇到什么问题，可以到 LMDeploy 仓库中提交issue。
https://github.com/InternLM/lmdeploy/issues

[tangzhiyi11]

问一下，Intern S1有做过昇腾910B的适配么，可以提供一下具体的实施方案么

@Sariel2 910B 上 Intern S1 可以直接跑，不过由于权重比较大，推荐使用至少 2 机跑。多机推理可以参考这个文档 https://github.com/DeepLink-org/dlinfer/blob/main/docs/ascend_multinodes.md