[Question]: codegen推理支持单机多卡部署么？

[mymynew]

请提出你的问题

想部署更大的模型，单卡的显存只有16G，不足矣部署。
codegen推理支持单个模型单机多卡吗？如果支持，该这么做呢？

[gongel]

暂不支持哦。