[Question]: UIE蒸馏模型的部署

[cqray1990]

请提出你的问题

蒸馏UIE-mini 模型底座ernie-3.0-mini-zh
:UIE蒸馏模型的部署可以直接用UIE deploy 的infer.py,? Taskflow 加了uie-data-distill-gp，只能用以下方式推理？
ie = Taskflow("information_extraction",model="uie-data-distill-gp", task_path="data_distill/checkpoint-mini/model_best")

我尝试用infer.py代码替换模型预测，报错
start_prob, end_prob = self._infer(input_dict)
ValueError: not enough values to unpack (expected 2, got 1)
@AlphaHinex @ZeyuChen

[w5688414]

根据提示，只有一个输出，您应该这样写：

out = self._infer(input_dict)