You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
generation_config default values have been modified to match model-specific defaults: {'temperature': 0.1}. If this is not desired, please set these values explicitly.
#3892
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
第一步:我先基于qwen-vl-7b,使用sft训练了一个lora模型,然后使用merge脚本将lora合并到基模型中,得到模型A。
第二步:基于swift infer推理脚本,我修改temperature,temperature=0和temperature=1的结果不同,符合预期。
第三步:我使用合并后的模型A,使用grpo训练了一个新lora模型,然后使用merge脚本将新lora合并到模型A中,得到模型B。
第四步:基于swift infer推理脚本,我修改temperature,temperature=0和temperature=1的结果完全一致,且在推理时有以下info输出: generation_config default values have been modified to match model-specific defaults: {'temperature': 0.1}. If this is not desired, please set these values explicitly.
我理解可能temperature=0或者=1时没有生效,导致推理结果完全一样。这是什么原因?以及为什么会有这个info的警告信息?
The text was updated successfully, but these errors were encountered:
第一步:我先基于qwen-vl-7b,使用sft训练了一个lora模型,然后使用merge脚本将lora合并到基模型中,得到模型A。
第二步:基于swift infer推理脚本,我修改temperature,temperature=0和temperature=1的结果不同,符合预期。
第三步:我使用合并后的模型A,使用grpo训练了一个新lora模型,然后使用merge脚本将新lora合并到模型A中,得到模型B。
第四步:基于swift infer推理脚本,我修改temperature,temperature=0和temperature=1的结果完全一致,且在推理时有以下info输出:
generation_config
default values have been modified to match model-specific defaults: {'temperature': 0.1}. If this is not desired, please set these values explicitly.我理解可能temperature=0或者=1时没有生效,导致推理结果完全一样。这是什么原因?以及为什么会有这个info的警告信息?
The text was updated successfully, but these errors were encountered: