0.简介
在大模型训练好之后,如何对训练好的模型进行解码(decode)是一个火热的研究话题。
一般给模型传入的解码参数如下所示。
{"top_k": 10,"temperature": 0.95,"num_beams": 1,"top_p": 0.8,
在大模型训练好之后,如何对训练好的模型进行解码(decode)是一个火热的研究话题。
一般给模型传入的解码参数如下所示。
{"top_k": 10,"temperature": 0.95,"num_beams": 1,"top_p": 0.8,