1. 常用的大语言模型参数说明
使用提示词时,会通过 API 或直接与大语言模型进行交互。我们可以通过配置一些参数以获得不同的提示结果。调整这些设置对于提高响应的可靠性非常重要,我们可能需要进行一些实验才能找出适合您的用例的正确设置。以下是一些常见的参数设置:
1.1. Temperature(温度:翻译成惊喜度或随机度)
- 含义: 控制生成文本的随机性。数值较低时生成的文本较为保守,更倾向于高概率的结果;数值较高则生成的文本更具多样性和创造性。
- 使用: 用于平衡输出的预测性和惊喜性。
-
- 低温度(如 0.2 - 0.5): 确定性强,适用于事实性或信息性文本。
- 高温度(如 0.7 - 1.0): 创造性高,适合故事或创意写作。
1.2. Top-p(Nucleus Sampling)
- 含义: 在词汇的概率分布中进行采样,仅考虑累积概率达到阈值p的词汇。模型每次生成词汇时只考虑累积概率高于特定阈值p的词汇作为候选。这意味着概率被切成一个核,只有该核内的词汇被考虑。 与 temperature 一起称为核采样的技术),可以用来控制模型返回结果的真实性。如果你需要准确和事实的答案,就把参数值调低。如果你想要更多样化的答案,就把