GPT 的局限性

在探讨开发大型语言模型应用程序时，我们必须认识到 GPT 存在一些局限性。这些限制对于我们保持清醒的头脑至关重要。

尽管在 GP T的训练过程中融入了大量知识，但它并非能够完美地记住所见之物，并且对这些知识的边界了解有限。这意味着当面对晦涩主题的问题时，它可能会试图回答，但所提供的答案却是虚构的，听起来合理却实际不正确。我们将这种虚构的思维称为幻觉。

要明确 GPT 的局限性对于我们正确理解和应用这一技术至关重要。我们应该对它所提供的信息持有适度的怀疑态度，并意识到它的回答可能存在误导性。这样，我们才能更加明智地利用GPT，同时在探索其潜力的过程中保持警觉。

比如，我们让 GPT 介绍一下百度：

public static void main(String[] args) {String prompt = "请介绍一下百度。";String response = getCompletion(prompt);System.out.println(response);
}

输出内容如下：

百度是中国最大的互联网搜索引擎，成立于2000年。它提供了各种各样的服务，包括搜索、贴吧、知道、文库、百科、地图、音乐、视频、购物等等。百度的搜索引擎是其最著名的服务之一，它可以帮助用户在互联网上找到他们需要的信息。百度还开发了一些人工智能技术，如语音识别、自然语言处理和机器学习等，这些技术被应用于百度的各种产品和服务中。百度在中国互联网市场上占据着重要的地位，是中国互联网领域的领导者之一。

因为百度是真实存在并且广为人知的，所以我们可以看到正确的答案。

如果让 GPT 介绍一下像“万猫学社”这样它不清楚的东西会怎么样呢？

public static void main(String[] args) {String prompt = "请介绍一下万猫学社。";String response = getCompletion(prompt);System.out.println(response);
}

输出内容如下：

万猫学社是一家在线教育平台，致力于为学生提供高质量的教育资源和服务。
该平台提供了各种课程，包括语言、数学、科学、艺术等多个领域，适合不同年龄段的学生。
万猫学社的课程由经验丰富的教师授课，采用互动式教学方式，让学生在轻松愉快的氛围中学习知识。
此外，万猫学社还提供了个性化的学习计划和学习跟踪服务，帮助学生更好地掌握知识和提高学习效率。

可以看到 GPT 将会给我们一个相当逼真的描述，这就相当危险了，因为它听起来相当真实，如果不知道真实情况完全可以误导我们。

如何避免幻觉

所以在构建自己的应用程序时，一定要使用我们在之前文章中介绍的一些技巧来避免这种情况。比如：

public static void main(String[] args) {String prompt = "请介绍一下万猫学社，如果你不清楚，就回答“不知道”。";String response = getCompletion(prompt);System.out.println(response);
}

输出内容如下：

不知道。

但是，这并不是百分之百起作用的。 另一个减少幻觉的策略是：在让模型基于文本生成答案之前，先让提供文本中的相关信息，然后让它使用这些信息来回答问题。比如：

public static void main(String[] args) {String prompt = "根据三个引号之间的内容，介绍一下万猫学社。\n"+ "```\n"+ "技术博客，java，系统架构，微服务，数据库，云原生，系统架构设计师，CSDN博客专家，华为云‧云享专家，阿里云专家博主，51CTO博客TOP红人。\n"+ "```";String response = getCompletion(prompt);System.out.println(response);
}

我们就基本可以得到我们想要的回答：

万猫学社是一个技术博客，主要涉及Java编程、系统架构、微服务、数据库、云原生等方面的内容。
其创始人是一位系统架构设计师，同时也是CSDN博客专家、华为云‧云享专家、阿里云专家博主、51CTO博客TOP红人。
通过万猫学社，读者可以获取到来自专业人士的技术分享和经验总结，提高自己的技术水平。

总结

我们这次了解了 GPT 的局限性：幻觉。当 GPT 面对晦涩主题的问题时，它可能会试图回答，但所提供的答案却是虚构的，听起来合理却实际不正确。 同时，我们也看到了克服幻觉的两个例子。

面向Java开发者的ChatGPT提示词工程

• 面向Java开发者的ChatGPT提示词工程（1）
• 面向Java开发者的ChatGPT提示词工程（2）
• 面向Java开发者的ChatGPT提示词工程（3）
• 面向Java开发者的ChatGPT提示词工程（4）
• 面向Java开发者的ChatGPT提示词工程（5）