【AI前沿】chatgpt还有哪些不足?

news/2025/2/12 23:01:25/

博客昵称:吴NDIR
个人座右铭:得之淡然,失之坦然
作者简介:喜欢轻音乐、象棋,爱好算法、刷题
其他推荐内容:计算机导论速记思维导图
其他内容推荐:五种排序算法


在这个愉快的周末让我们聊一下ChatGPT吧!ChatGPT 4时代来临,ChatGPT的缺陷在于它不能处理特定领域的知识,而且在生成响应时可能会出现语法错误和逻辑矛盾等问题。

  • 1.速度问题
  • 2.实时性
  • 3.知识局限性
  • 4.文本处理问题
  • 5.逻辑处理
  • 6.越界问题

1.速度问题

  1. ChatGPT起初响应速度慢,原因主要是因为其预测模型较为复杂,需要大量的计算资源和时间来完成响应的生成,导致响应速度较慢。但随着版本的更新和技术的不断创新,ChatGPT响应速度得到了不断的提升和优化。
    在这里插入图片描述

  2. OPEN AI在之后针对这个问题进行了以下的优化


硬件优化:使用更高效的GPU或TPU等硬件设备,加速模型的计算和推理过程,从而提高模型的响应速度。
算法优化:使用更加高效的算法和模型结构,如预训练模型和增量学习等,优化模型的参数和参数更新方式,提高模型的响应速度和准确性。
数据优化:使用更加优质和多样化的数据集,加入更多的标注和清洗工作,减少数据偏差和噪声,提高模型的训练效果和响应速度。
  1. 现在ChatGPT已经是非常快了,如让它写一篇论文
    在这里插入图片描述

2.实时性

  1. 我们知道使用chatgpt可以查询概念,查询知识,查询菜谱等等,但是它不能获得当前最新消息,即使它能阶段性学习和更新,但至少来说目前它还不能代替搜索引擎。
  2. 下面是一个例子,当向ChatGPT问道:“江西明天的天气?”
    【提问】
    在这里插入图片描述
    【回答】
    在这里插入图片描述
    3.AI语言模型没有直接获取实时天气预报数据的能力。ChatGPT只是一个程序,根据输入的文本信息和相关的规则和算法来生成响应,它并没有接入实时数据的API或其他接口。

3.知识局限性

  1. 尽管ChatGPT具有强大的对话生成能力,但它仍然存在一些知识局限性,这些局限性可能导致ChatGPT在某些情况下无法有效地应用。
缺乏常识性知识ChatGPT的模型是基于大规模语料库训练的,它的知识主要来自于网络上的文本数据。因此,ChatGPT缺乏一些基本的常识性知识。例如,当被问到“鲸鱼是鱼类还是哺乳动物?”时,ChatGPT可能会回答“鱼类”,而不是正确的答案“哺乳动物”。
容易受到输入数据的影响ChatGPT是一种生成式模型,它可以自动生成对话内容。然而,它的输出很容易受到输入数据的影响,因此需要对输入数据进行精心的筛选和处理。例如,如果输入的文本数据中存在歧义或错误,ChatGPT可能会生成不准确的对话内容。
对特定领域的知识缺乏理解ChatGPT的模型是通用性的,它可以应用于各种领域的对话生成。然而,由于缺乏特定领域的知识,ChatGPT可能无法理解某些特定领域的术语或语言。例如,在医学领域,ChatGPT可能无法理解某些医学术语或药品名称,从而无法生成准确的对话内容。

4.文本处理问题

  1. 一个常见的问题就是不能处理长文本,很难向ChatGPT投喂大量数据。否则将提示:
    在这里插入图片描述
  2. 因为GPT模型需要在每个时间步骤都生成一个预测,所以生成的时间会随着文本长度的增加而线性增加,这导致处理长文本时需要更长的时间。同时,长文本中可能涉及到多个话题,这可能导致模型在生成回复时出现逻辑不连贯或者没有重点的情况。因此,ChatGPT在处理长文本时可能会遇到一些限制,而这些限制可能会影响到对话的质量和效率。
  3. 其次,当我们问题或者要求ChatGPT长文本输出时,它不能做到一次全部输出。如让ChatGPT写一篇不少于10000字关于CSDN
    在这里插入图片描述
  4. 但这个问题还是容易解决,只需要要求它“继续”即可。但遇到代码块回复时,之后的一段将不再使用Markdown语法回复。

5.逻辑处理

  1. 在使用ChatGPT的过程,它很难处理与数学有关的问题(事实上与知识局限性有关)。下面是一个简单的排列组合问题:将4个不同的球放到4个不同的盒子中,有几种方法?

在这里插入图片描述
2. 可以看到ChatGPT成功处理了这个问题,但我们将这个问题进行修改:若其中两个球是一样的,两者不作区分,有几种方法?
在这里插入图片描述
3. 看到这别着急,现在如果继续问:在此基础上,若其中有两个盒子完全相同不作区分呢?
在这里插入图片描述
实际上7种方式,而ChatGPT只是简单的除以2。ChatGPT只能处理简单的数学逻辑,而实际上在编程中,有些逻辑远远比这复杂,从而让它生成问题的代码往往不能帮助解决。

6.越界问题

ChatGPT是一个基于GPT模型的对话生成器,它可以用来生成有意义的对话。但是,由于它是一个预先训练好的神经网络,它所生成的回复是基于大规模数据集的统计模型。因此,ChatGPT生成的回复可能会包含一些不合适或有违背伦理道德的内容。

1.为了避免ChatGPT生成违背伦理道德的内容,开发者通常会在训练模型时使用专门的数据集,这些数据集包含了经过筛选和审查的高质量数据,以确保生成的回复是合适的并符合伦理道德的标准。此外,Open ai通过训练模型使用更加严格的限制条件来控制生成的回复,以确保其质量和合适性。

在这里插入图片描述
2. 但针对这个问题,有很多指令可以去诱导ChatGPT越界,如下面的指令
在这里插入图片描述
在这里插入图片描述
诱导越界
在这里插入图片描述


http://www.ppmy.cn/news/959358.html

相关文章

switch和if else的比较 pragma once

目录 switch和if else的比较#pragma once1、#pragma once有什么作用?2、两者的使用方式有何区别3、两者各有何特点(1)#ifndef(2)#pragma once 4、两者之间有什么联系? 逗号表达式C 嵌入式代码整理获取键盘输…

ACL2023论文-系列1

文章目录 Prompt——1.Generated Knowledge Prompting for Commonsense Reasoning核心论文贡献方法效果的影响因素方法实现 Contrastive learning——A Contrastive Framework for Learning Sentence Representations from Pairwise and Triple-wise Perspective in Angular Sp…

人人都可实测体验的ChatGPT来了

来源:量子位 所有人都能上手微软Bing了! 今天,微软突然官宣全面开放BingChat: 无需任何等待。只需注册一个账户,首页即可体验。 更关键的是,还有一大堆堪称“家底”的新功能来袭! 支持100种语言…

文心一言 ChatGPT 实测对比

期待已久之后,终于拿到了文心一言的邀请码,第一时间进行了测试。最后面会讲一下如何获取邀请码。 先说一下结论,很远,但是又不远。 很远是因为:我个人测试得出来的实际效果和ChatGPT差距还很大,下面我会放…

chatgpt VS 文心一言使用对比实测

chatgpt VS 文心一言使用对比实测 什么是文心一言 文心一言(英语:ERNIE Bot)是由百度公司开发的聊天机器人,能够与人交互、回答问题及协作创作。该产品被传媒称为国际著名聊天机器人ChatGPT的中国版及其竞争对手[1][2]。目前已开…

chrome 报错connection is not private. NET::ERR_CERT_COMMON_NAME_INVALID Provisional headers warning

问题 Your connection is not private Attackers might be trying to steal your information from (for example, passwords, messages, or credit cards). NET::ERR_CERT_COMMON_NAME_INVALID 这个错误可能说明网站证书有问题。 如果你已经尝试了重启、清缓存、重装浏览器都…

JavaScript基础篇(11-20题)

此文章,来源于印客学院的资料【第一部分:基础篇(105题)】,也有一些从网上查找的补充。 这里只是分享,便于学习。 诸君可以根据自己实际情况,自行衡量,看看哪里需要加强。 概述如下: 模块化开…

AutoHotKey实现双击Chrome标签位置关闭标签页(ChatGPT辅助编写)

实现目标:双击关闭Chrome标签页,相较于 MaxAlex 的版本,只保留双击关闭标签,不然滚轮滚多了会弹窗。 共四步 1.安装atuohotkey最新版本 2.新建一个文本文档,更改名字比如为为test.ahk, 但是要后缀名为ahk 3…