如何识别来自 ChatGPT 的文本输出

news/2024/11/15 2:05:01/

既然 ChatGPT 生成的内容需要和人类生成的内容有明确的区分,那如果我们拿到一个几经转手的、缺失标记的内容片段,有没有办法来判断他的作者,到底属于 ChatGPT,还是属于人类呢?

openai 公司,为此主动推出了内容检测工具:https://platform.openai.com/ai-text-classifier

注意:该内容检测工具只能检测超过 1000 个字符的长文本。对于英文来说,这可能也就是一两百个单词,但对于中文来说,就是扎扎实实五百个汉字了。

该工具对输入的文本,会给出:very unlikely, unlikely, unclear if it is, possibly, likely AI-generated 五种分类判断。AI 生成的概率依次变高。

我们使用当前最流行的 AI 写作工具 notion AI,来写一篇 ChatGPT 相关的 ICL 和 CoT 的介绍。这两个概念,在之前章节中已经提过。让我们看看 notion AI 的输出:

虽然外界一直传言 notion AI 的背后使用的就是 openai 公司的 GPT3 接口,不过 notion 公司官方其实一直拒绝证明回答,官网上也完全没有提及 GPT 技术字样。用 notion 生成的文本做检测,正好也是一个验证。

让我们打开 openai 的内容检测工具,将 notion 生成的内容复制粘贴进 Text 文本框,然后点击 Submit:

没问题,成功分类为:AI 创作内容。

但如果仅仅将一段自己编写的材料,通过 notion AI 仅仅进行 fix spelling & grammar 优化,那就很难区分了:

这次,openai 的内容检测工具就认为内容确实是人类完成的了:

事实上,openai 公司自身发布检查工具时,表示该工具的召回率只有 26%。AI 文本的检测,依然还是一个未解决的问题。斯坦福大学也在 2023 年发布了一个 DetectGPT 工具,通过人类文本和 AI 修改后的差异概率,来训练检查模型。但对未开源模型只提供 API 形式的 ChatGPT 并没有太好效果。

所以,我们既要对 ChatGPT 输出的内容保有一定的警觉性,不要过于信任,也应该持有一定的信任,在自己的主见之上,合理的运用 AI 技术,取得更好效果。


http://www.ppmy.cn/news/46889.html

相关文章

python中__init__.py文件

例子 不要使用相对路径。 __init__.py# from net.functions import * VERSION "1.0.0"import os, sys module_path os.path.dirname(__file__) module_parent_path os.path.dirname(module_path) sys.path.extend([module_path, module_parent_path]) from net i…

Matlab进阶绘图第17期—气泡热图

气泡热图是一种特殊的热图(Heatmap)。 与传统热图相比,气泡热图利用不同颜色、不同大小的圆形表示数据的大小,可以更加直观地对矩阵数据进行可视化表达。 本文使用自制的bubbleheatmap小工具进行气泡热图的绘制,先来…

赋值法写基础解系中解向量

赋值法写基础解系中解向量 (一)背景引入 通常解方程组时,将系数矩阵化为行阶梯型,进而可化为行最简型 (说一嘴:行最简型是指阶梯口元素全是1,该1所在列全其余全为0;广义行阶梯的阶梯…

5G NR调制阶数与EVM关系以及对系统SNR要求分析

移动通信技术对数据传输速率要求越来越高。一种提高传输速率的思路是使用更高阶的QAM 调制方式,例如5G NR 的256QAM PDSCH,微波的1024QAM,2048QAM和4096QAM 调制。更高阶的QAM 调制方式对系统也提出了更高的要求。例如某个系统的EVM 测试结果…

【小程序分享篇 一 】开发了个JAVA小程序, 用于清除内存卡或者U盘里的垃圾文件非常有用

有一种场景, 手机内存卡空间被用光了,但又不知道哪个文件占用了太大,一个个文件夹去找又太麻烦,所以我开发了个小程序把手机所有文件(包括路径下所有层次子文件夹下的文件)进行一个排序,这样你就可以找出哪个文件占用了内存太大了。 使用例子如下,用JAVA 运行Sort 1,…

YOLOv8详解代码实战,附有效果图

YOLOv8架构 YOLOv8 是 ultralytics 公司在 2023 年 1月 10 号开源的 YOLOv5 的下一个重大更新版本,目前支持图像分类、物体检测和实例分割任务,鉴于Yolov5的良好表现,Yolov8在还没有开源时就收到了用户的广泛关注。yolov8的整体架构如下&…

tmux使用方法

tmux使用指南:比screen好用n倍! - 知乎 当你开启一个session的时候会默认开启一个window,这个截图就是一个window,而这个window可以拆成很多分subwindow,在这里就是:左上角Asubwindow,左下角Bsu…

UE4 回放系统升级到UE5之后的代码报错问题解决

关键词: UE4 回放系统 升级 UE5 报错 DemoNetDriver GetDemoCurrentTime GetDemoTotalTime 背景 照着网上教的UE4的回放系统,也叫重播系统,英文Replay。做完了,测试运行正常,可升级到UE5却报了一堆 WorldSetting 和 …