首页>>基础知识>>如何判断文章是否为ChatGPT所写

如何判断文章是否为ChatGPT所写

阅读量:723

分享:
2023-06-25 10:45:22

生成式预训练转换器 (GPT) 等自然语言处理 (NLP) 模型以制作类人文本、回答复杂问题和巧妙辩论各种主题的能力震惊世界,而其被滥用的可能性引发的担忧也在日益加剧。虽然这些模型可以用于很多写作应用,但如果用来完成作业将对学生的学习产生负面影响。因此,教育工作者也在寻求一些方法,以通过手动(如查看内容本身的标志)或自动(如使用人工智能 (AI) 构建的文本分类器)的方式,来判断文本是否由AI生成。此外,还有一些人在尝试重新设计课程,以让学生无法用AI完成作业,或者鼓励学生自己完成作业。在所有方法中,重新设计课程似乎取得了较大的成效。

适当借助工具进行创作

新的NLP AI模型,特别是GPT变体(ChatGPT、GPT-3等),将彻底改变人类写作方式。拥有如此强大的技术意味着,用户可以更快地把一个想法或一系列要点变成一篇文章。 他们可以通过一些有用的提示和新的思路来激发写作灵感,摆脱困扰。无论是否有经验,都可以借助新一代NLP模型来进行创作,而没有经验的人更容易将自己的想法转化为精彩的文章和故事。

然而,使用这些AI模型作为写作辅助工具也有缺点。比如对于中高等教育等来说,写作练习的目标是学习如何写好文章,以及如何提出和表达有说服力的想法和论点。写作也是学习如何研究论据以支持文章中提出的观点以及磨练批判性思维技能的工具。完全依靠AI模型来完成这项工作会跳过这一过程,让学生们无法学到这一重要技能。因此,了解如何确定某些东西是否是由AI编写的成为了当下努力的方向。

发掘迹象:如何识别AI创作

随着AI智能写作的逐渐普及,我们看到AI创作的机会也越来越多,这也为我们提供了一个了解AI创作类型的窗口, 帮助我们识别内容特征,以确定作者是人类还是机器。有趣的是,虽然准确性是一个较为具体的指标,但这些特征大多与散文的整体流畅度而非语法和拼写细节有关。然而,对于通常引用明确答案或同一事实的高度热门话题来说,即使是人类编写的内容也很可能看起来与AI生成内容相似并重复。对于较短的文本来说更是如此,无论是看起来还是听起来都难以辨别。因此,只有在文本足够长的情况下,才有可能有效地识别出是否出自AI。

所以,AI文章往往会重复一些内容,尤其是在编写长篇文章时。ChatGPT这类模型会以先前所有的预测令牌为基础预测下一个令牌;因此,在一系列的预测文本中,某些单词出现得越早,它们重新出现的可能性就越大。AI写作的另一个迹象是没有感情,内容平淡,没有任何特别强烈的情感或观点。对于师生这种读者熟悉作者个性的情况,就很容易识别出来。如果还有同一作者的其他文本作为参考,就更加容易识别出AI文本,尤其是那些在考试等监督条件下写出来的文本可能没有那么精致,更能表达作者的真实声音。如果两篇文章的常用表达方式和语言有很大差异,那么就很可能不是出自同一人之手。

另一个迹象是,是否正确陈述事实,以及引用是否正确。众所周知,像GPT-3和ChatGPT等生成模型很难产生正确的答案(它们可能会自信地断言并非如此),因为即使它们使用大量互联网文本信息进行训练,但实际上也无法记住所有内容。因此,这些模型是在对事物有了大致了解的基础上,将所学知识以类似人类的语言展现出来,而不是原样照搬一些细枝末节。对于很多没有关联元素用以检验真实性的模型来说,由做了足够研究的人发现作业中存在的错误,也能很好地证明这篇文章是由AI生成的, 尤其是在内容与时事、人物或地点有关时,这是因为最新版本的公开模型只在某个日期(通常是2021年或2022年)的数据上进行了训练。然而,在评估这一特定迹象时,需要检查这一模型是否发布了更新的知识。


搜   索

为你推荐

  • M8321-D双模 LTE 4G无线模块

    品牌:中移物联

    M8321-D

    封装/规格:模块我要选购

  • M5310-A NB-IOT无线模块

    品牌:中移物联

    M5310-A

    封装/规格:模块我要选购

  • M5311单频段 NB-IOT无线模块

    品牌:中移物联

    M5311

    封装/规格:模块我要选购

  • M5311多频段 NB-IOT无线模块

    品牌:中移物联

    M5311-A

    封装/规格:模块我要选购

  • M5313单频 NB-IOT 无线模块

    品牌:中移物联

    M5313

    封装/规格:模块我要选购