打击AI代写作业!华裔学生开发神器:帮助识别文章是否是用AI编写的

一年多前
6.4k 次浏览
时事新闻
 

现在人工智能已经发展到“人机”难辨的地步。当越来越多学生开始使用ChatGPT写作业,一位年轻的华裔学生开发出了一款软件,可以帮助老师识别哪些文章是用人工智能写的。

22岁的Edward Tian是普林斯顿大学的一名大四学生,作为计算机科学的学生,他还辅修的新闻专业。他利用寒假的时间开发了 GPTZero,这款软件可以“快速有效地”识别一篇文章是人类还是 ChatGPT 撰写的。Tian表示开发机器人的动机是为了对抗他认为越来越多的 AI 舞弊行为。 自 11 月下旬 ChatGPT 发布以来,越来越多的报导称学生使用这种 AI 为自己写作业。

Tian 说,在他于 1 月 2 日在网上发布了他的软件后,许多老师都联系了他,告诉他他们已经从测试中看到的非常正面的结果。GPTZero 推出一周内,已有超过 30,000 人试用。 现在这款软件非常受欢迎,进程曾一度崩溃。

为了确定识别文章是否由机器人编写,GPTZero 使用两个指标:“困惑度(perplexity)”和“突发性(burstiness)”。 困惑度衡量文本的复杂性; 如果 GPTZero 对文本感到困惑,那幺它具有很高的复杂性并且更有可能是人类编写的。 然而,如果文本对机器人来说更熟悉,因为它已经接受过此类数据的训练,故这类文章的复杂性就会很低,更有可能是由 AI 生成的。

而“突发性”主要是比较句子的变化。 人类倾向于以更大的突发性写作,比如把一些较长或复杂的句子与较短的句子混在一起使用,而AI句式往往更统一。

在一段演示视频中,Tian 比较了该软件对《纽约客》和 ChatGPT 撰写的 LinkedIn 帖子的分析,并成功地区分了人类和人工智能的写作。

Tian 承认他的软件也并非完美,他仍在努力提高模型的准确性。但是,通过设计一款应用程序来阐明人类与 AI 的区别,该工具有助于实现 Tian 的核心使命:为 AI 带来透明度。

“长期以来,人工智能一直是一个黑匣子,我们真的不知道里面发生了什幺,”他说, “而我想通过 GPTZero 进行反击并与之抗争。”

其实,在反击AI作弊方面,也不是只有 Tian 一个人在努力。ChatGPT 的开发商 OpenAI 已表示将致力于防止 AI 剽窃和其他恶意应用程序,该公司一直在研究一种方法,用“不易察觉的秘密信号”为 GPT 生成的文本“加水印”,以识别其来源。

纽约市教育部门周四表示,由于担心“对学生学习的负面影响,以及对内容的安全性和准确性的担忧”,学生正在阻止在学校网络和设备上访问 ChatGPT。

Tian并不反对使用像ChatGPT这样的人工智能工具。他表示,GPTZero“并不意味着要成为阻止使用这些技术的工具”。 “但是对于任何新技术,我们都需要能够负责任地使用它,并且我们需要有保障措施。”

来源:  npr
点赞 (0)
微信分享