ChatGPT 之乱:学生用AI 软体写作业,纽约市教育局祭禁令有用吗?

对科技日新月异对教育或人类发展可能造成的冲击,宾州州大学英文系教授赛尔博直言:「虽然每1 到2 年,就会有一个看起来可能会对高等教育产生破坏性影响的事件发生,但我并不担心ChatGPT 和其他的软体会造成负面影响。」

在AI 软体ChatCHPT 中输入「芥末的发展」,在短短不到一分钟内,你就会获得一篇长约1000 字且语句通顺的文章。这种既快速又精准的回答,除了让使用者啧啧称奇外,也引起正反两面争议。例如,在美国,已有不少学生开始透过输入关键字,让ChatGPT 协助完成他们的作业,引发教师们对学生报告内容非原创、甚至是抄袭问题等担忧。

22022年11 月底,人工智慧研究公司OpenAI推出了一款名为「ChatGPT」的线上聊天机器人。该公司透过自行研发的GPT-3.5语言模型,设计出可辨识使用者所输入的自然语言,并同样以该语言进行回覆的软体。

市面上可辨识语言的聊天机器人很多,如Chai、Simsimi、Replika、或Online Chat Bot 等,但ChatGPT 除了回答简单的问题之外,还精准地根据问题写出一首歌、短文甚至是写出一篇报告。而其透过语言模型所产出的文章,在经防抄袭软体时可轻松过关。

该聊天机器人上线一个多月,即有超过百万网友利用它写出短文。尽管大多数的使用者,只是将它拿来当作娱乐的小工具,但也有部分AI 生成文章或协助提升电子邮件品质的成果,令人备感惊艳。

纽约公立学校将「禁」学生使用ChatGPT

虽然多数民众使用ChatGPT 纯属好玩,但在这款现阶段无需付费的ChatGPT 聊天机器人问世后不久,美国纽约市公立学校陆续开始禁止学生使用该软体,以避免「作弊」情形出现,并可能将连带引起其他学校跟进。

如先前就有校长在学校公告系统中,以英文全大写的方式严正警告:「严禁学生使用ChatGPT ,或其他有自动生成文字功能的软体,作为缴交学校报告的工具。该手法属于不可容忍的作弊行为,如果你被抓到用ChatGPT 或其他类似的软体交作业,将会面临严重的后果。」

不过,处罚归处罚,百密总有一疏;该如何在第一时间就避免学生使用该软体,更是现在许多学校急欲处理的问题。纽约市教育局(NYCDOE)日前发表声明,指出因担忧ChatGPT 等软体的出现,对学生的学习将产生不良影响,预计会开始限制校园网路和相关装置的使用。只是,对那些使用自己手机网路和在家上网的学生来说,学校管控网路的方法仍防不胜防。

关于「让AI 帮我写作业」,背后真正的问题恐怕在于:学生让AI 软体帮他们完成作业,尽管「效率惊人」,但却从中失去了思辨的机会,也无法真正学到相关的知识。「这个工具或许可以很快地为问题提供解答,但它无法促进学生发展批判性思考,这在学生的长期发展上是有害的。」纽约市教育局发言人莱尔(Jenna Lyle)说。

想靠文字生成工具一步登天,仍难逃被老师抓包的命运

对此,OpenAI 执行长阿特曼(Sam Altman)日前(2022 年12 月)在Twitter 上写道:「ChatGPT 的应用范围仍有非常大的限制,它算是未来发展进程的一种『预览』,在这部分我们还有很多功课要做。」

虽ChatGPT 生成的文字流畅度可以假乱真,但面对目前任教于各大校园的老师,学生要能够成功不费吹灰之力「靠软体」就能缴交作业,或什至想得到好成绩,恐怕还是有一定的难度。因先前《华尔街日报》(WSJ)记者史特恩(Joanna Stern)亲自前往校园,和其他7 年级学生一起上了一堂讨论《大亨小传》(The Great Gatsby)的文学课后,试图使用ChatGPT 生成的短文来缴交作业,最后却狠狠碰壁。

老师一下就看出这绝对不是学生自己写的文章,「因为对一名7 年级生来说,ChatGPT 所使用的字词太进阶了。」史特恩说。不过若是将同样的文章交给教导较高年级的英文老师,在一次须批阅大量报告和作业的情况下,就有可能无法明确分辨是否该文章,到底是由学生还是由机器所写。

不过,即便学校老师无法透过肉眼,或其他如Google Classroom 及Turnitin 等防抄袭软体在字里行间找到蛛丝马迹,光靠ChatGPT 生成的文章仍难以拿到高分。「因为文章整体看起来虽然好像还可,但就用字和整体书写的感觉非常僵硬,没办法真实传递出个人拥有的情感。」纽泽西High Tech 高中英文老师戴蒙德(Michael Diamond)说。

科技改变教育,老师、学生、家长需要担心吗?

针对现阶段还是让老师及学校感到头痛的ChatGPT,普林斯顿大学(Princeton University)一名资工系学生Edward Tian 日前花了一个圣诞假期的时间,就成功开发出阻止抄袭的程式GPTZero。

对于当初决定开发GPTZero 的契机,Edward Tian 表示,因为他看到以人工智慧技术的抄袭案件数量愈来愈多。「高中老师应该不会希望让学生ChatGPT 来写他们的历史报告吧。」Edward Tian 在Twitter 上发文表示。在一段影片中,Edward Tian 将《纽约客》(The New Yorker)的文章与ChatGPT 生成的信件透过GPTZero 进行比较,成功指认出纽约客的文章内容为人工撰写,而信件的内容为电脑自动生成的。

GPTZero 所得出的结果,是藉由分析文章中语言模型的「困惑度与突发性」(perplexity and burstiness)来进行判断,意味着文章若困惑度与突发性愈高,则文章的流畅度较高,而流畅度较高的文章较有可能为「人」所写。

面对科技日新月异对教育或人类发展可能造成的冲击,宾州州大学英文系教授赛尔博(Stuart Selber)直言:「虽然每1 到2 年,就会有一个看起来可能会对高等教育产生破坏性影响的事件发生,但我并不担心ChatGPT 和其他的软体会造成负面影响。」赛尔博也指出,其实数十年前大家对当时身为新科技的Word、维基百科或什至是网路,都抱持着担忧的态度。

Leave a Reply