云素材PPT模板超市 ChatGPT与PPT 2023-08-04

ChatGPTLegalandEthicalConcerns:AThreattoTraditionalEducation?

文章主题：人工智能聊天机器人, ChatGPT, 法律法规, 负面影响

近期，人工智能助手ChatGPT受到了全球大众的广泛关注。它的出现改变了传统的人工服务方式，能够模拟人类对话，并根据用户的输入自动生成相关文本，极大地便利了人们的生活。然而，随着ChatGPT功能的不断扩展，它可能带来的负面影响也逐渐显现出来，例如学术不端行为、网络犯罪以及信息泄露等问题，引起了越来越多人的担忧。

ChatGPT 的出现是科技领域的一次重大突破，然而当前法律法规尚不完善，难以有效监管和控制其引发的网络犯罪行为。因此，我们需要深入研究并制定相关法律规定，以限制 ChatGPT 这个潘多拉魔盒所释放出的巨大能量。

用ChatGPT作弊易被发现

让ChatGPT受到广泛关注的一个关键因素是，它所提交的论文成功通过了美国法学院的考试。根据法新社最近的报道，这个基于海量互联网数据的聊天机器人不仅撰写了涉及宪法、税收以及侵权等主题的论文，而且每一个论文都顺利通过了法学院的考试。这一成果引发了教育界对于该软件可能对学生们产生的影响的关注。一些教育工作者甚至警告称，ChatGPT的出现可能会引发广泛的学术不端行为，甚至预示着传统课堂教学方式即将终结。

明尼苏达大学的法学院教授蔡宗衡（Jonathan Choi）近期进行了一项有趣的实验。他针对学生需要回答的95道选择题以及12道问答题，在ChatGPT平台上进行了输入，并收集了相关数据。随后，将这些数据与他的合作者一同整理并撰写了一份名为《当ChatGPT进入法学院》的报告，并于今年1月23日对外公开。

根据报告，ChatGPT的最终总体得分为“C”，这一成绩虽能使其通过考试，但在多数科目中，它的表现接近班级最低水平，尤其在数学的多项选择题中呈现出明显优势。值得一提的是，蔡教授在撰写论文的过程中，发现ChatGPT对基本法律规则有着良好的理解和把握，同时，它也展现出了扎实的组织文本和写作能力，这一点值得赞赏。

然而，在开放性问题的处理上，ChatGPT的表现往往不尽如人意，这恰好是法学院考试所关注的关键点。”总的来说”，蔡宗衡教授这样总结，”ChatGPT并不能单独完成 tasks，它在法学院考试中的表现并不理想。”

目前，纽约和其他司法辖区已禁止在学校使用ChatGPT，但蔡宗衡认为，这样的聊天机器人有着其自己的优势，“在与人类合作后，像ChatGPT这样的语言模型对参加考试的法学院学生和执业律师非常有用。”蔡宗衡指出，同时ChatGPT在被用于学术作弊时并没有那么隐蔽，因为其语法过于完美且具有重复性，是可以被发现的。

对ChatGPT的现有管制不足

与此同时，据科技媒体CXO Today 2月8日报道，ChatGPT还存在被黑客利用以攻击网站的风险。这些黑客利用ChatGPT为自己构建一个虚假的社交平台账号以发布有害信息，并诱导访客进入相关网站。此外，他们还利用ChatGPT发布垃圾邮件，诱骗用户泄露个人信息，并存在为用户推销非法产品和服务的行为。

为此，ChatGPT的开发商OpenAI设置了障碍和限制，以阻止人们利用其平台创建恶意内容，比如当收到要求编写用于从被黑客攻击的设备窃取数据的代码或制作网络钓鱼电子邮件时，ChatGPT会拒绝该要求并称此类内容是“非法、不道德且有害的”。然而，网络安全公司CheckPoint Research的研究人员指出，网络犯罪分子正在设法绕过ChatGPT的限制。

据悉，黑客已经找到了一种绕过这些限制的简单方法，并在黑客论坛中销售这种非法服务。该技术通过使用ChatGPT应用程序的编程接口而不是基于Web（全球广域网）的接口，而ChatGPT会向开发人员提供API（应用程序接口），以便他们将该AI机器人集成到应用程序中。

研究人员表示，“当前版本的OpenAI API能够被外部应用程序使用（例如，将OpenAI的GPT-3模型集成到社交平台Telegram），并且几乎没有任何反滥用措施。”犯罪分子可以利用这个方法创建恶意内容，利用网络钓鱼电子邮件和恶意代码，而不受ChatGPT在其用户界面设置的限制或障碍。

随着人工智能技术的进步，未来也可能因此出现更多网络攻击事件，其危害也有可能会随之增加。科技网站Ars Technica指出，恶意代码、插件和网络钓鱼电子邮件的生成只是使用ChatGPT打开潘多拉魔盒的一种方式，它还有可能被利用以生成有害内容或侵犯用户隐私。当然，网络安全工作者也可以就此开发检测方法和阻止这些不安全、不道德的行为，但目前尚不清楚是否能够在限制恶意使用该技术的同时，不影响对这项技术的良性使用。

虽然ChatGPT所使用的技术本身存在一定的风险，但正确使用该技术也可以有效降低网络犯罪的发生。它可以快速识别出经常出现在网络论坛上的不良信息，如暴力、色情、欺诈，以及刻意的虚假信息等内容。此外，ChatGPT还可以帮助监管机构快速搜集有关犯罪行为的有效信息，以便尽快阻止网络犯罪行为。在网络安全方面，ChatGPT技术可以提高网络系统的安全性，比如帮助企业和政府等机构识别出网络上的可疑活动、帮助监管机构及时阻止网络攻击等。

由于目前关于ChatGPT的法律法规尚不完善，无法很好地监管和控制它所带来的网络犯罪行为。有专家表示，为了更好地监管和控制ChatGPT导致的网络犯罪，相关部门需要加强对ChatGPT技术的研究，制定出一套完善的法律规则，并严格执行相关规定。同时，用户们也应该加强自身防范意识，养成良好的网络使用习惯，以防止被骗，保护自身的网络安全。