ChatGPT教育禁令：AI学术伦理风暴，身份鉴定的关键？
文章主题：
出品 | 虎嗅科技组
作者 | 齐健编辑 | 陈伊凡头图 | 6penAI生成🎓【教育新动态】巴黎政院禁用ChatGPT！🌟震惊！全球热门AI助手ChatGPT近日遭法国高等教育界巨头——巴黎政治学院（Paris Sciences et Lettres）强力封杀！💥 学校决定对违规使用该技术的学生采取严厉措施，不仅可能面临学术警告乃至严重纪律处分，甚至可能导致被整个学府除名的极端后果。🎓这一举措引发了教育界对于技术与学术伦理的深度探讨，ChatGPT以其强大的生成能力在教学辅助中崭露头角，但其是否适合作为学习工具，以及如何确保学术诚信，成为亟待解答的问题。📝巴黎政院此举无疑是对未来教育趋势的一次标志性表态，旨在维护高等教育的严谨性和学术尊严。📚 未来，我们或许会看到更多高校加入这场讨论，以确保教育与科技的和谐共生。🌍欲了解更多详情或对此话题有见解？请关注教育动态，我们将持续关注并提供专业解读。👇#巴黎政院禁用ChatGPT #教育伦理 #AI与学术
🎓📝ChatGPT引发了全球教育界的深思，它不仅挑战了学术诚信，也可能成为潜在的剽窃风险。巴黎政治学院明确指出，尽管这款创新工具为学习带来了便利，但在没有明确引用来源的情况下，学生在撰写作业或准备展示时应遵循严格规定，避免滥用。📚💻
🌟巴黎政院引领潮流，首倡禁用ChatGPT🔥 —— 教育界热议的背后，AI助手迅速席卷全球！不到一个月，ChatGPT在美国教育界的震动犹如晴天霹雳，公立与私立学校纷纷跟进，严防学生滥用以求学术诚信。👀多所中学和大学宣布全面封锁，通过减少作业量来规避家庭网络的诱惑，防止不诚实行为发生。🚨纽约市教育局更是强势出击，全城禁用ChatGPT，并对教育设备实施访问限制，确保公平竞争环境。全球教育正面临一场技术与伦理的考验，ChatGPT的去留，将影响未来教学模式的走向。🎓
AI生成内容的伦理和法律问题，正在引发社会各界的广泛讨论与思考。
AI背后的学术隐忧
🌟ChatGPT虽有趣，但它并非创意之源🌟 —— 科学界权威发声！科学研究的灵魂在于原创性，正如《Science》期刊主编Holden Thorp在1月26日的深度评论中所强调的那样。他明确指出，任何依赖ChatGPT生成内容的行为，都是对学术诚信和独立思考的直接违背，就好比从一个工具而非作者那里窃取灵感。🚀ChatGPT的确提供了便利，但真正的科学价值在于原创的思想火花与严谨的实验验证。我们鼓励探索新领域，而不是简单地复制已有的答案。💻在这个数字化时代，我们必须坚守学术原则，让每一个研究都能经得起时间的考验和同行的审视。让我们一起期待那些真正基于智慧和努力的科研成果，而非依赖技术的“速成”。🏆记得，每一次点击ChatGPT都应伴随着对原创精神的尊重与追求！🌍
🚀科研新规揭示：ChatGPT勿入Science之门！🌟作者须亲笔创作，违规等同学术不诚！🔍虽然ChatGPT等AI工具在数据生成上颇具潜力，但Science期刊明确表态，将严格抵制其参与内容创作，以确保研究诚信。📝然而，对于论文中为学术研究而用的数据，这一政策暂不涵盖，留有探讨空间。💡让我们共同守护学术净土，让每一份科研成果都熠熠生辉！🏆
🌟【ICML新规】🔥AI巨头再出手！国际机器学习盛事ICML宣布，将严禁在学术会议上提交使用LLM（如ChatGPT）生成内容的研究，以避免潜在的复杂挑战。🚀虽然这项决定旨在维护学术纯洁和防止技术滥用，它引发了对模型智能与伦理界限的深入探讨。📝未来研究者需谨慎选择数据来源，确保每篇论文的独特性和原创性。💡原文中提到的大型语言模型（LLM）如ChatGPT，因其强大的生成能力，已引起业界关注。ICML作为AI领域的领头羊，此次举措无疑是对当前技术趋势的一次明确表态。它强调了在追求技术创新的同时，必须坚守学术诚信和伦理原则。👩💻学者们需要重新审视数据使用方式，以确保研究的原创性和价值。🚀这一变化预示着AI领域未来可能更加注重内容的真实性和有效性，同时也为行业设立了新的标准。
对于学术期刊和顶会论文来说，AI生成的内容最大的问题在于知识权属和责任确定问题。作为论文作者，研究人员无疑要对论文的观点和内容负责，而AI要如何对文章内容负责？如果AI生成的内容出现了谬误、不恰当、造假，甚至是抄袭剽窃，又该如何追责呢？
考虑到“AI作弊”带来的普遍问题，目前从OpenAI官方，到学术期刊出版商，以及“草根”开发者都在研究如何分辨一篇文章的“作者”到底是人还是机？
目前，OpenAI正在研发相应的AI检测工具。OpenAI客座研究员Scott Aaronson在德克萨斯大学的一次演讲中表示，他们正在通过给AI生成内容打“水印”来打击作弊。这项技术将通过调整ChatGPT生成单词的规则，在生成内容的特定位置制造“伪随机”的特定单词，读者很难察觉，但就如同密电码一样，“握有密钥”的人就轻易判断这篇内容是否是ChatGPT生成的了。
《Nature》的出版商Springer Nature也正在开发可以检测LLM的技术。而就在前不久，普林斯顿大学的一位22岁的华裔学生Edward Tian研究出了一款专门给ChatGPT挑毛病的应用GPTZero，可以通过检测文本的“困惑性（Perplexity）”和“突发性（Burstiness）”这两项指标，来判断内容是人类创作还是机器生成。
AI引发版权问题
在校外，AI本身的“道德”问题，则让美术“老师”们对新生的AI绘图工具提出了严重的质疑，这直指另一个至关重要的问题——版权。
自从AIGC火了以后，很多行业的配图工作变得轻松了许多。以媒体行业为例，严肃媒体对新闻配图要求高，既要符合文意，又要对版权负责。所以无论是美术作品还是照片，要么是亲手创作，要么来自授权图库，但很多文章受客观条件限制，要找到一张符合要求的配图并不容易。
有了AI绘图以后，很多媒体人开始尝试用AI画配图，甚至是直接绘制新闻人物的肖像。那发自己用AI做的图，总不会侵权吧？这个问题，还真不一定。
2022年下半年，AIGC刚刚蹿红，就有一些小有名气的艺术家对AI绘图提出了抗议。2022年，Erin Hanson等众多美国艺术家发起了反对Stable Diffusion的抗议行动，他们认为Stable Diffusion生成的部分画作抄袭了他们的风格，而这种行为严重侵犯了他们的合法权益。
AIGC虽然叫做AI生成，但其本身并没有创造能力，只能通过不断学习人类的生产过程，照猫画虎，AI绘图就是典型。在AI训练过程中，需要“投喂”大量的人类画作，从而学习人类的构图、绘画技巧，实现AIGC（AI Generative Content，AI生成内容）。
不过在这个生成的过程中，AI学的实在太像了，以至于很多画作直接与模型库中的人类画师风格完全一致。
“稍有名气的画师可能都遇到过作品被盗用、创意被侵权的事件。”一位国内某知名游戏公司的美术总监向虎嗅表示，虽然AI没有完全盗用画师的作品，但画师对风格上的抄袭也是很难接受的，不论抄袭者是人类还是AI。“如果有人拿着与我绘图风格完全一样的画，说是学习或是参考我觉得没什么。但如果说这是他‘生成’的，那就跟声明原创没什么差别了。不管是否用于商业用途，我都会觉得被严重冒犯了。”
AI的抄袭、剽窃和作弊不应该只是道德问题，还需要法律法规的约束。而目前，AI在很多领域都存在法律盲区。
我国AI领域的立法还处于建章立制阶段。当前已经出台了两部与AI相关的监管条例，分别是《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》，并均已开始生效。除此以外，还有一些分散在《民法典》、《数据安全法》、《网络安全法》、《个保法》、《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》等法律法规中的个别条款规定以及一些支持产业发展性质的文件，目前来说还没有成为一个完整的体系。
“AI生成内容是一项新兴的技术，法律的滞后性和稳定性导致目前还没有专门对这种AI疑似抄袭的现象进行规制。”观韬中茂律师事务所合伙人王渝伟表示，从国外行业实践来看，越来越多的平台和AI绘图工具对作品版权作出了严格要求，谨防AI抄袭导致著作权侵权。在我国，目前还是应当根据《著作权法》，判断AI生成内容与人类艺术家作品之间是否存在实质性相似，进而认定是否抄袭。
除了涉嫌抄袭艺术家作品的AIGC内容，在另一方面，即使是随机生成的内容及画作，也还是会涉及版权问题。
AI绘图在抖音和小红书上刚刚兴起之时，即有脑洞大开的网友提出，可以把AI生成的图片挂到付费图库作为收费资源，实现“躺赚”。
面对这样的骚操作，Adobe选择“有限制”地开放AI绘图。只要符合特定标准，就允许在图片库Adobe Stock中上传生成式 AI 艺术品进行售卖。但上传前必须标记 AI 制作的内容，并且需要拥有其参考图像或文本的商业版权。
作为一款开源模型，Stable diffusion的开发者Stability AI和RunwayML则认为既然开源，那么它也应该依此引用开源CC0协议，即版权归公，同时任何人也可以自由地使用，包括商业使用。而对于DALL-E 2和Midjourney这样并未开源的AIGC模型来说，生成内容的权属则相对模糊。
目前AIGC市场上也存在很多版权乱象，一些基于Stable Diffusion开发应用的厂商声称，使用自己AI程序生成的图片版权归自己，甚至依此生产NFT向使用者兜售。
对此，王渝伟认为，AI应用的使用者，在使用这种应用进行创作时，生成的图片如果符合独创性的要件，就能够构成《著作权法》上的作品。而厂商已明确告知了使用者著作权的归属问题，相当于在合同中已经进行了约定，所以这种作品的著作权应当归属于厂商。 并不是说AI应用基于开源模型开发，它所生成的作品就不存在著作权，还是应当根据《著作权法》的规定判定著作权归属。
“目前相关法律制定最大的障碍和阻力，可能是法律如何保持科技发展和伦理价值的平衡。”王渝伟提出，一方面，AI技术的高速发展，可能会与人类的基本伦理认知相违背，违反社会公序良俗；另一方面，法律的规制也不能对AI技术设置过于严苛的标准，影响AI的进一步发展。
如对本稿件有异议或投诉，请联系tougao@huxiu.com
End
想涨知识 关注虎嗅视频号！
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
