AI助力科研:GPT-3助力计算生物学家加速论文写作

文章标签:GPT-3, AI tool, ChatGPT, 生物学研究

在2022年的12月份,著名计算生物学家Casey Greene以及Milton Pividori进行了一次非同寻常的研究实验。他们雇佣了一名非人类的助手,旨在协助优化三篇研究论文。这位勤奋的助手在短短几秒钟内就对论文的各个方面提出了宝贵的建议。甚至在一份生物学手稿中,助手还在一篇引用中纠正了一个错误。经过优化后的论文手稿的可读性大大提高,同时制作成本也极低,每份文件的售价仅需不到0.50美元。

GPT-3 AI工具自2020年首次亮相以来,一直备受关注。到了2023年1月23日,一篇关于其功能的预印本论文终于问世。

https://www.biorxiv.org/content/10.1101/2023.01.21.525030v1

图. GPT-3对论文的修改

红色为删除部分;绿色为修改部分

在众多工具中,最为知名者当属ChatGPT,这是一款具备强大自然语言处理能力的大型语言模型(LLM)。ChatGPT通过汲取海量的文本数据以实现任务的自动化执行,其背后技术源自于GPT-3系列产品之一。值得关注的是,OpenAI于2022年11月30日推出了ChatGPT,并对其进行了免费开放,这使得广大用户得以轻松接触到这款强大的工具,从而引发了学术界和研究者们的高度关注与热烈讨论。

ChatGPT等工具可快速成本,可靠吗?

在学术界,ChatGPT的应用越来越广泛。一些研究者认为,在有人监督的情况下,ChatGPT能够有效地辅助研究人员提高论文写作效率,同时也能迅速完成课题申请等文件。不仅如此,有些科学家不仅频繁利用ChatGPT审查代码,还将其运用于头脑风暴。此外,还有一些研究者选择使用AI来编写PPT、设计学生考卷以及批改课程作业,这就使得AI成为了许多人的得力助手,甚至被称为“数字秘书”或“智能助理”。

虽然人工智能(AI)的迅速发展带来了许多便利,但同时也引发了众多关注。其中,最为突出的问题之一就是AI可能产生的虚假信息。一些研究人员甚至可能会过度依赖AI来生成论文,这无疑加剧了这一问题。必须指出的是,AI并非万能,其可靠性和准确性仍存在一定的局限性。以ChatGPT为例,其运作原理是通过在一个庞大的在线文本数据库中进行学习,这个数据库中包含了各种形式的文本,包括错误或过时的知识。这就意味着,ChatGPT有可能在学习过程中引入这些错误或者偏见,从而在生成的文本中出现错误或误导性的信息。特别是在当前研究领域的空白之处,ChatGPT可能会更加容易地编造出虚构的引文。因此,尽管AI的发展具有一定的优势,但我们不能忽视其可能带来的风险和问题。我们需要在使用AI时保持警惕,尽量避免依赖于AI来生成重要的学术成果,尤其是涉及到严谨性和准确性的论文。同时,也需要加强对AI的监管和规范,确保其在学术研究和应用中的可靠性。

在2022年的12月份,某个网站暂时禁用了ChatGPT的使用。这是因为该网站的管理员发现,他们的平台上充斥着大量由人工智能生成的错误答案,这可能会给搜索引擎带来极大的困扰。

其他问题

有学者指出,在没有有效 output 控制的情况下,AI 可能被用于生成仇恨言论、垃圾邮件等不适当内容,从而导致种族主义、性别歧视等社会问题。

有部分研究员提出,学术领域应当抵制大型商业人工智能的支持。他们担忧,将决策权交给了AI,可能会导致研究人员在表达自己观点时感到无力。

如何规范AI的使用?

一些研究人员认为,为AI设限可能至关重要,对人工智能的计划监管将有助于保证AI的规范使用。

目前,很多学术出版商都公开声明,科学家应该在论文中公开披露AI的使用情况。《Science》的政策更加严格,称论文中不能使用ChatGPT或任何其他AI工具生成的文本。

更多阅读:数篇论文用AI写论文并将其列为作者,很多期刊表示了反对!

一个关键的技术问题是,AI生成的内容不容易被发现。2022年12月,一位计算机学生发布了“GPTZero”这个工具,如果它发现大部分单词和句子是可预测的,那么文本很可能是AI生成的。此外还会检查文本的变化,因为AI生成的文本在语气、节奏上往往比较一致。

然而,检测工具的准确性并不总是可靠,特别是如果AI生成的文本随后被人工编辑的话。此外,检测工具可能会错误地将人类书写的文本误判为AI所写。OpenAI公司表示,在测试中发现,误判率为9%,仅正确识别了26%的AI撰写文本。

还有研究者提出,将AI生成的内容带上水印。2022年11月,OpenAI就宣布正在研究一种为ChatGPT输出数字水印的方法,但还没有发布。

参考文章:

https://www.nature.com/articles/d41586-023-00340-6

GPT-3, AI tool, ChatGPT, 生物学研究

Leave a Reply