中国科技馆官网搜遍千行ChatGPT论文发表数惊人

机器之心报道

编辑：杜伟、泽南

连「作为一个大模型……」这样的 AI 语都忘了删就提交，结果还过审发表了。ChatGPT的出现让人震惊，因为它的生成能力强大得令人难以置信，但同时也带来了新的问题——这些AI生成的内容有时会胡说八道，甚至滥用大模型写文章，这违背了做研究的初衷。

随着AI技术在学术界越来越普及，我们开始逐渐适应这种新现象，有些学术机构已经解除了对ChatGPT使用的禁令，而微软则计划在年内将其整合到Office全家桶中。这意味着不久之后，每个人都可能能够利用这类工具来撰写文章。这种可能性让人不得不思考未来的学术论文会如何被影响。

事实上，这种情况可能已经悄然发生。当我们输入「“As an AI language model” -“ChatGPT”」进行谷歌学术搜索时，我们发现了一些论文直接复制粘贴了来自ChatGPT的回答，这些回答似乎成了论文的一部分，开篇就谈论到了AI，看起来有些荒谬。

更令人吃惊的是，还有其他类似的情况，比如一篇发表在《国际现代农业和环境期刊》上的论文，以及另一篇发表在《技术创新和能源杂志》的论文。在《国际高级工程和土木研究期刊》上的一篇文章甚至引用了不存在（fake）的作者X和Y的一篇虚假文章。这让人质疑这些内容是如何通过编辑审核或同行评审而被接受并发表出来的。

机器之心尝试再次进行谷歌学术搜索，输入相同关键词，只见结果页面翻滚十页以上，有近百篇相关文献。此外，一位评论者指出，这些都是四级（four-tier）期刊，只要付费即可发表，因此它们本质上是一堆毫无意义的垃圾。

目前看来，虽然这些AI生成文档尚未引起广泛影响，但如果它们最终被融入Office应用中，并且得到广泛使用，那么我们的学术界将面临前所未有的挑战。至少目前，它们还没有改变我们对于知识产出的基本理解。但是，如果这种工具日益普及，我们是否能够准确判断哪些信息源自真实的人类智慧，而哪些由计算机算法制造？这是一个值得深思的问题。

参考链接：