机器之心报道

编辑：杜伟、泽南

连「作为一个大模型……」这样的 AI 语都忘了删就提交，结果还过审发表了。这不仅仅是简单的疏忽，而是一种新的学术现象。ChatGPT 出现以后，很多学术机构都发出了禁令，因为这种 AI 虽然生成能力强，但有时会胡说八道，滥用大模型写文章也违背了做研究的初衷。不过，这并不意味着我们可以忽视这些工具带来的潜在影响。事实上，大型科技公司如微软正计划将 ChatGPT 整合到 Office 全家桶中，这可能标志着我们即将进入一个全新的人工智能时代。

随着技术的发展，我们很快可能会看到更多关于人工智能在学术论文中的应用。这让人不得不去想象以后的学术论文会被 AI 生成的内容冲击成什么样。实际上，这种现象已经开始发生。在谷歌学术搜索（Google Scholar）上，一位斯坦福本科生发现了一系列疑似使用 ChatGPT 答案撰写论文的情况。当你输入「“As an AI language model” -“ChatGPT”」进行搜索，你会惊讶地发现大量直接复制粘贴这类回答的文献。

例如，有两篇论文分别发表在《国际现代农业和环境期刊》和《技术创新和能源杂志》上，其中明显包含直接从 ChatGPT 复制的大段文字。而更令人震惊的是，还有一篇发表在《国际高级工程和土木研究期刊》的论文中，竟然引用了一篇虚构（fake）的文章，由某个作者 X 和 Y 所著。

机器之心也通过谷歌学术查询，并且发现了十页左右，上百篇文献涉及此类情况。此外，还有人指出，即使是在较低水平（四级）的期刊，也存在问题，只要付费就能发布，不乏无意义的垃圾文章。此一时彼一世，我们或许应该重新审视目前的人工智能与学术界之间的地位关系，以及如何有效地防止未来出现更多的问题。

至少目前来看，ChatGPT 生成的论文似乎尚未造成太大的影响。但是，当这种工具真正成为日常工作的一部分时，我们需要考虑它对我们的职业生涯以及整个行业所产生的深远影响。因此，让我们继续关注这一趋势，并探讨如何确保科技进步同时维护知识产权和诚信标准。

参考链接：

https://twitter.com/itsandrewgao/status/1689634145717379074