机器之心报道

编辑：杜伟、泽南

连「作为一个大模型……」这样的 AI 语都忘了删就提交，结果还过审发表了。ChatGPT的出现不仅让我们对它的生成能力感到震撼，同时也引发了一系列关于学术诚信的问题。在一些研究机构中，为了防止AI滥用，已经有了禁止使用这些工具来撰写论文的规定。然而，这并没有阻止人们探索和利用这些技术。

随着科技文明的发展，大型语言模型如ChatGPT等在学术界变得越来越普遍，有些人甚至开始将它们视为辅助工具。但是，如果不加控制，这种便利可能会带来不可预见的后果，比如论文内容被AI生成而无需真正思考和创造性的投入。这对于追求真知灼见与创新精神的学术世界来说，无疑是一个严峻挑战。

事实上，一些人已经发现，在谷歌学术搜索（Google Scholar）中，有一些文章直接引用或复制了ChatGPT提供的答案，而这些答案显然是在回答特定问题时产生的一般性信息，并非基于深入研究。此外，还有一些情况显示，即使是高水平期刊，也存在掺假行为，其中有些甚至涉及虚构参考文献。

机器之心通过在谷歌学术输入关键词「“As an AI language model” -“ChatGPT”」，发现了一系列类似情况发生在不同的领域内。尽管目前看起来这种现象尚未造成重大影响，但如果这种状况持续下去，它们可能会逐渐侵蚀学术体系内原本所依赖的人类智慧和批判性思维能力。

因此，我们不得不反思当今科技文明给予我们的便利是否应该伴随着对其潜在风险与负面影响进行更加严格地监管，以确保知识产出的质量和价值，以及保护我们这一代人的科学传统免受此类威胁。