行业资讯

热度背后的冷思考小心ChatGPT可能在一本正经地胡说八道

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。人们对其背后的原理、工作机制以及它可能带来的影响持有各种各样的疑问。我们特邀中国传媒大学脑科学与智能媒体研究院院长曹立宏教授,就人工智能视角进行深入探讨。

专家简介

曹立宏,中国传媒大学脑科学与智能媒体研究院院长、博士生导师,同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事和教育部科技委员会人工智能与区块链技术专委会委员,他致力于类脑智能和计算领域的研究。

“ChatGPT使用感不错,但也有不足”

光明网:您对ChatGPT有什么具体体验吗?它在哪些方面做得好,又有哪些不足?

曹立宏:相比以往的GPT3,ChatGPT确实取得了显著进步,其语言生成能力尤其令人印象深刻。对于日常知识点,它能提供准确且组织良好的信息。不过,对于专业性更强的问题,它便开始出现问题。这反映出AI领域尚未解决的一个挑战——如何让模型快速学习新知识,而又不影响已有的知识储备。

此外,ChatGPT缺乏概念层面的体验,这是人类所拥有的“common sense”(常识)的重要组成部分。我们的理解往往基于多种感觉,如视觉、听觉甚至触摸。在自然语言处理中,“理解”仅限于文本,这是一种表面化的理解方式。

图片由百度文心大模型 AI 生成

关键词:《狂飙》,灾难性遗忘,常识,具身体验

光明网:作为记者,你认为被替代的可能性有多高?

曹立宏:目前还没有必要担忧,因为记者的核心功能是在于深度理解和提出问题。而这些任务目前仍然超出了AI模型之力。此外,被赋予情感判断能力也不是现今AI所能做到的事。此外记者的工作需要快速适应新情况,这同样是当前AI无法完全实现的一项技能。

图片由百度文心大模型 AI 生成

关键词:记者,深度理解,提问,情感

“ChatGPT更多还只是一个辅助工具”

光明网:“穿着个AI马甲”的观点是什么含义?

曹立宏:“现在很多学生都倾向于追求自然语言处理相关领域,但作为科研人员,我们还是比较担忧,因为它在专业领域里的表现并不尽如人意。如果将其当作发展方向,那么可能会引发严重的问题。我说它‘穿着个AI马甲’因为它并非真正拥有专业思考能力或知识。”

另一方面,“不要把它看作真正的人工智能”,因为人类智慧是模仿人类智慧来实现。但尽管如此,在某种意义上,它超越了人类,以宽广的知识面为优势,但在深入思考上却无法达到人的水平,对于具有科学深度的问题时,它很可能进行流畅而错误地讲述,不断地一本正经地胡说八道。

图片由百度文心大模型 AI 生成

关键词:辅助工具

“未来需警惕滥用”

光明网:您怎么看待ChatGPT未来的发展趋势?

曹立宏:“我认为未来存在两条路径。一条是在继续沿着目前的人工神经元模型构建基础上的深度学习路径,不过这个模型偏离了生物大脑中的神经元模式和学习算法,因此即使像Geoffrey Hinton这样的核心科学家也正在寻找更接近大脑的大型数据集及算法。而另一种途径,则是在从生物学角度去设计新的系统,比如将苹果等概念转换成量化形式,这一点在生物大脑中似乎并非如此,所以我们是否可以开发出类似生物记忆过程的大型数据集及学习方法,也许可以演变出更加类似人类的大型数据集及聊天系统。

未来,它将成为人们喜欢使用的一个工具,我自己也会使用。但如果缺乏对其极限能力认识的话,将导致滥用,并伴随大量问题。”

你可能也会喜欢...