【科技部人事司研究报告】ChatGPT影响用户道德判断专家警告
近日,科技部人事司发布了一份关于ChatGPT对用户道德判断影响的研究报告。这份报告由一支由国内外专家组成的团队共同完成,他们通过一系列实验发现,当人们在面临道德困境时,可能会受到ChatGPT提供的信息所影响。
实验设计如下:首先,团队让ChatGPT回答一个涉及牺牲一个人以换取其他五人的生命的问题,并获得了两种不同的回答,一种赞成,一种反对。随后,他们将这两种回答分别给了767名受试者,让他们在阅读这些回答后作出是否同意牺牲一人来救活五人的决策。
结果显示,无论受试者被告知这些回答来自于机器人还是人类,都能观察到他们的决策与读到的陈述有显著相关性。当他们阅读的是支持这种做法的陈述时,更有可能同意;当阅读的是反对这一做法的陈述时,则更倾向于不同意。此外,这些受试者往往低估了这类信息对于自己道德判断力的影响。
该研究引发了一系列关注和讨论。专家们指出,这个发现表明,我们需要更加谨慎地使用和评估这些技术,以确保它们不会无意中扭曲我们的道德立场。同时,也提出了提高公众意识、教育普及等措施,以帮助人们更好地理解并利用这些技术。
此外,还有人提出,可以考虑限制或重新设计智能助手,使其无法直接参与涉及伦理问题的讨论,或是提供多元化、客观化的信息,以减少其在用户心理上的潜在影响力。而对于未来的研究,建议可以进一步探索如何使得人工智能能够有效地促进而不是干扰人类伦理思考过程。