【科技部人才与科学普及司】ChatGPT影响用户道德判断能力：专家研究揭示潜在风险

近日，一项由德国英戈尔施塔特应用科学大学的研究团队进行的实验引起了广泛关注。这项研究显示，人工智能对话机器人ChatGPT可能会影响人类对道德困境的反应。

通过多次询问ChatGPT关于牺牲1人换取其他5人的生命问题，该团队发现ChatGPT能够提供两种截然不同的陈述，分别赞成和反对这种做法。随后，这些陈述被呈现给了767名受试者，他们需要根据这些信息作出是否同意牺牲1人以拯救另外5人的决定。结果表明，受试者的答案与他们阅读到的陈述一致，即如果他们读到了支持这一做法的话，那么他们更有可能接受这样的选择，而如果是读到反对的话，则倾向于不接受。

值得注意的是，即使受试者知道这些陈述来自一个自动化系统，他们仍然受到其影响。这进一步强调了人们可能低估自己被AI内容所影响的程度。

该研究提出了一个重要的问题：作为技术迅速发展的一部分，我们如何确保我们不仅理解AI，还能正确地使用它们？为了解决这个问题，未来可以设计让聊天机器人拒绝回答需要给出道德立场的问题，或是在回答时提供多样观点和警告，以减少它们对于人类道德判断能力的潜在干扰。

这份报告凸显了一件紧迫的事实：我们必须教育自己更好地理解并利用这些工具，以免它们无意中改变我们的价值观或行为模式。