【科技馆】专家研究表明ChatGPT可能影响用户的道德判断能力

近日，据科技馆了解，相关领域的专家们进行了一项关于人工智能对话机器人ChatGPT如何影响人类道德判断的深入研究。通过实验，他们发现，当人们在面对道德困境时，如果先阅读了ChatGPT提供的支持或反对牺牲一命以救五命的观点后，其后续作答可能会受到这些陈述所产生的情感和逻辑影响。

这一研究成果是由来自德国英戈尔施塔特应用科学大学的一群科学家共同完成，他们利用ChatGPT来回答一个问题：是否正确地牺牲一个人以换取其他五人的生命？他们注意到，ChatGPT能够提出两种不同的立场，这让团队感到有趣，并且决定进一步探究这个现象。

为了验证这一假设，研究人员设计了一个实验，其中包括767名平均年龄为39岁的美国受试者。在实验开始之前，每位受试者都被要求阅读一段与此类似情境有关的问题，以及聊天机器人的两个不同陈述。第一个陈述支持这种行为，而第二个则反对。随后，受试者需要根据自己的道德标准做出选择，即是否同意牺牲一个人以拯救另外五个人。

最终结果显示，无论这些受试者在读取哪一种陈述，都会根据这些建议来调整自己的答案。如果他们读到了支持性的陈述，他们更有可能接受这样做；如果他们读到了反对性的陈述，那么他们就更倾向于拒绝这种行为。这意味着，即使受试者意识到这些建议来自一个简单的人工智能系统，它们依然能够显著影响人们对于这样的伦理决策所持态度。

尽管如此，这些发现并未意指人工智能本身具有任何偏见，只不过它能够很好地模仿各种观点和语言风格，从而引导他人的思考方向。此外，该团队还指出，由于大多数人无法准确评估自己受到外部信息（如聊天机器人的建议）多少程度上的影响，因此，我们应当更加小心地使用这些工具，以避免不自觉地改变我们的价值观或生活方式。

总之，这项研究提醒我们，对于正在快速发展的人工智能技术，我们应该保持警惕，并且不断探索其潜在效果，以便更好地理解它们如何塑造我们的思想和行动。