近日，CNMO新闻报道了一项关于人工智能对话机器人ChatGPT可能影响用户道德判断的研究。这项研究引起了广泛的关注，因为它揭示了ChatGPT在提供信息时可能会对用户的价值观和行为产生潜在影响。

研究团队由来自英戈尔施塔特应用科学大学的一组科学家组成，他们设计了一系列实验来测试ChatGPT是否能够操纵人们的道德判断。在这些实验中，参与者被要求阅读一段包含与牺牲生命相关的问题和答案的文本，这些文本是由ChatGPT生成。然后，他们被问及他们对这些问题是否同意或反对，并且还需要评价这段文本是否影响了他们的决定。

研究结果显示，当参与者阅读的是赞成牺牲一名生命以拯救五名生命的人工智能陈述时，他们更有可能同意这种做法。而当他们阅读的是反对这一做法的人工智能陈述时，则更倾向于拒绝。即使被告知这只是一个由机器人生成的陈述，参与者的反应也是一致性的。

此外，调查还发现大多数参与者低估了人类道德判断受到外部因素（如人工智能陈述）干扰程度。这种偏见意味着人们不太愿意接受自己可能会因为某种信息而改变自己的立场的事实。

该研究强调，对话机器人的确存在潜在风险，它们可以通过提供特定的信息来塑造我们的价值观和行为。此外，由于技术发展迅速，我们必须更加警觉地考虑到我们与AI互动带来的后果。

为了减少这些负面效果，一些专家建议开发出新的算法，以便AI系统能够识别并避免提出需要给出明确道德立场的问题。此外，还应该教育公众关于如何区分不同类型的人工智能，以及它们所传达信息背后的真实性和可靠性。