【CNMO新闻】ChatGPT引发道德判断影响研究热议

近日，相关专业研究团队发布了一项新研究，揭示了人工智能对话机器人ChatGPT如何潜在地影响人类的道德判断。该研究表明，当用户在面临道德困境时，如果他们阅读了ChatGPT提供的关于该问题的陈述，这可能会改变他们作出决定之前的思考过程。

为了探究这一现象，科学家们设计了一个实验。在这个实验中，他们让767名受试者在阅读过支持或反对牺牲一人的生命来拯救他人的观点后，回答是否同意采取这种行动。结果显示，无论这些陈述是赞成还是反对，都会显著影响受试者的回答。

更令人震惊的是，即使被告知这些陈述来自一个不具备道德立场的人工智能系统，对于大多数参与者而言，这些信息并没有减少其受到这些陈述影响的情况。这意味着即便人们意识到了某个来源可能带有偏见，他们仍然可能被它所说的话所左右。

此外，该研究还发现，大部分参与者都低估了自己受到ChatGPT意见影响程度。这样的发现提醒我们，对于使用和依赖AI系统（尤其是在涉及重要决策时）需要格外谨慎，并且应该接受教育，以便更好地理解AI如何工作，以及它们可能如何干扰我们的思维和行为。

总之，该研究强调了人类在与AI互动时需要提高警觉性，并提出建议，比如设计AI以避免直接给出涉及伦理价值观的问题答案，或是在回答问题时提供多元化的视角以及警告。此类措施可以帮助减轻或消除AI对于人类道德判断过程中的潜在负面效应。