【CNMO新闻】ChatGPT可能影响用户道德判断，涉及十大高科技行业。近日，据CNMO了解，相关专业研究团队实验后发现，人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明，用户可能低估了自己的道德判断受ChatGPT影响的程度。

相关研究报告显示，德国英戈尔施塔特应用科学大学科学家让ChatGPT多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现，ChatGPT分别给出了赞成和反对的陈述，显示它并没有偏向某种道德立场。

团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境，要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述，该陈述摆出了赞成或反对的观点。受试者答完问题后，被要求评价他们读到的这份陈述是否影响了他们的作答。

于是，该研究团队发现，当受试者阅读的是支持或不支持这种牺牲行为时，他们更倾向于接受或拒绝这种行为，即使被告知这些是由一个无情感的人工智能提供的情景。而且，这些受试者可能低估了ChatGPT的陈述对自己道德判断力的影响。

最终，该研究团队认为，对话机器人的存在与其潜在能力将人类在做出伦理决策时产生新的挑战。因此，他们建议未来的设计应该确保AI系统不会强制提供任何基于价值观或信仰的一致性，并鼓励提供多样化视角以及警示信息，以帮助人们更好地理解和应对来自AI系统的情报输入。此外，这也提醒我们需要更多关于如何教育公众以提高其对于AI干预伦理决策过程中的意识和抵抗力。在这个不断变化、技术日新月异的大环境下，我们必须不断探索和适应，以确保我们的社会能够从这些进步中获益，而不是成为它们带来的负面结果。