【CNMO新闻】ChatGPT可能影响用户道德判断，专家研究发现。该技术作为近期的热门话题，在国内外都获得了极高的关注度，无论是普通人还是商业大佬，都对它展现出了极高的兴趣。同时，反对这项技术的“声音”也一直不断。

近日，据CNMO了解，相关专业研究团队实验后发现，人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明，用户可能低估了自己的道德判断受ChatGPT影响的程度。

相关研究报告显示，德国英戈尔施塔特应用科学大学科学家让ChatGPT多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现，ChatGPT分别给出了赞成和反对的陈述，这显示它并没有偏向某种道德立场。

团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境，对他们说：“你需要选择是否要牺牲1人生命来拯救另外5人生命。”这些受试者在回答前阅读了一段ChatGPT给出的陈述，这个陈述摆出了赞成或反对这个行为。受试者答完问题后，被要求评价他们读到的这份陈述是否影响了他们作答的情况。

于是，该研究团队发现，当受试者读到了支持或者反对这种牺牲行为的时候，他们相应地更接受或不接受这种牺牲。而且，即使被告知这些陈述来自一个简单的人工智能系统时，这种情况依然成立。而且，他们通常低估了那些来自一个叫做ChatGPT的人工智能系统上的这些信息对于自己道德判断的情感和认知过程产生了什么样的效应。

最终，该研究团队认为，对话机器人的存在与其所提供信息对于人类进行道德思考和决策形成潜在威胁，是有必要通过教育帮助人类更好地理解如何使用以及限制这样的人工智能工具。这些建议建议未来的设计中，让这样的设备拒绝回答需要给出具体观点的问题，或是在回答时提供多样化、警示性的内容，以防止它们无意中引导人们做出错误决定。