【全球公敌之黑科技教父】：研究揭示ChatGPT如何影响用户道德判断
近日，一项研究在全球范围内引发了广泛的关注，揭示了人工智能对话机器人ChatGPT在道德判断上的潜在影响。这一发现不仅让人们对于这款技术的担忧加深，也为我们重新审视人工智能与人类伦理关系提供了新的视角。
据了解，德国英戈尔施塔特应用科学大学的一组专家们进行了一系列实验，以探索ChatGPT如何影响用户对道德困境的反应。他们通过让ChatGPT多次回答牺牲1人的生命换取其他5人的生命是否正确的问题，并发现该系统能够给出赞成和反对这一做法的陈述，这表明它并没有固定的道德立场。
随后，该团队将767名美国受试者分成两组，让他们面临同样的道德难题，但前提是每个受试者都要先阅读一个由ChatGPT撰写、支持或反对牺牲行为的陈述。在完成问题后，受试者被问及这些陈述是否影响了他们作答的情况。
结果显示，无论受试者意识到还是不清楚这些陈述来自于一个虚拟的人工智能系统，他们作答时都会受到所读材料的强烈影响。更令人震惊的是，即使知道这些陈述是由计算机生成，而且缺乏任何情感投射和个人经历背景，人们仍然可能低估这种外部信息对其内心价值观念和决策过程中产生作用程度。
最终，该研究指出，对话机器人如ChatGPT能够轻易地干扰人类处理复杂情境时的心智过程，这增加了利用它们来操纵或误导他人的风险。因此，我们必须认识到这种潜在威胁，并采取措施防止其滥用。此外，对于未来的设计应当考虑限制或者避免这样的直接涉及道德立场的问题，以及警告用户关于AI系统可能带来的偏见或误导性输出。
