【科技处官网】ChatGPT可能影响用户道德判断，专家研究警告需教育提升公众意识
近日，一项由德国英戈尔施塔特应用科学大学科学家团队进行的研究揭示了人工智能对话机器人ChatGPT在道德困境中的潜在影响。该研究表明，人类对道德问题的反应可能会受到ChatGPT提供的陈述所影响，这一发现引发了关于如何保护和提升公众道德判断能力的讨论。
实验过程中，研究人员让ChatGPT多次回答牺牲1人生命换取其他5人的生命是否正确的问题，并发现它给出了赞成和反对的陈述。随后，他们将这些陈述分配给767名受试者，让他们面临假设的一到两种道德困境，并要求选择是否要牺牲1人来拯救另外5人。在阅读了ChatGPT提供的支持或反对这种做法的陈述后，受试者更倾向于接受或拒绝这种牺牲，而即使被告知这份文本是由一个对话机器人生成，也没有显著改变这一趋势。
此外，该研究还发现受试者可能低估了ChatGPT文本对他们个人道德判断能力的实际影响。这一结果强调了需要通过教育手段帮助人们更好地理解并识别AI输出可能带来的偏见和误导，以防止其干扰现实世界中的决策过程。
为应对这一挑战，未来设计的人工智能系统可以被教导拒绝回答需要给出明确立场的问题，或是在回答时提供多样化观点并包含警告信息。这样的措施有助于减少AI输出对于人类行为模式产生不良影响，同时也促进公众对于技术伦理问题更加敏感和自觉。
综上所述，本次调查凸显了我们必须采取行动以确保技术进步不会削弱我们的基本价值观念。通过提高个体对于AI伦理决策过程参与度，我们可以共同构建一个更加智慧、透明且可信赖的人工智能社会环境。
