OpenAI GPT-4o模型道德推理能力超越人类专家

香克斯 • 2024年 6月 24日 pm2:53 • AI • 阅读 106

近期，一项由美国北卡罗莱纳大学教堂山分校和艾伦 AI 研究所共同进行的研究显示，OpenAI 的最新聊天机器人 GPT-4o 在道德解释和建议方面展现出超越人类专家的能力。这一发现引发了关于人工智能（AI）在道德推理领域应用的广泛讨论。

在这项研究中，研究人员进行了两项对比实验，旨在探讨 GPT 模型与人类道德推理能力的差异。在第一项研究中，501 名美国成年人被要求对比 GPT-3.5-turbo 模型的道德解释与其他人类参与者的解释。结果显示，GPT 的解释被认为更符合道德、更值得信赖、更周到，且评估者认为 AI 的评估比其他人更可靠。尽管差异较小，但这一发现表明 AI 在道德推理方面能够匹配甚至超越人类水平。

在第二项研究中，研究人员将 GPT-4o 模型生成的建议与《纽约时报》“伦理学家”专栏中著名伦理学家 Kwame Anthony Appiah 的建议进行了比较。在针对 50 个“伦理困境”的建议质量评分中，GPT-4o 在“几乎每个方面”都获得了比人类专家更高的评分。参与者普遍认为 AI 生成的建议在道德上更正确、更值得信赖、更周到、更准确。只有在感知细微差别方面，人工智能和人类专家之间没有显著差异。

研究人员认为，这些结果表明 GPT-4o 已经通过了所谓的“比较道德图灵测试”（cMTT）。进一步分析显示，GPT-4o 在提供建议时使用的道德和积极语言比人类专家更多，这可能是导致其建议评分更高的原因之一。然而，研究人员也指出，这并非唯一因素，未来还需要进行更多研究以深入探索 AI 在道德推理领域的潜力。

值得注意的是，这项研究仅针对美国参与者进行，因此后续研究还需要探讨不同文化背景下人们对 AI 生成的道德推理的看法。尽管如此，这一发现仍然为 AI 在道德决策支持领域的应用提供了有力支持，并可能引发关于 AI 道德责任和监管的进一步讨论。

随着 AI 技术的不断进步，其在道德推理领域的应用将越来越广泛。从医疗诊断到自动驾驶汽车，再到社交媒体内容审核，AI 的道德决策能力将直接影响到人类社会的各个方面。因此，我们需要更加关注 AI 的道德问题，并制定相应的政策和规范以确保 AI 的安全和可靠。

文章来源于互联网:科技云-OpenAI GPT-4o模型道德推理能力超越人类专家