您所在的位置：首页 - 资讯 - 正文资讯
研究发现，的道德推理能力胜过人类专家
奚诗科技
06-24
【资讯】
741人已围观
摘要IT之家6月24日消息，近期的一项研究表明，OpenAI最新的聊天机器人GPT-4o能够提供道德方面的解释和建议，且质量优于“公认的”道德专家所提供的建议。据TheDecoder当地时间周六报道，美国北卡罗莱纳大学教堂山分校和艾伦AI研究所的研究人员进行了两项研究，将GPT模型与人类的道德推理能力进行比较，以探讨大语言模型是否可被视为“道德专家”。IT之家汇总研究内容如下：研究一501名美国成年人对比了GPT-3.5-turbo模型和其他人类参与者的道德解释。结果表明，人们认为GPT的解释比人类
IT之家6月24日消息，近期的一项研究表明，OpenAI最新的聊天机器人GPT-4o能够提供道德方面的解释和建议，且质量优于“公认的”道德专家所提供的建议。
据TheDecoder当地时间周六报道，美国北卡罗莱纳大学教堂山分校和艾伦AI研究所的研究人员进行了两项研究，将GPT模型与人类的道德推理能力进行比较，以探讨大语言模型是否可被视为“道德专家”。
IT之家汇总研究内容如下：
研究一
501名美国成年人对比了GPT-3.5-turbo模型和其他人类参与者的道德解释。结果表明，人们认为GPT的解释比人类参与者的解释更符合道德、更值得信赖、更周到。
评估者也认为人工智能的评估比其他人更可靠。虽然差异很小，但关键发现是AI可以匹配甚至超越人类水平的道德推理。
研究二
将OpenAI最新的GPT-4o模型生成的建议与《纽约时报》“伦理学家”专栏中著名伦理学家KwameAnthonyAppiah的建议进行了比较。900名参与者对50个“伦理困境”的建议质量进行了评分。
结果表明，GPT-4o在“几乎每个方面”都胜过人类专家。人们认为AI生成的建议在道德上更正确、更值得信赖、更周到、更准确。只有在感知细微差别方面，人工智能和人类专家之间没有显著差异。
研究人员认为，研究发现，的道德推理能力胜过人类专家这些结果表明AI可以通过“比较道德图灵测试”（cMTT）。而文本分析显示，GPT-4o在提供建议时使用的道德和积极语言比人类专家更多。这可以部分解释为什么AI的建议评分更高——但不是唯一因素。
需要注意的是，这项研究仅仅针对美国参与者进行，后续仍需进一步研究人们如何看待AI生成的道德推理的文化差异。
论文地址：https://osf.io/preprints/psyarxiv/w7236
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
Tags： 研究发现的道德推理能力胜过人类专家
