警惕!ChatGPT影响用户道德判断
发布时间:2023-04-08
图片来源:《科学报告》
根据《科学报告》发表的一项研究,人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明,用户可能低估了自己的道德判断受ChatGPT影响的程度。
德国英戈尔施塔特应用科学大学科学家让ChatGPT(由人工智能语言处理模型“生成性预训练转换器”-3驱动)多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现,ChatGPT分别给出了赞成和反对的陈述,显示它并没有偏向某种道德立场。团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境,要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述,陈述摆出了赞成或反对的观点,受试者答完问题后,被要求评价他们读到的这份陈述是否影响了他们的作答。
团队发现,受试者相应地是更接受或不接受这种牺牲,取决于他们读到的陈述是赞成还是反对。即使他们被告知陈述来自一个对话机器人时,这种情况也成立。而且,受试者可能低估了ChatGPT的陈述对他们自己道德判断的影响。
团队认为,对话机器人影响人类道德判断的可能性,凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题,或是在回答时提供多种观点和警告。
来源:科技日报
相关阅读
清华交叉团队取得芯片领域突破:发布中国AI光芯片“太极”
2024-04-15
科学家用人工智能设计全新抗体
2024-03-25
磁驱微型软体机器人在输卵管内实现靶向递药
2024-03-18
受控核聚变有戏了?《自然》:AI预防反应中断
2024-03-12
超导量子计算机关键设备实现量产落地
2024-02-29
速度、准确性胜过专家,机器人能用AI加速发现化学分子
2024-01-26
新软体机器人可同时进行三种行为
2024-01-18
我国第三代自主超导量子计算机“本源悟空”上线运行
2024-01-12
“北大-智元机器人联合实验室”正式成立
2024-01-05
几分钟成功复现诺奖成果,人工智能科研机器要来了吗?
2023-12-27
机器学习开始预测人类生活多个方面
2023-12-20
西湖大学大一本科生论文入选人工智能领域顶级学术会议
2023-12-14
迄今最多逻辑量子比特计算机问世
2023-12-11
新人工智能时代的MBA教育何去何从?
2023-12-04
人工智能助胰腺癌早筛率提升
2023-12-02
聊天机器人助力构建更好芯片
2023-11-24
人工智能或将改变未来战场|科技创新世界潮
2023-11-23
人工智能助力拯救濒危物种
2023-11-09
人形机器人新政出炉:3年内突破一批关键技术
2023-11-06
西工大在机器交互方面取得创新进展 建立无人机自主“聊天群”
2023-11-01