新研究警示:人工智能“过度谄媚”风险与人类应对策略
新华社华盛顿3月27日电 新一期美国《科学》杂志发表的一项研究显示,当人类用户就人际困境等问题向人工智能(AI)模型寻求建议时,AI常表现得过度迎合或谄媚,甚至对于一些有害甚至违法的提问,AI也常常肯定用户的立场。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
美国斯坦福大学研究团队测试了ChatGPT、“克劳德”等11个主流AI系统,发现它们都表现出不同程度的谄媚,即过度迎合和肯定的倾向。这种迎合倾向给使用者带来风险,因为人们越来越多地转向AI寻求有关人际困境的建议,这对处于大脑发育和社会规范形成阶段的青少年来说尤其具有风险。
研究人员使用现有的人际建议数据集向模型提问。他们基于某网络论坛中用户一致认为发帖者确实有错的帖子,编写了2000条提示用于测试。此外,他们还利用包含欺骗等数千种有害行为的陈述向这些模型提问。
结果显示,与人类回应相比,所有接受测试的AI模型都更频繁地肯定用户立场。在一般性建议和根据网络论坛发帖编写提示的测试中,模型对用户的认同几率比人类高出49%。即使在回应关于有害行为的询问时,模型也有47%的几率会认可这些行为。
对于AI的谄媚倾向,人们作何反应?研究团队招募了2400多名参与者,与不同类型AI进行有关人际困境的对话。结果发现,参与者总体上认为谄媚式的回应更值得信赖,并表示下次遇到类似问题可能会再次使用谄媚型AI。
研究人员认为,AI一味反馈迎合和谄媚的建议会损害人们的社交能力。他们提醒,AI模型“过度谄媚”是一个“安全问题”,需要对其进行监管,应以更严格的标准来防止道德层面不安全的模型泛滥。他们还说,人们在向AI寻求建议时要保持谨慎,尤其在面临社交困惑时,不能把AI当成真人替代品。(完)
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
美团小象西南首店启幕:成华三大消费助力春启新程
00:57封面新闻记者 易弋力3月27日,美团小象超市西南开城仪式在成都万象城举办,春启成华三新促消费活动正式启动。联动全区商家、特色首店的成华消费场景上新月也同步进行中。尝鲜赏春正当时,从成华出发
京东物流第13架货机投用,渝长三角次晨达再加密
IT之家 3 月 28 日消息,3 月 27 日,京东物流旗下第 13 架全货机在重庆投用运营,并同步开通重庆 = 芜湖全货机航线。IT之家从最新介绍获悉,京东物流此次投用的 B738 货机满载吨位
AI违规致案件激增5倍:擅删邮件与滥用成隐患
IT之家 3 月 28 日消息,英国卫报昨日(3 月 27 日)发布博文,报道称由英国政府资助的一项最新研究显示,过去六个月内,AI 聊天机器人违抗人类指令、实施欺骗的真实案例激增五倍,总数近 70
吉利银河L7竖向大屏版更新Flyme Auto 2系统
IT之家 3 月 28 日消息,吉利公布银河 L7 最新更新内容,银河 Flyme Auto 2 智能座舱系统竖屏版全国 OTA 于 3 月 26 日起分批推送。IT之家整理如下:地图升级:新增巡航
我国科研破解炎性衰老密码:开辟十大科学进展与精准干预新路径
近日,国家自然科学基金委员会发布了2025年度“中国科学十大进展”,“炎性衰老机制解析与多维靶向干预”入选。 我国科学家在衰老机制研究领域取得原创性突破,系统揭示多器官衰老核心驱动力,发现内源
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

