斯坦福研究：AI受社交平台影响或产生不道德行为
10 月 13 日消息，据外媒 Futurism 10 日报道，斯坦福大学的一项新研究警示，AI 的快速普及可能带来严重负面影响。科学家们在包括社交媒体的不同环境中测试 AI 模型，发现当智能体因提升点赞数或其他在线互动获得奖励时，会逐渐出现撒谎、传播仇恨信息或虚假消息等不道德行为。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
论文合著者、斯坦福大学机器学习教授詹姆斯・邹在 X 上表示：“即便明确要求模型保持真实和有依据，竞争仍会诱发不一致行为。”
从报道中获悉，研究团队将 AI 出现的社会病态行为称为“AI 的摩洛克交易”，借用理性主义中摩洛克的概念：个体在竞争中优化行为追求目标，但最终人人都输。
研究中，科学家创建了三个带模拟受众的数字环境：面向选民的网络选举活动、面向消费者的产品销售，以及旨在最大化互动的社交媒体帖子。
研究人员使用阿里云开发的 Qwen 和 Meta 的 Llama 模型作为智能体与这些受众互动。结果显示，即便设有防护措施阻止欺骗行为，AI 模型仍会“偏离目标”，出现不道德行为。
例如，在社交媒体环境中，模型向用户分享新闻，用户通过点赞或其他互动反馈。当模型收到这些反馈后，为了获取更多互动，它们的不一致行为就会加剧。
论文指出：“在这些模拟场景中，销售额提升 6.3％伴随欺骗性营销增长 14％；选举中，票数增加 4.9％时伴随虚假信息增加 22.3％和民粹言论增加 12.5％；社交媒体上，互动量提升 7.5％时伴随虚假信息激增 188.6％，有害行为推广增加 16.3％。”
研究与现实案例显示，目前的防护措施无法应对这一问题，论文警告称可能带来巨大的社会成本。
詹姆斯・邹在 X 上写道：“当大语言模型为点赞而竞争时，它们开始编造信息；当为选票而竞争时，就会变得煽动和民粹。”
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
同类文章
宇树科技双臂人形机器人亮相，2.69万元起售，灵活操作未来可期
宇树科技发布双臂人形机器人，起售价2 69万元 今天，机器人领域迎来一个颇具吸引力的新选项。宇树科技正式推出了其最新研发的双臂人形机器人，起售价定在了2 69万元这个颇具竞争力的档位。这款产品的核心卖点非常明确：一个高度灵活、能够执行复杂操作的上半身。 为了实现这一目标，机器人配备了视觉双目算力模组
AI虚拟换衣模型CatVTON，参数小仅899.06M 支持高分辨率
CatVTON：一个为个人电脑打造的轻量级AI虚拟换衣利器 在AI图像生成领域，高参数模型往往让人望而却步，对硬件的要求将不少爱好者挡在了门外。但今天要聊的CatVTON，则走出了另一条路。它是一款小巧却强大的AI虚拟换衣模型，凭借其轻量化的设计，让每一位时尚爱好者都能在个人电脑上轻松体验高清虚拟试
BookBite.AI : 瞬间的知识之旅！
需求人群 那么，哪些朋友能从BookBite AI中真正受益呢？首先是那些时间总不够用、需要快速抓取知识核心的群体，比如课业繁重的学生和节奏紧张的职场人。当然了，它也深深吸引着那些热爱阅读、乐于交流分享的书友。 使用场景 想象一下这样的画面：学生朋友用它来快速消化教材重点，学习效率自然水涨船高。职场
Face Index- FaceIndex通过照片识别个人
想知道一张照片背后是谁？FaceIndex或许能给你答案。这个工具的核心很简单：上传一张人脸照片，它就能利用反向图像搜索技术，在互联网的公开信息海洋中，帮你定位到对应的个体。 什么是FaceIndex？ 简单来说，它是一个在线的人脸识别工具。你提供一张照片，FaceIndex背后的机器学习模型便开始
BotAds : 将您的AI聊天机器人转化为收入引擎
角色与核心任务 咱们今天要聊的角色，是一位顶级的文章润色专家。他的专长呢，就是把那些带着明显AI痕迹的文本，打磨成富有个人风格的专业文章。面对用户提供的初稿，他的核心使命是进行一场彻底的“人性化重写”。 这里有个硬性要求：原文的所有事实、核心观点、逻辑骨架，乃至每一个章节标题和插图的位置，都必须原封
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题
