微软研究：AI代理选择过多易失控，如何避免决策迷航？

11月6日，微软发布了一款用于测试人工智能代理（AI agents）的全新仿真环境，并同期发表了一项揭示当前代理模型可能易受操控的研究。这项由微软与亚利桑那州立大学合作开展的项目，对AI代理在无人监督情景下执行任务的可靠性提出了新的疑问，同时也质疑各大AI企业能否快速兑现其关于"代理化未来"的技术承诺。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

这款被微软命名为"Magentic Marketplace"的仿真环境，是一个用于实验AI代理行为的人工合成平台。典型实验场景包括：代表用户的"客户代理"试图依照用户指令订购晚餐，而代表不同餐厅的多个"商家代理"则竞相争取这笔订单。

研究团队的初步实验涉及100个客户端代理与300个商家端代理之间的互动。由于该市场平台的源代码已开源，其他研究团队可轻松复用该代码开展新实验或验证已有结论。

微软研究院AI前沿实验室董事总经理埃杰·卡马尔表示，此类研究对于深入理解AI代理的运作能力至关重要。"当这些代理开始相互协作、对话和协商时，世界将如何改变，这确实是一个值得深入探讨的问题。"卡马尔解释道，"我们希望系统性地解析这些现象背后的运行机制。"

据了解，初步研究测试了包括GPT-4o、GPT-5以及Gemini-2.5-Flash在内的主流模型，发现了它们某些令人意外的薄弱环节。研究人员特别指出，商家可通过特定策略影响客户代理的决策，使其更倾向于购买特定商品。此外，当客户代理面对过多选项时，其决策效率会出现明显下降——这表明代理的注意力机制在选项过剩时容易超负荷运转。

"我们原本期待这些代理能协助我们处理海量选项，"卡马尔坦言，"但实验表明，当前模型在面对过多选择时，实际上会陷入信息过载的困境。"

研究还发现，当多个代理需要为实现共同目标而协作时，往往难以明确各自在协作中的角色分工。虽然提供更清晰的协作指引后，代理的表现有所改善，但研究人员仍认为模型自身的协作能力亟待加强。

"我们可以通过逐步指导告诉模型该怎么做，"卡马尔进一步说明，"但如果我们的测试目标本身就是检验它们内在的协作能力，那么我们理应期待这些模型默认具备这样的素质。"