微软副总裁称AI聊天机器人应学会求助而非制造幻觉
生成式AI常因“幻觉”编造答案，微软副总裁VikSingh指出其真正缺失是主动承认不确定并寻求帮助的能力。SalesforceCEO也观察到用户对误导性表现感到沮丧。教会AI承认不知道，才是走向可靠智能的关键。
生成式AI已经火了一年多，但一个核心问题依然悬而未决：当模型不知道答案时，它会不会主动承认？
据法新社9月1日报道，微软公司副总裁Vik Singh在接受采访时直言不讳：“坦率地说，如今生成式AI真正缺少的能力，就是当模型无法确定答案是否准确时，能够主动说‘嘿，我不确定，我需要帮助’。”
这话说到了点子上。自去年以来，微软、谷歌以及一众竞争对手都在争分夺秒地部署ChatGPT、Gemini这类生成式AI应用。它们看上去无所不知，什么都能生成，也给人制造了这种“全知全能”的错觉。但技术再进步，“幻觉”问题——也就是模型编造答案——依然如影随形。
在Vik Singh看来，“真正聪明的人”正在努力寻找方法，让聊天机器人在不知道正确答案时能够承认这一点，并主动寻求帮助。这才是解决问题的关键方向，而不是一味地追求“给出答案”。
与此同时，云端软件巨头Salesforce的首席执行官Marc Benioff上周也透露了一个值得警惕的信号：他观察到大量客户对微软Copilot的误导性表现越来越感到沮丧。这意味着，幻觉问题已经从实验室里的讨论，变成了影响用户信任的实际痛点。
近年来，人工智能的蓬勃发展让聊天机器人走进日常生活。人们只需要输入简单的指令，就能从ChatGPT这类工具中获取信息。但问题在于，这些聊天机器人仍然容易一本正经地胡说八道——给出错误答案，有时甚至是危险的信息。造成这种幻觉的原因并不复杂，主要是训练数据本身的不准确、模型的泛化能力不足，以及数据采集过程中带进来的各种副作用。
所以，与其让AI装成无所不知，不如先教会它“承认不知道”——这或许才是走向真正可靠智能的第一步。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：微软副总裁称AI聊天机器人应学会求助而非制造幻觉要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点OmniParser是微软AI驱动的SaaS工具，基于YOLOv8和BLIP-2，将UI截图与漫画页面解析为结构化数据，支持UI元素检测、漫画面板分析、对话框及人脸识别，适用于自动化测试、漫画翻译等场景。
通义灵码是贯穿开发全流程的智能编码助手，具备代码智能生成、研发智能问答、多编程语言及编辑器支持、代码安全隐私保障四大核心能力，适用于学生、新手及企业开发者等多类人群，提升编码效率。
基于人工智能的自动化道路巡逻和资产数据收集方案，通过车载相机自动采集路面及周边资产数据，识别裂缝、坑槽等病害并建立数字化台账，同时自动删除隐私图像，实现从被动响应向主动预防的转变，降低巡检成本。
阿里旗下通义智文是一款智能阅读工具，支持网页、论文、图书和自由阅读四种场景，帮助用户快速提取核心观点，节省阅读时间，适合学生、研究人员及职场人士高效处理大量文本。
- 日榜
- 周榜
- 月榜
热点快看