上海专家探讨大模型幻觉问题与应对策略

上海之巅对话：深度解析大模型幻觉成因与应对策略

大模型为何会产生“幻觉”甚至“说谎”？这是当前人工智能发展面临的核心挑战之一。在上海中心大厦举行的跨界思想论坛上，来自多学科的专家围绕智能的尺度展开对话，为我们深入剖析了这一现象背后的机理。

面对主持人袁鸣提出的尖锐问题——“大模型会产生幻觉，我们还能信任它吗？”，同济大学哲学系余明锋副教授从认知哲学层面进行了解读：人类在与模型交互时，感受到的是有意义的对话，但对大模型自身而言，语言处理本质上是基于概率的数据流计算。这种根本性的认知鸿沟，是理解其产生“幻觉”的逻辑起点。

然而，正是这种基于数据模式的处理方式，却往往能精准回应用户需求。袁鸣感叹的“可是我觉得它好懂我”，确实反映了当前大模型在理解与生成上的卓越表现。针对这一现象，中国科学技术大学陈小平教授揭示了技术本质：大模型通过千亿级参数训练，学习的并非确定性的规则体系，而是海量数据中蕴含的复杂模式与关联。这些训练数据本身质量参差不齐，既包含真实知识，也混杂着错误与偏见。当模型进行内容生成时，实则是基于学习到的概率分布进行模式重组与延续，一旦底层数据存在偏差或生成过程出现概率性“漂移”，“幻觉”内容便不可避免地产生。

由此，论坛引向了更具前瞻性的社会议题。上海工程技术大学校长、瑞典皇家工程科学院院士娄永琪教授指出，面对未来信息生态中可能出现的真伪混杂局面，社会个体亟需培养一种“数字考古”能力——即从庞杂的信息流中有效溯源、交叉验证与事实甄别的素养。这已超越单纯的技术优化范畴，成为关乎未来社会认知基石的关键能力建设。

此次在“上海之巅”举办的“思想光年”论坛，其核心正是锚定人工智能浪潮中的伦理边界与认知框架。当大模型技术深度赋能各行各业、融入日常生活时，理性认识其“幻觉”生成机制，并构建与之相适应的信任体系与鉴别能力，远比单纯追求模型规模扩大更为重要且紧迫。这需要技术迭代、伦理规范与公众教育的协同推进。