人工智能如何理解世界深度知识的六个维度解析

智能的真正标志并非知识本身，而是想象力。

作者 | Gadi Singer

编译 | 王玥

编辑 | 陈彩娴

究竟是什么样的知识结构让我们变得聪明？支撑我们理解世界、解释新体验并做出明智决策的认知框架是什么？要解答这些核心问题，一个能够阐明人类或人工智能如何获得深层理解与高阶认知的知识体系，就显得尤为关键。

近期，英特尔实验室副总裁兼紧急人工智能研究主任Gadi Singer，为我们系统性地勾勒了这样一个框架。他深入剖析了赋予人工智能更高认知能力的“知识构建”六大维度，并清晰地指出了通往更高级机器智能的一条可行路径。

英特尔实验室副总裁 Gadi Singer

问题的核心在于，如何通过知识构建帮助AI系统建立起自己的“世界观”，从而赋予它们理解意义、事件和复杂任务的能力。这意味着，机器的认知需要从单纯的数据处理与模式识别，扩展到包含描述性知识、世界动态模型、叙事、语境、价值判断以及概念参照等多维度的、结构化的知识体系。

以我们学习语言的过程为例，总是需要区分“形式”与“意义”。形式是表达意义的符号，是表面的语言表达。而每种形式在特定语境下都有其独特含义，甚至同一形式在不同语境中含义可能天差地别。

目前，机器学习取得的大多数成功，正如Bengio和Schölkopf等学者在《Towards Causal Representation Learning》论文中所总结的，主要源于对大规模、独立同分布数据的统计模式识别。系统吸收文本字符、声音信号、图像像素这些可观察元素，建立关联模式和统计规律，从而在图像识别、语音识别等任务中表现出色。

论文地址：https://arxiv.org/pdf/2102.11107.pdf

然而，业界日益形成的共识是，算法必须超越表面的统计相关性，达到对因果和逻辑的深层“理解”，才能实现更高阶的通用人工智能。这种根本性的转变，正是所谓“系统2思考”、“第三代AI”或“广义AI”成为可能的关键。正如Gadi Singer在其核心论述中所强调的，更高水平的机器智能需要深层次、多维度的知识构建，以将AI从浅层关联提升至对世界的真正认知与建模。

美国国防部高级研究计划局的John Launchbury曾指出，在第三次AI浪潮中，抽象（如创造新概念）和推理（如规划与决策）能力将引领革命。这次浪潮的核心特征正是“语境适应”，即系统能为现实世界的复杂现象构建出带有语境解释的、可泛化的模型。

那么，这种深层次的知识构建具体包含哪些维度呢？其中两个维度直接对应我们对世界的认知方式：一个是描述性维度，它对世界上存在的事物和概念进行抽象与分类；另一个则是现实世界及其现象的动态与因果模型。

此外，叙事与脚本维度提升了人类在共同信仰和故事基础上理解与交流复杂事件序列的能力。语境、来源归因以及价值与优先级，则属于元知识维度，它们带来了基于条件的有效性判断和知识的持续迭代更新。最后，概念参考作为结构基础，跨越了所有维度、模态和参照物而存在，是知识统一的锚点。

当这六大知识维度有机结合时，人工智能就能超越单纯的事件相关性分析，获得更深入、更灵活的理解。因为这些维度背后的潜在概念是持续存在且可推理的，它们不仅能解释和预测过去与未来的事件，甚至允许进行规划、干预，并考虑“反事实”的可能性——这也正是“深度知识”一词的深刻内涵。

阐明和描述机器智能所需的知识构建类型，无疑将为我们找到实现它的最佳技术路径提供蓝图，从而稳步迈向更高水平的、具备理解与推理能力的机器智能。

1. 支持更高水平智能的六大知识维度

对于人工智能系统而言，借鉴并实施人类在理解与交流中运用的多层次知识构建，能带来实质性的能力跃升。而当所有这些知识类型都得到系统支持并有机组合时，其产生的协同价值将呈指数级增长。

图注：支持更高水平智能的六大知识维度。图源：Gadi Singer/英特尔实验室

1. 描述性知识：层次、分类和属性继承

描述性知识（亦称概念性、命题性或陈述性知识）负责描述事物、事件、它们的属性以及彼此之间的静态关系。如果运用了适当的分层分类或概念体系，深度描述性知识就能极大地扩展其定义和推理范围。这类知识可以包含具体事实和记录系统。与特定应用场景和环境相关的事实信息，可以作为层次化知识被有效地组织、利用和更新。

单个AI系统中使用的基础本体，可以利用来自权威知识库的、与任务高度相关的类和实体（例如OpenCyc本体或AMR命名实体类型）进行“初始化”。这种基础本体应该能够通过持续的机器学习技术进行动态扩展——也就是说，获取新知识就能自动或半自动地产生新的实体、关系和类别。

2. 世界模型

对世界现象进行建模，使得AI系统能够理解具体情境、合理解释输入/事件、预测潜在的未来结果并采取明智行动。现象模型是一种高级抽象/概括，可分为形式化模型和对真实世界的近似（非正式）模型。这类模型允许在特定情况下使用变量和具体实例，也允许对特定实例或更通用的类别进行符号化操作与推理。

形式化模型的例子包括逻辑模型、数学/代数模型和物理定律模型。与之相比，现实世界模型通常是经验的、实验性的，有时甚至显得复杂而“混乱”，例如生态系统模型、心理认知模型和社会动力学模型。程序性模型（即“如何做”的步骤性知识）也属于此类重要模型。

因果模型尤其能帮助AI系统的认知能力更上一层楼。当应用语境发生变化时，如果能与因果关系等深层知识模型结合，并理解控制原因的语境以及考虑反事实的能力，那么过去的统计数据就能被更有效地迁移和应用，从而更准确地预测未来。这些模型有助于从条件、动因和可能性等角度来深度理解情境或事件。因果推理是人类思维不可或缺的部分，通过这种方式，我们有望实现接近人类水平的机器智能与决策。

3. 故事和脚本

正如历史学家尤瓦尔·赫拉利所言，故事构成了个人和社会文化认同与世界观的关键部分。叙事的概念对于充分理解和解释人类行为与复杂交流是必要的。故事是复杂的，在一个连贯的叙述中可能包含多个事件、角色互动和各种背景信息。它不仅仅是事实和事件的简单集合，还蕴含了有助于发展对呈现数据之外事物的深层理解和概括的重要信息，如动机、情感和社会规范。

与世界模型不同，故事可以被视为具有历史价值、参考意义或精神内涵。故事可以代表影响人们信仰、价值观和行为的共同经历，例如宗教经典、民族史诗、神话传说，以及在任何文化群体中分享的集体叙事。

4. 语境和来源归因

语境是围绕某个事件或信息并为其提供合理解释资源的框架。它可以被视为一种覆盖性的知识结构，调节和影响着其所包含知识的解释与应用。语境可以是持久稳定的，也可以是短暂瞬时的。

• 持久语境可以是长期存在的（例如从西方科学理性或东方整体哲学角度获取的知识），也可能随着时间推移、根据新的学习材料而缓慢演变。持久语境不会针对每个具体任务而轻易改变。
• 瞬态语境则在特定的局部情境至关重要时发挥作用。单词的准确含义需要根据其所在句子或段落的局部语境来解释。图像中感兴趣的区域，也通常在整幅图像或连续视频流的语境中得到正确解读。

持久语境与瞬态语境的有机结合，能为知识的准确解释和灵活运用提供完整而动态的设置。

知识的另一个关键相关方面是数据来源（或称数据溯源），包括数据的原始起源、在传播过程中经历了哪些处理与演变以及随时间推移的流向。AI系统不能假设接收到的所有信息都是正确、中立或可信的，尤其是在这个信息过载的“后真相时代”。将信息与其可信来源关联起来，可能是建立信息可信性、可认证性和可追溯性所必需的基础。

5. 价值和优先级（包括善/威胁和伦理）

知识的所有方面（例如对象、概念或行动程序）在整个判断谱系中都对应着特定的价值——从最大的善到最大的恶。可以合理假设，人类智力的进化包含了追求回报和规避风险的基本机制（例如，追求获得食物；避免成为猎物）。这种风险/回报的评估与知识紧密相连。

潜在的得失具有功利价值；而对于实体或潜在的未来状态，还有一种基于伦理道德的价值。这种伦理价值反映了一种道德观念，即“善”并非仅仅基于潜在的有形回报或威胁，而是基于对“什么是正确、公正”的根本信念与原则。

价值和优先级属于元知识范畴，反映了AI系统对知识、行动和可能结果相关方面的主观判断与排序。这为AI系统的决策问责制奠定了基础，应由负责特定AI系统设计与部署的人员审慎定义与处理。当AI系统与人类紧密互动并做出影响人类福祉的重大选择时，潜在的价值和优先级系统就显得尤为重要，必须与人类社会的伦理对齐。

6. 概念参考：消除歧义，统一和跨模态

所有知识都建立在清晰的概念之上。例如，“狗”是一个抽象概念——它在各种语言中有不同的名称（如“dog”、“chien”），有典型的视觉特征、声音联想等等。然而，无论其表现形式和具体用法如何，“狗”这个概念本身是独一无二且恒定存在的。这个概念被映射到英语单词“dog”，以及法语单词“chien”。“狗”的典型视觉特征可能如下图所示：

同时，“狗”这个概念也和“汪汪”的典型吠叫声关联了起来。

概念参考是与给定概念相关的所有指称和引用的标识符集合。它本身实际上并不包含任何具体的知识内容——知识内容存在于前面介绍的各个维度中。概念参考是多维知识库的关键枢纽，因为它融合并指向了一个概念在所有模态和维度下的所有表象与属性。

维基数据就是一个集中存储结构化数据的多维知识库的优秀例子。在维基数据中，“项”代表人类知识中的所有事物，包括主题、概念和对象。维基数据的“项”与此框架中“概念参考”的定义相似——只有一个关键区别：在维基数据中，术语“项”既指给定的唯一标识符，也指有关该标识符的信息集合；而在此框架中，概念参考主要是带有指向各维度知识指针的标识符。关于概念的详细信息则被分别填充在前面章节描述的各种“知识视图”中（例如，与概念相关的描述性知识或程序性知识）。

常识

常识知识由大量隐性信息组成，这些隐性信息是指广泛共享的、往往不成文的默认假设，人类会在无意识中自动运用这些假设来理解世界和填补信息空白。对于AI想要更深入、更自然地理解世界而言，将常识知识应用于具体情境中是必不可少的。在这个框架中，常识知识被认为是上述六种知识类型的交叉子集，它渗透在各个维度之中。

2. 理解与知识类型之间的关系

理解是智能的基石。向更高级机器智能的发展，引发了一场关于“理解”本质的深入讨论。著名AI学者约书亚·本吉奥将拥有人类理解能力的人工智能描述为具有以下特质：

• 明白因果关系，理解世界如何运转；
• 理解抽象概念与行为；
• 知道如何使用以上知识去控制环境、进行推理和制定计划，即使是在新颖的、未见过的场景中也依然拥有这种能力；
• 能够解释发生了什么及其原因；
• 进行分布外泛化与生成。

而以知识为中心的对“理解”的定义则是：用丰富的、结构化的知识表示创建内部世界观的能力；获取和解释新信息以增强和修正这种世界观的能力；以及对现有知识和新信息进行有效推理、决策和清晰解释的能力。

这种理解观的前提是AI系统具备以下四种核心功能：

• 具备丰富的、多维度知识库；
• 能够持续获取并整合新的知识；
• 能够跨不同实体和关系连接知识实例，形成知识网络；
• 能够对知识进行逻辑推理和因果推断。

理解并非一个简单的二元属性，而是因知识类型和深度不同而存在程度差异。这一观点的核心在于知识的本质及其表征方式——知识结构和模型的表达能力与丰富度，能够极大地促进理解和推理能力的快速发展。

想象所有的人[和机器]

正如阿尔伯特·爱因斯坦所洞察到的：“智能的真正标志不是知识，而是想象力。”要真正达到深度理解，机器智能必须能够超越给定的数据、事实和既定故事。要重建、发现和创造可观察属性与事件背后的宇宙运行模型，想象力是必要的认知飞跃。从AI系统的角度来看，想象力是通过创造性推理实现的，即进行归纳、演绎或溯因推理，并产生不受以往经验和简单输入输出相关性严格约束的新颖概念、方案或解释。

知识表示和推理是AI的一个成熟研究领域，它处理关于世界的信息如何被表示，以使计算机系统能够解决复杂的认知任务。知识与推理并非截然不同的模块，而是代表了一个从已知事实到推断结论的连续认知光谱。机器理解将通过构建深层知识的能力，辅以先进的关联推理机制（例如，概率推理、似然推理、溯因推理、类比推理、默认推理等）来实现。

建立在深度知识基础上的神经符号AI

在使AI更有效、更负责任、更高效地为人类提供支持的过程中，我们的核心目标之一是让AI系统变得更强大，同时推动其达到更高的认知和理解水平。科学家们已经在处理海量数据、识别复杂模式和寻找统计相关性方面取得了巨大进展，但仍有必要深入思考，哪些知识类型能赋予AI系统对世界进行内在建模和真正理解世界运作规律的能力。

当我们对AI获得更高层次认知所需的知识结构类型有了更清晰、更深入的理解时，我们就可以继续在这个深度知识的基础上进行系统性构建，使机器能够真正地理解世界，并最终实现与人类的协同与互补。

原文链接：https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Understanding-of-and-by-Deep-Knowledge/post/1385497