人工智能的真正价值在于实用性与可靠性

人工智能（AI）正以前所未有的速度渗透至社会各个角落，从技术革新到治理挑战，其影响深远而广泛。2025年5月22日，由腾讯研究院与新加坡管理大学数字法研究中心联合主办的“生成式AI进展：应用、治理与社会影响”研讨会在新加坡圆满举行。近百位来自中新两国的专家学者齐聚一堂，围绕技术前沿趋势、产业落地实践、监管治理框架以及社会伦理议题展开了深度对话。以下内容基于会议精华整理而成，旨在帮助您系统性地掌握生成式AI的当前状态、潜在风险及未来发展方向。

一、AI技术革命与人类社会关系的深刻变革

腾讯集团高级副总裁郭凯天在欢迎致辞中指出，AI不仅是一次技术革命，更是一场关乎人类、社会与智能之间关系的深刻变革。大模型技术的演进正推动AI从“会认知”迈向“会行动”，使其逐步成为人类的智能伙伴，并深刻重塑社会结构与价值体系。

他特别强调，AI的真正价值并不在于“看起来多酷炫”，而在于“用起来多好用、多可靠”。为此，腾讯积极倡导一种开放、参与、监督并行的治理模式，致力于构建AI时代坚实的信任基础。

小提示：企业在引入AI技术时，应优先考量其可靠性与透明度，而非单纯追求功能上的炫酷。建立用户信任，是企业实现长期发展的基石。

常见问题：

• 问：为什么AI要强调“用起来多可靠”？
  答：因为不可靠的AI系统极易导致错误决策、隐私泄露等风险，从而严重损害用户信任。只有做到稳定可靠，AI才能被广泛接纳并顺利融入日常生产与生活场景。

二、生成式AI的技术路径与面临的社会风险

新加坡国立大学人工智能研究所所长Mohan Kankanhalli教授在主旨演讲中，系统梳理了当前生成式AI的三大技术路径：

• 大语言模型（LLMs）：擅长文本生成、对话交互等任务。
• 视觉语言模型（VLMs）：能够处理图像与文本相结合的复杂任务。
• 扩散模型（Diffusion Models）：在图像、音频等多模态生成领域表现尤为突出，生成质量高。

尽管潜力巨大，生成式AI仍面临诸多技术难题：幻觉现象、缺乏精细控制、真实知识整合困难等。与此同时，它也引发了隐私泄露、版权争议、公平性缺失与虚假信息传播等一系列社会风险。

他强调，未来在保障模型能力的同时，必须加强数据治理与责任机制建设，推动其在创意产业、教育及就业等领域的可持续发展。

小提示：企业在使用生成式AI时，应建立内部审核机制，对模型输出进行人工校验，从而有效减少“幻觉”带来的误导风险。

常见问题：

• 问：什么是“幻觉现象”？
  答：指生成式AI模型会编造出看似合理但实际上错误的信息，例如虚构事实或引用不存在的文献。这是因为模型基于统计概率生成内容，而非真正理解知识。
• 问：生成式AI的版权争议如何解决？
  答：目前尚无统一标准。建议企业使用开源或已获授权数据训练模型，并在输出时清晰标注来源。在法律层面，各国正在陆续出台相关法规进行规范。

三、AI语音技术的最新进展与安全风险应对

腾讯光子工作室群高级研究员柳天驰博士介绍了语音生成技术（TTS）在大模型赋能下的革新。当前AI语音已能精细控制音色、情感、语气、风格、方言等要素，表现力大幅提升。

然而，语音深度伪造（Deepfake）也带来了身份伪造与虚假信息传播等安全风险。柳博士分享了两种应对技术：

• 音频水印：在生成的语音中嵌入人耳不可察觉的标志，便于溯源。
• AI伪音检测：利用专用模型识别语音是否为伪造。

小提示：对于金融机构、客服等高风险场景，建议同时部署伪音检测工具和人工复核，防止不法分子利用AI语音冒充身份实施诈骗。

常见问题：

• 问：AI语音深伪技术能骗过人耳吗？
  答：部分高水平深伪已极具迷惑性，普通人很难分辨。因此除技术检测外，还需建立行为验证机制（如回拨确认、多因素认证）。
• 问：音频水印会影响音质吗？
  答：现代水印技术通常可做到人耳几乎无感知，但对专业分析设备可能产生影响。需根据具体场景平衡水印强度与音质。

四、行业应用趋势：AI Agent与“人机共事”

在专题讨论中，多位专家从不同角度分享了AI在行业中的实际应用。

• 朱飞达教授：强调生成式AI的组合性与协作性。开源生态大幅降低了使用门槛，企业可基于本地数据构建透明可控的系统。他提出“协作智能+代币化经济”是Web3的本质，也是AI产业化的重要方向。
• Bman（投资人）：观察到“超级个体”时代的来临，高度评价DeepSeek等开源模型。他认为AI Agent将成为下一代互联网的重要参与者，未来可能出现“Agent社会”——Agent拥有身份、财产与交易能力。他建议初创企业尽早建立用户网络效应与商业模式壁垒。
• 陆剑锋（WIZ.AI）：以Voice Agent为例，指出Agent的核心价值在于任务的全自动闭环。当前响应速度与幻觉控制仍是落地瓶颈。他提出“用户场景优先”的创业逻辑，并预测“人机共事”将成企业新常态——客服、HR等职能将同时服务人类与智能体。

研讨会主持人袁晓辉总结道：生成式AI正从“工具化”走向“系统化”，企业已将Agent嵌入工作流。尽管尚难做到百分百精准，但“人机共创”已能显著提升业务效率。

小提示：企业在部署AI Agent时，建议从低风险、高频重复的任务入手（如自动回复、数据录入），逐步验证可靠性后再拓展到核心业务。

常见问题：

• 问：什么是“Agent社会”？
  答：指大量AI Agent（智能体）在互联网上自主交互、协作甚至进行交易，形成类似人类社会的行为模式。例如，Agent可代表用户谈判、购物或管理供应链。
• 问：如何避免Agent产生“幻觉”导致业务错误？
  答：可采用“分而治之”策略——将复杂任务拆解为多个子任务，每个子任务由专门的模型或传统算法处理，提升准确性。同时设置人工审核节点。

五、全球视野下的AI治理呼声

新加坡国立大学陈西文（Simon Chesterman）教授指出，尽管已有大量伦理框架与监管讨论，但真正有效的AI治理仍难实现，主要阻碍有三：

• 私营公司主导：企业有动力开发部署更强大的模型，但缺乏治理意愿。
• 政府监管顾虑：多数政府担心严格监管抑制创新，导致人才和投资流向宽松地区。
• 国际合作缺乏危机推动：历史上重大治理机制多在危机后建立，但AI领域尚未出现足够紧迫的全球性危机。

他呼吁：如果不解决权力与利益的错配问题，社会可能在建立有效监管前经历重大危机。治理应关注让技术决策保持灵活和可逆。

新加坡德尊律师事务所董事Cheryl Seah则从实践视角指出，AI治理中存在法律上“可以”与实际“应该”的张力。2025年新趋势是多个AI合同示范条款的发布，私营部门可参考这些条款合理分配风险。

小提示：企业在制定AI使用政策时，可参考公共部门发布的合同示范条款，即使您是私营企业，这些条款也能帮助识别关键风险。

常见问题：

• 问：什么是“AI合同示范条款”？
  答：由权威机构（如政府部门、行业协会）预先拟定的标准合同条款，用于规范AI开发、部署与使用中的权利义务，包括数据使用、责任划分、知识产权等。
• 问：为什么国际合作对AI治理至关重要？
  答：因为AI危害（如深度伪造、虚假信息）具有跨境性，单一国家的法律难以有效约束。只有全球协作才能建立统一标准，防止“监管套利”。

六、生成式AI的治理挑战：圆桌讨论精华

在圆桌讨论中，多位学者与专家深入剖析了当前治理的难点。

• Alexander Joseph Woon Wei-Ming教授：指出三大挑战：一是无知与冷漠的区别——治理框架可帮助“想负责但不知如何做”的人，却难以约束“不在乎规则只求逐利”的冷漠者；二是规范性差距与执法差距——网络危害全球化但执法受限于属地；三是需求端应对策略缺失——应增强潜在受害者自身的抵抗力，培育网络安全意识。
• Daniel Seng教授：强调法律是防范AI滥用恶用的必要工具，但应聚焦行为本质而非技术手段，采用技术中立的规制方式。他呼吁关注大语言模型的垄断问题，认为中文大模型的发展有助于平衡全球AI生态。
• Josh Lee Kok Thong研究员：指出当前最突出的挑战是监管互操作性——不同国家和地区的监管体系路径各异。共同目标是在鼓励创新的同时建立风险防范。监管应保持灵活创新精神，持续更新框架。
• 曹建峰博士：提出AI带来自主决策（决策让渡）、情感替代、人类增强等新挑战。需警惕AI陪伴削弱真实人际关系，也要避免过度依赖AI导致人类思维能力“短路”。应通过教育和工作中的恰当使用增强创造力，实现以人为本。

小提示：对于普通用户，应主动学习识别AI生成内容的基本方法（如查看来源、核对事实），并保持批判性思维，不要盲目相信AI输出。

常见问题：

• 问：什么是“监管互操作性”？
  答：指不同国家或地区的AI监管规则之间能够协调一致，使得企业在跨国运营时无需重复合规。例如，欧盟的AI法案与中国的AI管理办法能否相互承认。
• 问：如何避免AI导致人类思维能力退化？
  答：将AI定位为“辅助工具”而非“替代品”。例如，在写作时先用AI生成初稿，然后自己修改完善，保持思考习惯。教育领域应鼓励使用AI进行探索而非直接获取答案。

七、构建以人为本的AI协作未来

会议最后，腾讯研究院院长司晓与新加坡管理大学数字法研究中心副主任Liu Han-Wei进行总结。

司晓院长指出，AI正加速迈向通用人工智能（AGI），驱动社会结构深刻变革。企业正从“用电量”“用云量”迈向以“token用量”衡量智能化程度的新阶段，预示“智力即服务”时代来临。他呼吁社会各界通过跨学科合作前瞻应对AI的社会影响，并积极规划正向的AI愿景，引导技术向善发展，确保AI植根于人性、伦理与责任之中。

Han-Wei教授感谢各方参与，强调本次会议对Deepfake、AI Agent、AI偏见等议题的讨论富有成效。他表示SMU数字法研究中心将持续关注数字经济前沿，并期待与业界伙伴深化合作。

小提示：无论你是开发者、企业管理者还是普通用户，都应积极参与AI的讨论与治理。只有多方协作，才能让AI成为共建美好未来的力量，而不是风险的源头。

常见问题：

• 问：什么是“token用量”？
  答：Token是大模型处理文本的基本单位（类似单词或子词）。以token用量衡量智能化程度，意味着AI服务像水电一样按量计费，企业可通过消耗的token数来评估AI应用的活跃度与效率。
• 问：作为个人，我该如何参与AI治理？
  答：可以关注相关法规动态，向决策者反馈使用中的问题；在社交媒体上理性讨论AI伦理；使用AI产品时注意隐私保护，并选择尊重用户权益的平台。

生成式AI的发展日新月异，它在带来巨大机遇的同时，也伴随不可忽视的风险。本次研讨会揭示了技术突破、行业落地与治理挑战之间的复杂互动。唯有坚持开放协作、以人为本，才能在AI文明的新篇章中，让技术真正服务于人类社会的长远福祉。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：人工智能的真正价值在于实用性与可靠性要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题