联合国专家警告：AI发展过快或引发灾难性风险

联合国一个独立专家组近日发出严正警告：当前人工智能的发展步伐，已经显著领先于科学界的认知水平，同时也超出了各国政府政策调整的跟进能力。这意味着，目前没有任何人能够断言，这项技术未来不会引发灾难性的后果。

这份由联合国国际人工智能独立科学专家组发布的初步报告，揭示了一个令政策制定者深感棘手的双重困境：一方面，要制定行之有效的AI监管政策，必须依赖充分且可靠的科学依据；另一方面，科学研究的推进与证据积累的速度，远远跟不上AI技术迭代的步伐。

专家组联合主席Yoshua Bengio一针见血地指出：“AI能力的演进速度，已经超过了科学界能够理解的范围，也越过了各国政府调整监管框架的能力边界。”他进一步强调，越来越多的证据表明，AI已经展现出具有欺骗性的行为。基于当前科学研究的现状，我们无法确保——随着AI能力持续增强——它将来不会自主引发灾难性危害，或者被恶意使用者利用从而引爆灾难性后果。

这份报告被视为首份针对AI风险与机遇的全球独立评估，其目标十分明确：为各国政府提供最新的科学评估，帮助它们在面对日新月异的AI技术时，能够制定出更切实可行的政策参考。

从短期来看，报告预计AI的发展重心将逐步转向智能体——这类AI能够自主完成现实世界中的各种具体任务。不过，它们若要更进一步，可能需要先解决能源供应和高质量训练数据不足这些现实瓶颈。

将目光放长远，报告认为，具备自我改进能力的AI将更深入地融入全球经济，并且会与量子计算、生物技术等前沿领域逐步融合。当然，与以往类似的分析一样，报告也点明了潜在风险：AI的快速发展可能进一步加剧全球发展不平等。为此，报告呼吁建立一套全球共享的治理框架，强化对AI发展全过程的问责机制。

智能体AI在加速，但步子能迈多大？

报告指出，目前的AI已经在数学和科学推理上展现出媲美专家的水平，并且在加速药物与疫苗研发方面表现突出。与此同时，AI能够处理的复杂任务程度，正以每4到7个月翻一番的速度提升。这意味着，未来AI系统完全有可能完成过去需要人类耗费数天甚至数周才能完成的工作。

这一趋势无疑将带来可观的经济效益，但报告也提醒：目前尚难判断AI带来的生产率提升，是否真能转化为更广泛的经济增长，其对就业市场的影响更是悬而未决。

专家组特别警示，AI的安全风险正在持续攀升。例如，随着AI自主性越来越强，人类可能逐渐丧失对它的有效控制；AI的欺骗行为也在不断增多。除此之外，AI已经被用于生成虚假信息和有害内容，还可能被犯罪分子用来实施金融欺诈、发起网络攻击，甚至制造生物安全威胁——这些都是真实存在的隐患。

报告还指出，当前全球AI治理体系相当碎片化。很多国家缺乏评估或影响先进AI系统发展的能力，不得不依赖那些自己既无法充分理解、也无法有效控制的AI技术。更关键的是，现有的AI安全评估工具，往往依赖于科技公司披露的有限测试数据，其可靠性存在明显局限。

联合国秘书长古特雷斯呼吁各国政府不要再观望。他在声明中说得非常直白：“世界无法治理它无法理解的事物。AI蕴藏着巨大的发展潜力，但其风险同样真实存在，而拖延行动所付出的代价正与日俱增。”

与此同时，在联合国数字技术机构的推动下，多位全球政界与科技界领导人于周三宣布成立一个新的国际委员会，专门应对国际社会对AI发展潜在风险日益加剧的担忧。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：联合国专家警告：AI发展过快或引发灾难性风险要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题