英政府专家：应对AI安全风险，我们剩下的时间不多了

1月5日援引《卫报》报道称，英国先进研究与发明署（Aria Agency）项目主管、人工智能安全专家戴维·达尔林普尔日前发出警告，尖端人工智能系统发展速度迅猛，全球社会可能尚未做好充分准备应对其潜在安全风险。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

达尔林普尔在接受专访时指出，人工智能能力的快速跃迁值得高度重视。人们应当关注那些在现实世界中能独立完成各类任务、且表现超越人类水平的智能系统。他指出："为了保持对文明秩序和社会发展的主导权，人类必须在若干关键领域维持主导地位，而在这些领域，人类能力正面临被全面超越的挑战。"

达尔林普尔强调，政府部门与人工智能企业之间，对即将出现的技术突破仍存在明显认知落差。从安全防护角度看，防御措施很可能难以跟上技术发展的步伐。在未来五年内，多数具有经济价值的工作岗位，都可能被机器以更低成本和更高质量完成。

他同时指出，各国政府不应想当然地认为先进人工智能系统天然可靠。"在经济利益驱动下，用于验证可靠性的科学方法可能难以及时完善。因此，现实可行的选择是尽可能控制并化解潜在风险。"

他将"技术领先安全防护"的后果形容为可能导致安全体系与经济体系潜在失衡，呼吁加强对先进人工智能行为的理解与控制。技术进步固然可能带来积极成果，但整体风险极高，而人类社会对这场变革仍显得警觉不足。

报道显示，英国人工智能安全研究所本月发布的评估报告指出，前沿人工智能模型能力在各领域持续快速提升，部分性能指标约每8个月实现翻倍。领先模型在学徒级任务中的成功率已从去年约10%提升至50%，且已能够独立完成耗时超过1小时的专业任务。

该研究所还测试了模型的自我复制能力。由于自我复制可能导致系统失控，这被视为核心安全风险之一。测试中，两款前沿模型的成功率超过60%，但研究所同时指出，在现实环境中出现极端失控情况的概率仍然较低。

达尔林普尔进一步预测，到2026年底，人工智能可能具备独立完成全日研发工作的能力，并在数学和计算机科学等关键领域实现自我强化，从而推动新一轮能力加速。