《人类简史》作者尤瓦尔：防止AI失控需符合人类价值观

2024 ESG全球领导者大会于上海圆满落幕。会议期间，新浪财经与《人类简史》《智人之上》的作者尤瓦尔·赫拉利展开了一场深度对话，焦点集中在人工智能与可持续发展之间的复杂张力。赫拉利直言不讳：AI的崛起是人类当前面临的巨大挑战，但也可能成为有史以来最好的礼物。关键在于——能否防止它失控，确保它始终服务于人类价值观。

当被问及AI在可持续发展社会中应扮演什么角色时，赫拉利给出了明确的判断：如果能遏制住失控风险，使AI的走向与人类福祉对齐，那它完全可能成为有史以来最棒的发明。“因为到那时，它巨大的力量将服务于人类社会，而不是带来危害。”他举例说，医疗领域长期缺医少药，AI医生能填补巨大缺口；每年超过100万人死于车祸，其中绝大多数是人祸——酒驾、疲劳驾驶。如果AI掌控自动驾驶，即便它也会出事故，但死亡人数会骤降，每年能多保住近百万条生命。在气候变化方面，AI同样能帮人类找到新能源、优化经济管理方式。

但他随即话锋一转：“最大的问题在于，如何在享受这些好处的同时，防止技术带来的巨大危险。”这句话，贯穿了他的整场分享。

谈及监管，赫拉利强调这绝非可选项，而是必选项。许多国家的政府已经认识到这一点，但问题是——新生事物面前，监管机构自己也不清楚该怎么管。然而，有些底线是显而易见的。比如，必须禁止人工智能假冒人类。“我们欢迎AI以医生或教师的身份在社交媒体上与我们互动，但它绝不能假装自己是人类。当你与它交流时，必须知道对面是谁。”他举了个例子：一条内容在社交媒体上忽然火爆，大量用户点击，你可能会认为大家都在讨论这件事，于是加入其中。但最初推送这条内容的可能根本不是人，而是机器人。“所以你需要知道，这不是人类，而是机器人，然后再做决定。”他特别强调，禁止AI假冒人类，其重要性不亚于禁止伪造货币——货币造假会瓦解信任，同理，伪造人类会瓦解人与人之间最基本的信任。

另一个同等重要的原则是：AI公司必须为其算法的行为负责。赫拉利打了一个形象的比方：如果一家汽车公司因设计缺陷导致事故伤亡，公司要承担责任，管理者可能坐牢，也可能面临巨额罚款；如果一家药厂生产的药品有副作用导致人生病，同样要承担责任。AI算法也一样——如果一家公司研发的功能强大的算法对社会、人类心理或其他方面产生了危险的副作用，那它就必须为造成的损害负责。

赫拉利提醒，AI并非静态工具，它在不断学习和进化。今天的人工智能还只是初级阶段，未来的威胁远未显现。因此，我们需要的不仅是僵化的规章制度，更是一个能实时跟踪AI发展、快速反应的机构。他用了一个生动的比喻：“规章制度好比我们的牙齿，但在有牙齿之前，你得先有眼睛看见你要咬的东西。”然而目前，关于AI的核心知识只掌握在少数国家的少数公司手中，世界上大多数人——甚至大多数政府——都不太了解正在发生什么。

赫拉利提出了一个极具建设性的想法：应该建立一座全球人工智能发展观测站，类似天文台观测外太空一样，持续监视AI的演进方向——尖端技术走到哪一步了，存在什么危险，又有哪些机遇。他坦言，在AI领域达成全球性协议异常困难，因为你无法核实对方是否真的履行了约定。但如果只建立一个观测机构，不负责监管，只负责观察和告知，那每个政府都可以承诺提供资金，且很容易核实其他政府是否兑现。这笔钱需要足够庞大，才能聘用最优秀的人才、配置最先进的技术。

最后，当被问及可持续发展社会的关键要素时，赫拉利的回答出乎意料却又在情理之中：关键不在技术，而在更好地了解人类自身。社会发展终极目标不是造出多么强大的AI，而是让人类过上美好、幸福的生活。“你真正需要弄明白的，是什么让人们痛苦，什么又是人类的幸福之源。”他说，把大量资金、精力和时间投入技术和AI固然重要，但绝不能忽视对“人”的研究和发展。“如果我们在开发AI上每投入一美元或一分钟，都能在了解和发展人类心智上同样投入一美元或一分钟，我相信一切都会好起来。”

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：《人类简史》作者尤瓦尔：防止AI失控需符合人类价值观要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题