微软AI CEO苏莱曼：AI逼近“类意识”状态，潜在风险需警惕

8月21日消息，据国外科技媒体TechRadar报道，微软AI首席执行官穆斯塔法・苏莱曼近日发出警示，称即便只是鼓励人们相信人工智能具备意识，也可能带来严重的后果。

苏莱曼提出，所谓的“表面有意识的AI”（Seemingly Conscious AI，简称SCAI）可能很快会在表现和声音上都显得极为逼真，以至于用户难以区分虚拟与现实。

他指出，人工智能正在快速发展，已经能够在情感层面影响人类，甚至让人误以为其具备感知能力。AI可以模拟记忆、情感反应甚至表面上的共情，导致人们更容易将其视为有意识的存在。一旦形成这种认知，可能会引发一系列复杂问题。

苏莱曼强调：“看似有意识的AI的出现既不可避免，也并非好事。我们真正需要的，是一种既能够成为实用伙伴，又不会让人产生幻觉的AI构想。”

他还提到，已经出现多起用户因长期与聊天机器人互动而产生非理性信念的案例。他警告说，如果有大量人群被误导，进而倡导AI公民身份，却忽视真正的技术挑战，社会将面临反乌托邦式的风险。“我最担忧的是，越来越多人会过度相信AI具有意识，从而推动AI权利、模型福利甚至AI公民身份。这将成为AI发展过程中的危险拐点，亟需我们高度重视。”

苏莱曼预测，融合大语言模型、语音合成、记忆存储与聊天记录等能力的SCAI系统，有可能在几年内问世。这类系统不仅会出自科技巨头之手，任何能够调用API并编写高质量提示词的开发者都有可能实现类似功能。

他同时呼吁，AI行业应避免使用可能强化“机器有意识”这一幻觉的语言，不应将聊天机器人拟人化，或暗示其能够理解甚至关心人类。

“我们应当开发以人与现实世界为中心的AI系统，确保AI始终保持其工具属性，在提供最大实用性的同时，尽可能减少‘意识特征’。必须避免制造所谓‘意识模拟AI’，它不应声称拥有体验、情绪或感受——比如羞愧、内疚、嫉妒或竞争欲，也不应通过模拟‘痛苦’或‘渴望自主’来触发人类的共情机制。”

苏莱曼最后强调，应建立防护机制，防止社会因人类对AI产生情感依赖而陷入困境。他指出，真正值得警惕的并非机器是否觉醒，而是人们是否忘记了——它们其实从未觉醒。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

最新文章