AI幻觉风险加剧，多家保险公司暂停承保相关业务

11月25日，英国《金融时报》报道称，多家大型保险公司正寻求将人工智能（AI）相关风险排除于企业保单之外，原因在于企业可能面临由这项快速发展的技术引发的数十亿美元级别索赔。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

据了解，美国国际集团（AIG）、美国大都会保险（Great American Insurance）和WR Berkley等公司近期已向美国监管机构申请许可，拟在保单中明确排除企业因部署AI工具（包括聊天机器人及自主智能体系）产生的责任。

就在企业争相采用前沿AI技术之际，保险业对提供全面保障却持谨慎态度。AI模型“幻觉”（即生成虚假或错误内容）已导致多起令人尴尬且代价高昂的失误事件。

WR Berkley提议的某项责任免除条款明确规定，凡涉及“实际或声称使用”AI的索赔——包括公司销售“内置”AI技术的产品或服务，均不予承保。

对此，伊利诺伊州保险监管机构曾就相关除外条款向AIG提出质询。AIG在提交文件中回应称，生成式AI属于“覆盖范围极广的技术”，未来引发索赔事件的可能性“很可能随时间推移而上升”。AIG表示，尽管已提交生成式AI除外条款的备案文件，但“目前暂无实施计划”；获得监管批准可为未来视情况启用该条款保留选择权。

Mosaic公司（伦敦劳合社市场专业保险公司）欧洲网络保险负责人Dennis Bertram指出，保险公司日益认为AI模型的输出结果过于不可预测且缺乏透明度，难以承保：“它仍然是一个‘黑箱’。”即便像Mosaic这类专注于为部分AI增强型软件提供保障的专业保险公司，亦明确拒绝承担大语言模型（如ChatGPT）所引发的风险。

AI保险与审计初创企业人工智能承保公司（Artificial Intelligence Underwriting Company）联合创始人Rajiv Dattani表示：“一旦出错，究竟该由谁担责？目前尚无定论。”

上述动向正值AI引发的失误事件日益增多之际：太阳能企业Wolf River Electric因谷歌AI概览功能错误声称其正遭明尼苏达州总检察长起诉，遂以诽谤为由提起诉讼并索赔至少1.1亿美元；去年某仲裁庭判令加拿大航空（Air Canada）必须兑现其客服聊天机器人“虚构”出的折扣承诺；英国工程集团奥雅纳（Arup）则因欺诈者在视频会议中使用某高管的数字克隆体冒名下达资金转账指令，损失高达2亿港元（约2500万美元）。

怡安（Aon）网络风险负责人Kevin Kalinich指出，保险业尚可承受单一企业因部署自主型AI（agentic AI）造成的4亿至5亿美元损失（如错误定价或误诊）；“但若某AI提供商出现失误，继而引发成千上万起相互关联的索赔，即具有系统性、高度相关且高度聚合的风险，则是行业所无法承担的。”

标准网络保险通常仅覆盖安全或隐私泄露事件，而AI“幻觉”一般不在此列；技术类“错误与疏忽”（Errors and Omissions, E&O）保单虽更可能覆盖AI失误，但新近引入的除外条款却可能大幅缩减保障范围。

苏黎世保险（Zurich Insurance）首席信息官Ericson Chan表示，过去评估其他技术驱动型失误时，责任归属通常较易厘清；相比之下，AI风险可能牵涉多方主体，包括开发者、模型构建者与终端用户，“因此，AI驱动型风险的潜在市场影响可能呈指数级放大”。

部分保险公司已通过所谓“批单”（endorsements，即保单附加条款）尝试厘清AI相关风险的法律不确定性；但保险经纪与律师警告称，此类批单需谨慎审查，某些情况下其实际导致保障范围进一步缩减。

例如，保险公司QBE推出的一项批单虽为欧盟《人工智能法案》（全球最严格AI监管框架）下的罚款及其他处罚提供有限保障，但据某大型经纪商透露，该批单（后续已被其他保险公司效仿）将AI相关罚款赔付上限限制为保单总限额的2.5%。

QBE向《金融时报》表示，此举旨在“填补其他保险保单可能未覆盖的AI相关风险缺口”。

在与保险经纪的谈判中，总部位于苏黎世的安达保险（Chubb）已同意承保部分AI风险，但明确排除“广泛性”AI事件（例如影响众多客户的模型级故障）。安达拒绝对此置评。

与此同时，另有保险公司推出针对特定、狭义AI风险的附加险种（例如聊天机器人失控等场景）。

保险经纪与律师普遍担忧，随着AI引发损失的显著增长，保险公司可能转向诉讼途径拒赔。律所Stewarts保险争议业务负责人Aaron Le Marquer指出：“恐怕需要一次重大的系统性事件，才会让保险公司意识到并主张：等等，我们从未打算承保这类事件。”