来源：未央网
英国伦敦劳合社（Lloyd’s of London）近日推出一款面向人工智能（AI）技术故障风险的保险产品。
据《金融时报》5月11日报道，这款名为“AI责任险”的保单由初创公司Armilla承保，旨在为企业因AI产品性能问题（如聊天机器人出错或产生“幻觉”虚假信息）导致客户或第三方提起诉讼时，提供法律索赔费用保障。报道指出，尽管企业积极引入AI提升效率，但客服机器人等工具因“幻觉”产生的错误已引发多起尴尬且代价高昂的事件。
正如此前分析所示，AI幻觉可能引发严重后果：企业若基于错误信息决策，可能导致经济损失、声誉受损。而当AI系统参与决策时，责任归属成为棘手问题。“如果流程中移除人类，或人类将责任转交给AI，谁来承担错误后果？”AI解决方案公司NILG.AI首席执行官Kelwin Fernandes近期接受采访时发问。
现实案例印证了风险所在：今年初，英国维珍理财（Virgin Money）因聊天机器人对用户使用“virgin”一词提出指责而公开致歉；加拿大航空（Air Canada）则因聊天机器人与客户对话时编造虚假折扣政策被告上法庭。Armilla表示，若法院认定加航聊天机器人性能未达预期，其保单将覆盖打折机票带来的损失。
针对AI幻觉风险，劳埃德银行（Lloyds Bank）首席数据与分析官Ranil Boteju坦言：“在最初12到18个月里，这是我们最担忧的问题。”该行采取审慎策略——“在确信防护措施可靠前，不会直接向客户开放生成式AI功能”，初期仅将AI应用于后台效率提升，并安排人工实时监控。
原作：pymnts 译者：高旭 原文来源：PYMNTS
发表评论