各行各业都对人工智能抱以期待，保险也不例外。不过，新科技必然带有不可预见性。保险机构视把手他人风险管理底线为己任，应如何趋利避害以保障自身运营的稳定安全，并同时满足种种合规要求？安盛天平财产保险法律合规负责人罗昉宜给出了答案
随着人工智能技术在保险领域的运用越来越广泛，人工智能管理迅速成为保险机构的必修课程。另一方面，随着人工智能立法的不断完善，法律纠纷时有发生，保险机构需要识别人工智能运用所适用的法律法规要求，并且将人工智能管理纳入风险合规管理的整体框架中，避免违法违规行为给公司造成的危害结果。
一些在华外资保险机构已经开始建立人工智能的合规治理框架，梳理业务活动中使用的人工智能技术，建立制度规范技术运用，在运用科技创新促进发展同时确保安全和合规。本文从保险机构人工智能运用场景出发讨论合规治理，亦期对其他行业公司建立人工智能合规管理体系提供借鉴。
纳入数据合规管理
随着《网络安全法》《数据安全法》及《个人信息保护法》的颁布，商业机构普遍建立了数据合规的治理框架，而人工智能合规管理可以并且通常应该纳入该框架内。人工智能合规管理与数据合规有着紧密的联系，因为人工智能系统的运作往往依赖于大量数据的处理和分析。将前者纳入数据合规中，有助于建立一个统一的合规框架，确保人工智能系统的开发、部署和使用不仅在技术层面上是安全的，而且在法律和伦理层面上也是可接受的。这样的整合有助于提高合规效率，降低法律风险。
对于所有保险机构人工智能运用场景，需运用已经建立的数据合规治理要求，评估人工智能处理数据的合法合规性。评估范畴包括：
- 数据来源审查，确保人工智能系统处理的数据来源合法，避免使用非法获取或未经授权的数据；
- 是否遵循数据最小化原则，只收集和存储实现特定目的所必需的数据；
- 在处理个人数据时，是否已获得数据主体同意，并告知数据的使用目的、范围和处理方式；
- 数据保护措施是否适当，能够防止数据泄露、损毁或未经授权的访问。
比如，员工在使用颁丑补迟骋笔罢时，可能不慎将包含公司机密数据的代码、文档或其他信息复制粘贴到对话中，导致数据泄露。此前，已有公开新闻报导叁星电子、亚马逊等公司员工发生此类数据泄露事故。一些公司已经开始采取措施限制员工使用颁丑补迟骋笔罢，例如限制上传内容的字节数，或者完全禁止使用颁丑补迟骋笔罢。
这种数据泄露事件本身可能已经违反了数据保护法规，如欧盟的骋顿笔搁，因为未经授权的数据传输可能违反了数据最小化和数据安全的原则。如果还涉及客户个人信息，则公司不仅需承担数据泄露造成的商业损失，更可能因为个人信息的泄露招致处罚及声誉风险。
不过，人工智能技术的独特属性及法律法规要求意味着不能全盘照搬现有的数据合规管理，而是需要扩充规则，以确保没有重大疏漏。人工智能合规管理侧重于人工智能系统的决策过程、算法透明度、算法偏见、伦理和社会影响、用户权益保护等方面，需要结合技术特点，如算法复杂性、模型训练数据等，来制定相应的合规策略。
比如，保险机构想引入人工智能技术运用在核保上，就可能存在偏差的风险。人工智能核保系统通常基于历史数据和算法来评估风险和决定是否承保，以及制定保险费率。这些数据和算法当中存在的任何偏差都会被人工智能系统学习并放大，导致不公平的核保决策。
对此，保险机构需采取一系列措施来识别、评估和缓解潜在的偏见和歧视，包括使用多元化的数据集来训练人工智能核保模型，确保数据涵盖不同的地区、性别、年龄、种族和社会经济背景，定期对人工智能核保算法进行审计，以提高人工智能核保决策的透明度，确保决策过程可以解释等。
这些评估和风险缓释措施是原有数据合规管理体系所没有的，而是整合了透明度、可解释性、公平性和无偏见等人工智能特定的合规要求。
You must be a
subscribersubscribersubscribersubscriber
to read this content, please
subscribesubscribesubscribesubscribe
today.
For group subscribers, please click here to access.
Interested in group subscription? Please contact us.
你需要登录去解锁本文内容。欢迎注册账号。如果想阅读月刊所有文章，欢迎成为我们的订阅会员成为我们的订阅会员。
