工信部等10部门近日联合印发了《人工智能科技伦理审查与服务办法（试行）》（下称“《办法》”），律师分析称，新规使审查层级和要求显着趋严，人工智能领域的初创公司容易触发合规风险。
《办法》对伦理审查的适用范围、服务促进、实施主体、工作程序、监督管理等作出规定，以规范相关领域伦理治理。
中伦律师事务所合伙人王红燕说，《办法》的出台“意味着人工智能伦理不再是公司可选的‘加分项’，而是必须履行的法定合规底线”。《办法》规定，从事人工智能科技活动的机构和公司是相关伦理审查管理的责任主体。
因应科技变革，中国近年持续推进人工智能科技伦理治理工作。早在2022年3月，中共中央办公厅、国务院办公厅便印发了《对于加强科技伦理治理的意见》；次年，科技部等10部门联合印发了《科技伦理审查办法（试行）》，对科技伦理审查主体、审查程序作出具体规定。
通商律师事务所合伙人邹丹莉指出，此次发布的《办法》是对上述两份文件在人工智能领域应用的具体规定。
她特别提醒初创公司关注合规风险：“目前人工智能科技赛道大量初创公司涌现，最可能出现的合规风险是公司对自己的合规责任不了解、不知悉，开展人工智能科技活动未按照《办法》要求履行相应的科技伦理审查，进而触发相关的行政处罚。”
邹丹莉认为，《办法》在制度安排上最大的突破在于明确了人工智能科技伦理审查的工作程序，而这恰好回应了初创公司的需求：相关部门可以建立服务中心，接受其他单位委托，提供人工智能科技活动伦理审查、复核、培训、咨询等服务。
“该等制度安排解决了小规模人工智能科技公司伦理审核专业人员配备缺乏、占用公司经营成本的问题，”她说。
王红燕则认为，《办法》第21条至第25条对纳入复核清单的人工智能科技活动建立了专家复核与跟踪审查制度，是对公司影响最显着、最深远的规定。高风险人工智能活动在通过内部伦理委员会或服务中心初审后，必须报请主管部门或地方组织专家复核。
王红燕分析，此规定的影响主要体现在叁个方面：审查层级显着提升，跟踪审查要求更严格，以及对公司研发、上线、运营全链条形成刚性约束。
“这标志着人工智能伦理审查从‘倡导性要求’转向强制性、可监督、可追责的法定合规义务，”她说，“公司不能再仅依靠内部审查完成合规闭环，而需接受法定外部专家的独立监督，合规门槛明显提高。”
至于高危环节，王红燕说，公司在组织建设、事前审查、高风险程序、动态管理、登记备案五个环节最容易出现伦理合规风险。其中，涉及人的尊严、生命健康、公共秩序、生态环境等高敏感领域的人工智能研究、技术开发与产物应用，若未经伦理审查即上线运行，或未按要求提交完整材料，可能构成事前审查缺失或材料不合规。
她建议公司尽快完成伦理组织搭建，完善事前审查与风险评估机制，严格执行高风险项目复核程序，建立动态跟踪与应急审查流程，并落实登记备案义务，“将伦理合规嵌入础滨研发、测试、上线、运营全生命周期，在技术创新与伦理安全之间实现平衡发展。”
