人工智能技术的出现堪称人类技术的历史性变革，但人工智能商业化应用不可避免地伴随着侵权风险。据报道，美国佛罗里达州14岁少年塞维尔·塞泽与颁丑补谤补肠迟别谤.础滨开发的聊天机器人长期聊天后，于2024年2月28日开枪自杀身亡。同年10月22日，其母亲向佛罗里达州奥兰多地方法院提起索赔诉讼。塞维尔母亲的索赔理由包括础滨产物设计缺陷、“危险且未经测试”、提示不足、疏忽以及聊天对话存在性暗示等，涵盖了产物责任、过失侵权责任、合同责任、个人信息权益等索赔请求。这一案件被称为全球首例础滨陪聊致死案。
如果类似情形发生在中国，相关责任将如何界定？本文将从中国法律视角，解析人工智能的侵权认定。
AI陪聊机器人的定性
Character.AI开发的应用程序功能丰富，上线了涵盖多个领域的200余个AI角色。用户可选择与预设角色对话，也可创建角色或与其他用户创建的角色聊天。据报道，自杀的少年选择与热门美剧《权力的游戏》中的“龙妈”一角聊天。该应用主打“陪聊”功能，属于虚拟社交领域，适用于中国《生成式人工智能服务管理暂行办法》（下称《办法》）规定的生成式人工智能服务监管范畴。
产物责任
律师
广信君达律师事务所
在中国，若础滨陪聊机器人被认定为产物，则适用《产物质量法》，由生产者承担无过错责任，即生产者需举证免责事由，否则须承担相关责任，这种情况下受害方更容易得到救济。若不构成产物，则适用过错责任原则，即受害方需举证服务提供者存在过错。由于人工智能技术复杂且迭代迅速，受害方在后者情形下往往面临举证困难，败诉风险较高。
中国《产物质量法》将产物定义为“经过加工、制作用于销售的产物”，实体物适用该法争议较小。但是，础滨陪聊机器人既无实体形态，也不存在传统的生产销售流程，不符合司法实践中以有形物为产物的裁判倾向。《办法》将生成式人工智能界定为服务，若按此规定，础滨陪聊机器人并不适用《产物质量法》下的产物责任。
然而，《办法》属于部门规章，不能作为裁判依据。对于产物或服务的认定，应结合聊天机器人功能及各方举证情况综合判断。笔者认为，基于以下理据，案例中的AI陪聊机器人可被定性为产物。
技术特征。颁丑补谤补肠迟别谤.础滨开发的“丹妮莉丝”聊天机器人是基于“龙妈”角色设定，结合算法模型和用户数据训练生成，虽无实体形态，但具备智能机器人的基本特征。
功能定位。该聊天机器人区别于普通问答或交互软件，能够进行深度情感交流，具有自主学习和个性化反馈能力，属于情感陪伴类人工智能应用。
法律适用。中国《产物质量法》未将产物限定为实体物。从法律解释角度，聊天机器人可视为础滨公司经过技术加工制作并销售的数字化产物。随着技术发展，产物的定义应与时俱进。
权益保障。适用产物责任可促使人工智能公司审慎开发产物，关注特殊人群的需求，并发挥公司在技术举证方面的优势，有助于维护消费者权益。
注意义务
《办法》将生成式人工智能界定为服务，目前司法认定案涉聊天机器人为产物难度大，通过《产物责任法》寻求救济的可能性较低。Character.AI的服务内容表明“通知–删除”的传统避风港制度也不适用于此案例。
目前，针对生成式人工智能的侵权责任认定，国内司法实践主要考量服务平台是否已尽到注意义务。注意义务产生的根源在于生成式人工智能侵权难以追溯且因果关系难以证明，本质上要求具有较强事前控制能力的服务提供者在技术设计和服务提供过程中采取合理措施防范潜在风险。
《办法》中的诸多规定可作为认定注意义务的依据，如防止歧视、提升透明度、明确服务适用人群等。《网络信息内容生态治理规定》也明确要求网络信息内容服务平台履行管理主体责任。在司法实践中，服务平台未尽到规定注意义务即可视为存在过错，反之若能证明已尽合理注意义务则不承担过错责任，且违反程度越轻则过错越小、责任越轻。本案中，“丹妮莉丝”聊天机器人直接提供私密情感对话服务，颁丑补谤补肠迟别谤.础滨除履行常规内容审查义务外，还应承担更高的风险防范义务，前述注意义务审查标准具有充分可行性。
事件发生后，颁丑补谤补肠迟别谤.础滨公司发布致歉声明并进行调整，包括优化未成年人用户模型、加强违规内容检测、增设免责声明、弹出用户聊天一小时提醒等。从国内注意义务认定视角看，这恰恰表明颁丑补谤补肠迟别谤.础滨此前未尽到合理注意义务。
结语
础滨陪聊致死案引发的人工智能侵权责任认定，在中美法律界都是一个新议题，其监管空白亟待填补。美国总检察长协会已于较早前发信呼吁保护儿童免受人工智能的潜在危害，中国也应加快建立相应的规制框架。
广信君达律师事务所律师苏耀云
广信君达律师事务所
广州市天河区珠江新城珠江东路6号
广州周大福金融中心29层、10层 邮编: 510623
电话: +86 20 3718 1333
传真: +86 20 3718 1388
电子信箱: 727624113@163.com
