近期，中国之声报道了生成式人工智能技术在推动数字经济发展中的关键作用。然而，随着AI技术的广泛应用，未标注的AI生成内容与人类创作内容之间的界限变得模糊，导致诈骗、侵权等违法行为频发。为应对这一问题，国家互联网信息办公室、工业和信息化部、公安部及国家广播电视总局联合制定了《人工智能生成合成内容标识办法》，该办法将于今年9月1日正式生效，明确要求用户在发布AI生成内容时需主动声明并进行标识。
尽管《标识办法》尚未施行，各大平台已提前采取措施规范AI生成内容的传播。近日，北京互联网法院审理的一起网络服务合同纠纷案，就涉及平台对用户发言被误判为“包含AI生成内容但未标识”的纠纷处理。原告在被告平台上发表的一段关于工作与生活建议的言论，被平台误判为AI生成内容，并因此受到隐藏内容和禁言一天的处罚。原告随即起诉平台，要求撤销处罚并删除违规记录。
庭审过程中，被告平台强调，根据双方的网络服务合同，平台有权审核并认定用户在使用服务时的违规行为，并采取相应治理措施。法院审理认为，平台在服务协议中已明确告知用户需对AI生成内容进行标识，未标识者将视为违规，因此平台有权依据协议对内容进行审查和处理。然而，关于原告如何证明其言论非AI生成，法院指出，在缺乏创作底稿等直接证据的情况下，原告难以提供充分证明。
平台方面进一步辩称，其有权选择合理的技术手段进行内容识别，且无需向用户透露算法逻辑和技术秘密。然而，法院认为，作为算法工具的控制者和结果判断者，平台应对其判断依据和结果进行合理举证或解释。本案中，尽管平台提供了算法的备案信息，但该信息无法证明与本案争议的关联性，因此平台未能对判断依据作出合理解释，应承担违约责任。最终，法院判决平台撤销对原告的隐藏和禁言处罚，并删除后台违规记录。
即将施行的《人工智能生成合成内容标识办法》详细规定了平台在规范AI生成内容传播方面的责任，包括核验文件元数据、添加显著提示标识、提供标识功能等。中国人民大学法学院副教授黄尹旭认为，此案在司法审查规则方面对AI生成内容的标记、平台识别和治理进行了有益探索。他强调，法院既肯定了平台利用算法工具履行信息内容管理责任的积极作用，也要求平台在即时性创作文本场景下对算法自动化决策结果承担适度说明义务，为算法解释说明的司法审查标准确立了基准。
黄尹旭还指出，算法治理需在保障技术透明度与激发产业创新活力之间寻求平衡。司法审查应秉持包容审慎的态度，在算法信息适当公开与商业秘密适度保护之间找到平衡点。本案中，法院合理分配了平台与用户的举证责任，既保障了用户权益，又促进了算法的公开透明和规范应用。
