央广网北京6月30日消息（总台中国之声记者孙莹）据中央广播电视总台中国之声报道，生成式人工智能技术为数字经济发展注入强大动力。与此同时，在AI生成合成内容未进行“AI标识”的情况下，公众难以区分AI生成合成内容和人类创作内容，利用AI实施诈骗、侵权等违法犯罪的行为不断攀升。国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布的《人工智能生成合成内容标识办法》将于今年的9月1日起正式施行。其中就要求用户发布AI生成合成内容时主动声明并进行标识。

虽然《人工智能生成合成内容标识办法》还没有正式开始施行，但各个平台早已开始采取措施规范生成合成内容传播活动了。如果平台用户本人在平台上的发言，被判断成“包含AI生成内容但未标识”违规引发了纠纷，平台要承担责任吗？要承担怎样的责任？北京互联网法院近日审结的一起网络服务合同纠纷案给出了答案。

真人表达被平台判定为“包含AI生成内容但未标识”

原告在被告运营的网络平台上说：“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……工作之后就没有太多完整的时间学驾照了。”结果被平台判定为“包含AI生成内容但未标识”的违规情况。

北京互联网法院法官助理张夏意介绍：“原告起诉说，他说这些话并未使用AI创作，平台判定原告违规、隐藏内容、禁言一天等行为构成违约，请求法院判令平台撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。”

平台有权对内容是否属于AI生成合成内容进行审查

庭审过程中，被告平台运营者首先强调，自己有权依据双方网络服务合同审核认定原告使用平台服务时的违规行为，并采取必要治理措施，不构成违约。对此，法院如何认定？

主审此案的北京互联网法院综合审判一庭副庭长袁建华分析：“被告在平台社区公告里明确载明，‘创作者在发布包含AIGC生成的内容时，应主动使用标识，帮助读者进行区分。对发布时未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识’。还载明，‘未经标签声明，使用人工智能生成的内容构成违规’。这个公告属于平台服务协议的组成部分。因此，被告有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理。”

被告平台强调，原告发布的内容经机器识别为“包含人工智能生成”，经过人工复核，认定该内容缺乏明显的人类情感特征。原告如何证明涉案内容并非AI生成内容呢？

张夏意表示：“在一般情况下，原告应该提供如创作底稿、原件、源文件、源数据等证明人类创作属性的初步证据，但本案中，原告回答内容是即时性创作文本，在客观上无法提供这些证据，由原告提供这些证据也不存在合理性和现实可行性。”

北京互联网法院主审法官袁建华

平台应该对判断依据和结果作出合理解释

被告平台还认为，他们有权自行选择合理、必要的方式和技术，网络服务合同未约定被告有义务向用户提供、解释技术秘密和算法逻辑，原告无权获知。而且，涉案内容被识别、标记期间，模型准确率没有变化。

对此，袁建华分析：“我们认为，被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，在此情况下，被告应就这个事实进行合理举证或解释说明。虽然被告在本案中提供了算法的备案信息，但公示内容显示该算法功能为识别有安全风险的回答，无法认定它是对AI生成合成识别判断的技术，所以无法确认备案信息与本案争议的关联性，因此我们认为，被告未对涉案内容属于AI生成合成的判断依据和结果作出合理解释，应承担违约责任。判决被告展开对于涉案内容的隐藏，删除在后台的违规处理记录。目前，此案判决已生效。”

《人工智能生成合成内容标识办法》将于9月1日施行

将于今年9月1日起施行《人工智能生成合成内容标识办法》，要求用户发布AI生成合成内容时主动声明并进行标识，网络信息内容传播服务提供者应当采取措施，规范生成合成内容传播活动，如核验文件元数据、添加显著提示标识并提醒公众，提供必要的标识功能并提醒用户主动声明发布内容中是否包含生成合成内容，当未核验到隐式标识用户也未声明，但平台识别为疑似生成合成内容时，应当采取适当方式在发布内容周边添加显著标识，提示公众该内容疑似生成合成内容。中国人民大学法学院副教授、信息文明与国家治理研究所所长黄尹旭认为，此案是对AI生成合成内容标识的标记、平台识别和治理在司法审查规则方面的有益探索。

黄尹旭表示：“一方面，法院肯定了网络内容服务平台利用算法工具对AI生成合成内容进行审查和处理，履行信息内容管理主体责任的积极作用；另一方面，认定网络内容服务平台在即时性创作文本场景下对使用算法自动化决策结果承担适度说明义务，并为司法审查阶段的算法解释说明程度确立了一定的标准。明确算法解释说明的司法审查标准，既保障了网络用户合法权益，又能有效推动算法公开透明，规范算法应用行为，推动平台经济健康发展。”

中国人民大学法学院副教授黄尹旭

黄尹旭强调，算法治理需在保障技术透明度与激发产业创新活力间寻求动态平衡。

黄尹旭说：“司法审查应本着包容审慎的态度，在‘算法信息适当公开’与‘算法商业秘密适度保护’之间达成平衡。本案中，法院合理分配网络内容服务平台和用户的举证责任，一般情况下，用户需要提供证明该内容系人类创作的初步证据，而平台无需提供技术细节、源代码或原始数据，而需围绕案件争议事实以可理解的方式举证或说明算法运行机制、对应可能出现的误判是否采取了合理的救济措施。”