“我没用AI，怎么就违规了？”在网络平台发布一段关于打工、学车的感悟后，一位用户却因“未标注AI生成内容”被禁言一天，该用户不服平台处理，状告平台违约。近日，北京互联网法院对这起因人工智能内容标识引发的网络服务合同纠纷案作出判决，网络平台方因未能合理解释其算法判断依据，被判违约。

原告是一名网络平台用户，一天，原告在某网络平台发布内容称：“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……”该内容却被平台系统识别为“包含AI生成内容但未标注”，随后平台根据用户协议，将上述内容隐藏并对用户账号禁言一天。

该用户认为，平台是误判，构成违约，向法院起诉，要求撤销处理，删除后台违规记录。平台则称，算法模型具备识别AI生成内容的能力，结合人工复核，认定原告内容缺乏人类情感特征，属于AI生成内容，处理合理合法。

法院审理认为，平台有权依据用户协议，对用户发布内容是否为AI生成进行判断，并采取处理措施。但该判断需建立在有据可依的基础上。

在本案中，平台虽提交了算法备案信息，称相关模块可识别“有安全风险的回答”，但该模块并非用于识别AI生成内容，因此无法支持其作出AI生成判断的依据。同时，平台所提人工复核标准为“是否有明显人类情感特征”，属主观判断，缺乏科学性和说服力。

法院提醒，被告网络平台既是算法工具掌控方又是结果判断方，应就该事实进行合理举证或解释说明，但被告没有对算法决策依据和结果进行适度的解释和说明。最终，法院判定平台在没有事实依据的情况下对涉案账户的处理，构成违约，判决网络平台展开对于涉案内容的隐藏，删除在后台的违规处理记录。

法官指出，AI生成内容已对内容真实性和传播安全性带来挑战。平台设立AI生成内容标识制度，是出于网络治理和信息透明的需要，具有合理性。不过，平台需要通过用户协议、社区规范、处罚规则等明确告知用户需要遵守AI生成合成内容标识规定，如用户违反有关规定，平台可对违规行为进行处理。

双方如果产生争议，应该如何裁判？法官认为，如果网络平台判定用户发布的内容为AI生成合成，用户需要提供证明该内容是人类创作的初步证据，法院可结合创作形式、内容、载体等因素综合调整用户的举证责任，并认定证据的证明效力。

网络用户提供初步证据后，网络平台应举证证明其使用算法工具进行判定的正确性或进行必要限度的解释说明，网络内容服务平台不得仅以涉及商业秘密为由规避该义务。