国家网信办、工信部、公安部、国家广电总局联合发布的《人工智能生成合成内容标识办法》将于2025年9月1日起正式施行，该办法要求用户发布AI生成合成内容时主动声明并进行标识，网络信息内容传播服务提供者应当采取措施，规范生成合成内容传播活动。
用户发布的内容被平台判定为AI生成，用户因此被禁言，合理吗？日前，北京互联网法院审结了这样一起网络服务合同纠纷案。
【案情回顾】
原告为涉案平台用户，被告为涉案平台运营者。原告在平台上发布了“如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……”，该内容被涉案平台判定为“包含AI生成内容但未标识”的违规情况，涉案平台作出将该内容隐藏并将用户禁言一天的处理。后原告进行申诉未成功。
原告主张，其并未使用AI创作，被告的行为违约，请求法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。
被告称，涉案平台规范中明确规定，“创作者在发布包含人工智能生成内容时，应主动使用‘人工智能生成内容’的标签进行声明，未主动声明的内容，平台将采取适当措施进行流量限制并添加相关标识。”原告发布的内容经机器识别为“包含人工智能生成”，经过人工复核，认定该内容缺乏明显的人类情感特征。被告作为网络服务提供方，有权自行选择合理、必要的方式和技术，请求法院依法驳回原告的诉讼请求。
【法院审理】
法院经审理认为，该案中，被告发布了社区公告载明“创作者在发布包含AIGC生成的内容时，应主动使用标识，帮助读者进行区分。对发布时未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识”“未经标签声明，使用人工智能生成的内容构成违规”。被告有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理。
同时，被告既是算法工具掌控方又是结果判断方，应就该事实进行合理举证或解释说明。虽然被告在该案中提供了算法的备案信息，但未对涉案内容属于AI生成合成的判断依据和结果作出合理解释，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。
【审判结果】
最后，法院判决被告展开对于涉案内容的隐藏，删除在后台的违规处理记录。驳回原告的其他诉讼请求。目前，该案判决已生效。
【以案说法】
网络内容服务平台有权利用算法工具对用户发布的内容是否使用AI生成合成进行审查和处理。若网络内容服务平台判定用户发布的内容为AI生成合成，用户需要提供证明该内容系人类创作的初步证据，法院可结合创作形式、内容、载体等因素综合调整用户的举证责任，并认定证据的证明效力。
网络用户提供初步证据后，网络内容服务平台应举证证明其使用算法工具进行判定的正确性或进行必要限度的解释说明，网络内容服务平台不得仅以涉及商业秘密为由规避该义务。
广瑞网提示：文章来自网络，不代表本站观点。
