关注我们
本文由德和衡-博弋科技联合出品
前言
网络空间不仅是信息传播的重要渠道，更是社会舆论的重要阵地。然而，网络谣言、虚假信息、网络暴力等问题频发，糖水爷爷事件、粉发女孩郑灵华事件、刘学州寻亲网暴事件等桩桩件件都向社会展示了网络暴力的恶行成本之低、受害人维权路径之艰。因此，建立健全网络信息内容生态治理体系，营造清朗的网络空间，成为了当务之急。
为应对上述挑战，我国相继出台了一系列法规政策，构建了较为完善的网络信息内容生态治理体系。主要包括：
1、《中华人民共和国网络安全法》：2017年6月1日起实施，奠定了网络安全的基本法律框架。
2、 《互联网信息服务管理办法》：自2000年9月25日公布施行，2011年1月8日经小幅度调整，规范了互联网信息服务的基本管理办法。
3、《网络信息内容生态治理规定》：2020年3月1日起施行，专注于网络信息内容的生态治理。
4、《互联网信息服务管理办法（修订草案征求意见稿）》：2021年1月8日，国家网信办、工信部和公安部联合起草并向公众征求意见，对《现行办法》做了大量扩充和调整。
5、《互联网宗教信息服务管理办法》2022.03.01 实施,规制了通过互联网向公众提供宗教信息的行为。
网信办、公安部、文旅部及国家广电总局最新发布《网络暴力信息治理规定》，并将于2024年8月1日起施行（“《新规》”），新规结合过往的网络暴力执法案例中发现的执法难点与痛点，为解决以往发现的执法难题，从建立平台事前事中事后全链条管理角度，为网络暴力信息治理提出了最新解决路径。以下部分将结合已有的防范网络暴力实践案例和《新规》，从合规及技术角度帮助网络平台企业厘清在网络暴力信息治理方面的权责与合规路径。
2024年7月28日，最高检发布检察机关依法惩治利用网络暴力侵犯企业合法权益典型案例，案例涉及利用网络敲诈勒索企业、损害商业信誉、寻衅滋事等罪名。可见网络暴力行为的侵害对象已经从自然人扩展到了企业，利用线上线下企业注重网络评价与商业信誉、不愿为单笔小额消费者争议投入维权成本等特性，不法分子虚构企业侵权事实，进而敲诈勒索非法牟利。综上，新规颁布的必要性主要源自实践中的维权困境：
01 事后司法维权渠道成本高
民事、刑事诉讼等司法途径存在维权时间长、证据难提供等诸多难题，受害人难以在受到侵害的第一时间通过司法渠道寻求救济。且寻求救济诸多的司法判例展示了网络暴力案件痛点在于侵权主体难以直接锁定、侵权行为复杂多样和侵害后果难以量化，与之对应的，本次《新规》要求网络信息服务提供者有义务向用户提供网络暴力信息快捷取证等功能，便于用户收集证据后诉诸司法途径。
02 网络暴力防治需要源头治理
网络信息服务提供者作为网络信息公开展示、推广的平台，有能力管理平台用户发帖行为，同时有能力对信息内容的流量推广、排列顺序进行筛选与确定，进而获得流量红利。因此平衡管理能力与盈利而言，网络信息服务提供者都有义务作为防治网络暴力的第一道闸口，为受害人提供便捷的取证与投诉管理渠道，进行网络暴力的源头治理。
《网络暴力信息治理规定》主要内容
网络暴力信息，是指通过网络以文本、图像、音频、视频等形式对个人集中发布的，含有侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私，以及影响身心健康的指责嘲讽、贬低歧视等内容的违法和不良信息。同时强调了除外条款，依法通过网络检举、揭发他人违法犯罪，或者依法实施舆论监督的，不适用本规定。
01 禁止自行制作发布网暴信息
任何组织和个人不得制作、复制、发布、传播涉网络暴力违法信息
02 不得利用网暴信息蹭热度
任何组织和个人不得利用网络暴力事件实施蹭炒热度、推广引流等营销炒作行为，不得通过批量注册或者操纵用户账号等形式组织制作、复制、发布、传播网络暴力信息
03 不得协助网暴
明知他人从事涉网络暴力信息违法犯罪活动的，任何组织和个人不得为其提供数据、技术、流量、资金等支持和协助
01 监管主体
国家以及地方网信部门为统筹协调部门，负责网络暴力信息治理和相关监督管理工作。国家以及地方公安、文化和旅游、广播电视等有关部门依据各自职责开展网络暴力信息的监督管理工作。
02 网络信息服务提供者
如微博、今日头条、微信、抖音、快手、小红书、知乎以及企业网站、机构网站、个人网站等，应当履行全链条管理义务，包括事前采用技术手段预防预警并设置信息防护功能、事中对违规信息和账号处置要求、事后为用户提供便捷取证渠道与投诉渠道。
03 网络信息内容服务使用者
工作总结就是把一个时间段的工作进行一次全面系统的总检查、总评价、总分析、总研究，并分析成绩的不足，从而得出引以为戒的经验。
除上述主体之外，《新规》还提及了互联网新闻信息服务提供者（如新华网、人民网、央视网、澎湃新闻）、网络论坛社区和网络群组的建立者和管理者（如百度贴吧、豆瓣小组、QQ 群、微信群、知乎圈子）、网络信息内容多渠道分发服务机构（如今日头条、百度百家号、腾讯企鹅号、阿里大鱼号）等，并明确了主体相应的网络暴力防治义务，以期多维度实现共治目标。
网络信息服务提供者的义务
尽管《新规》提到了众多主体，但主要聚焦于网络信息服务提供者即信息发布平台的义务，下表列举了其事前事中事后三个阶段的主要义务：
以下表格总结了主流社交平台的防范网络暴力实践，其中小红书、微博均可以通过4次点击开启一键防护功能，抖音、微信、知乎、B站、豆瓣、百度贴吧均可通过3次点击开启一键防护功能。在内容审核方面，几乎全部的主流媒体均已采用机器审核与人工审核相结合的方式，其中百度贴吧通过AI自动审核、实时过滤，可以迅速有效识别拼音、谐音、拆字、形近字、影射等违规文本内容。
作为网络信息服务提供者，各大主流平台通过技术+人工审核相结合的方式能够识别与治理网络暴力行为。通过模拟网暴的方式实测各平台的防护有效性，发现主流平台应用均能在评论和私信中拦截含有明确辱骂词汇的极端言论。然而，对于极端言论的谐音字、变体字，或是“陪酒女也能上硕士”等隐晦侮辱，平台的拦截效果仍然存在较大局限（见下图）。在法规政策的指导下，网络信息服务提供者（平台）需要进一步细化网络暴力信息分类标准规则，建立健全网络暴力信息特征库以及典型案例样本库，实现对网络暴力信息的预防、预警、分类和处理。
图源：《311个受害案例、4场网暴模拟告诉你，谁该“保你平安”｜有数》
https://www.thepaper.cn/newsDetail_forward_22399042
然而，并非所有网络信息服务提供者都有能力通过技术赋能来处理网暴信息。除主流平台之外，还存在诸如企业网站、机构网站、个人网站等网络信息内容生产者，对于这些网络信息服务提供者的监管识别，则需要专业团队提供支持。
博弋科技通过自研的智能内容安全审查平台，能够识别各类综合性内容安全问题，包括异常链接识别、敏感关键词识别（如不文明用语、涉黄、涉暴、涉恐等言论）以及垃圾广告植入检测等，满足绝大多数网络信息服务提供者的技术需求。未来，将针对网络暴力的典型场景进行实践、应用和迭代，进一步提升监督审查的效率和效果，满足各类场景下的应用需求。同时，确保在实践过程中将法律法规与技术手段相结合，实现技术驱动治理，法律与技术协同共治的目标，确保网络信息内容生态治理的有效性和持续性。
网络信息服务提供者合规建议
网络信息服务提供者应按照《网络暴力信息治理规定》要求，从制度建设、平台功能设计以及响应用户举报几个方面落实事前、事中及事后全流程的网络暴力防治平台义务，具体而言：
事前
1) 应当制定和公开网络暴力管理规则、平台公约，并定期发布平台网络暴力治理公告。
2) 有义务对用户进行实名制认证，以便事前约束及事后定位责任主体。
3) 采取技术手段和人工审核相结合的方式加强对网络暴力信息的识别监测。应当建立健全网络暴力信息预警模型。
4) 公众账号生产运营者应当建立发布推广、互动评论等全过程信息内容安全审核机制。
5) 应当建立健全网络暴力信息防护功能，提供屏蔽陌生用户或特定用户、本人发布信息可见范围、禁止转载或评论本人发布信息等网络暴力防护选项。应当完善私信规则。建议参照三/（二）部分列举的主流平台防范网络暴力实践，在3-4次点击以内开启一键防护功能。
6) 发现用户面临网络暴力信息风险的，应当及时通过显著方式提示用户，告知用户可以采取的防护措施。
事中
1) 加强对异常账号及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施；发现网络暴力信息的，应当及时采取屏蔽与管理。
2) 及时保存信息内容、浏览评论转发数量等数据。网络信息服务提供者应当向用户提供网络暴力信息快捷取证等功能。
事后
应当建立健全用户账号信用管理体系，将涉网络暴力信息违法违规情形记入用户信用记录；应当提供便捷的投诉举报渠道，接收并响应用户的投诉举报要求，应当优先受理针对未成年人的网络暴力投诉举报。
联系我们
网址：www.boyi-tech.com
邮箱：boyi@boyi-tech.com
地址：上海市徐汇区乐山路33号交大慧谷科技园区1号楼605室
关于我们
博弋科技是一家依托于上海交通大学网络空间安全学院大数据存储与智能安全实验室核心研发团队的网络空间安全服务与数据服务提供商。公司顺应网络空间的时代变迁，率先提出“三全一高”信息安全服务理念，专注数据价值，依托产品与技术优势，聚焦网络空间安全、工业大数据、智慧农业等领域，致力于为用户提供”更可靠、更智慧”的数据服务。在大数据安全智能分析，农业农村基础数据中台、企业智能制造 DataLake 等方面拥有丰富的实施经验。
博弋科技具有国家测评中心信息安全服务资质认证、ISO27001信息安全管理体系认证、上海市高新技术企业认证、检验检测机构资质认证等资质，与上海交通大学大数据存储和智 能安全实验室长期紧密合作。
公司愿景：践行数据治理理念， 为数据资产保驾护航，助力实体经济发展！
往期推荐
博弋科技与德和衡律师事务所成功举办数据合规、AI安全专题讨论会
博弋科技携手海华永泰共同探讨数据安全与合规业务新动向
法律与技术深度融合：博弋科技与瀛东律所共话数据跨境合规之道
博弋科技携手交大安泰EMBA车协会员共探汽车行业网络安全之道
