文 | 本刊记者 胡启航
日前，巴黎奥运会乒乓球女单决赛场上发生的不文明现象引发社会广泛关注。部分观众因个人喜好，在运动员陈梦得分时发出嘘声，将“饭圈”恶习带入体育竞技，严重干扰比赛氛围。赛后，更有极端网友造谣运动员与教练员关系，恶意诋毁，最终被公安机关依法刑事拘留。
轻轻一个回车键，就能掀起一场场“按键伤人”的网络暴力。据统计，目前我国网民规模已近11亿人，互联网普及率达78%，网络空间与个体生活密不可分。然而，网络中仍有不少人存在“网络乃法外之地”的错觉，导致网络暴力现象频发，严重扰乱了网络社会公共秩序和良好的社会风尚。严惩网络暴力、保护网民合法权益、维护网络良好秩序的呼声越来越高。
8月1日起，由国家互联网信息办公室、公安部、文化和旅游部、国家广播电视总局联合印发的《网络暴力信息治理规定》（以下简称《规定》）正式施行。
据了解，《规定》设置了全方位的行政责任、刑事责任和民事责任，明确受到网络暴力后的救济措施，并提出：“违反本规定，给他人造成损害的，依法承担民事责任；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。”
“在《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《未成年人网络保护条例》等法律法规的基础上，《规定》将进一步建立网络暴力信息治理制度体系，有力提升网络暴力治理效能。”国家互联网信息办公室有关负责人表示。
推动网络暴力信息治理法治化
“染一头粉色头发肯定不正经。”
“陪酒女也能当硕士？”
……
时间倒回至2022年7月，一头粉色头发的玲玲（化名）拿到了华东师范大学的录取通知书。她拿着录取通知书去看望病床上的爷爷，把与爷爷短暂相聚的照片分享在社交平台上，并写道：“我考研的动力之一是让爷爷亲眼看到我读研究生，并以我为骄傲。”
然而，她的噩梦紧随其后。照片被营销号盗用，配以编造的不实故事，迅速招致大量辱骂。充满恶意的话语不仅涌入评论区，还如影随形地渗入她的生活。被网络暴力持续骚扰5天后，她决定拿起法律武器反击；被网络暴力骚扰194天后，她却结束了自己的生命，只留下一句话：“如果我死了，是不是社会舆论就能关注到网络暴力，或者让这些发言的人们愧疚一辈子？”
这场令人心痛的悲剧发生后，网友们或惋惜于“一朵粉玫瑰”的凋谢，或愤怒于“网络喷子”的卑鄙，但种种情绪交织之中，千言万语似乎只化成一句无奈的诘问：网络之大，竟容不下一头粉色头发吗？
近年来，网络暴力事件层出不穷，而女孩玲玲只是诸多受害者中的一位。为推动网络暴力整治走上法治化轨道，相关部门接连出台措施，开展专项行动。2022年，中央网信办印发《关于切实加强网络暴力治理的通知》，集中整治网络暴力行为。2023年，最高人民法院、最高人民检察院、公安部联合印发《关于依法惩治网络暴力违法犯罪的指导意见》，强化对网络暴力违法犯罪活动的惩治。
“网络暴力信息治理是网络空间治理的重要领域，《规定》作为我国首部以部门规章形式公布的反网络暴力规范性文件，开启了网络暴力信息治理法治化新篇章，对于推进网络空间治理现代化意义重大。”北京互联网法院综合审判三庭法官王红霞表示，《规定》从平台责任与义务的法定化、强化未成年人等特殊群体权益保护、完善用户权益保护处置措施等多个方面，全面构建了网络暴力信息治理的法律体系，体现了国家对于网络暴力“零容忍”的态度，以及坚决治理好网络暴力的决心，将有效遏制网络暴力的蔓延，为广大公民构建一个清朗的网络空间。
日常生活中，大家往往认为网络暴力的主体是施暴者和被害人，却忽视了另一个重要的主体——网络信息服务提供者，如各类社交平台。实际上，作为各种信息传播互动的载体，各类网络平台正是被施暴者利用，通过大放厥词攻击他人、蛊惑网民、传播有毒有害言论等，最终影响到全社会和被害人。
“作为网络信息服务提供者，网络平台提供了网络信息生产和传播的基本空间，也要在信息内容治理中起到基础性和主体性作用。”中国社会科学院法学研究所研究员支振锋说。
“《规定》的出台具有多方面的重要意义。”陕西省人大代表王浩公认为，以往针对网络暴力行为，主要依照《中华人民共和国治安管理处罚法》《互联网信息服务管理办法》等相关法律法规处罚。《规定》出台以后，网信、公安、文化和旅游、广播电视等部门也可给予处罚。《规定》的出台，更加突出了网络不是法外之地，每一个公民或民事主体都要注意自己的言行，不能违法犯罪，否则就会受到法律的制裁。
建立健全网络暴力信息预警模型
“别人对我嘲讽贬低，但没说脏话，也没造谣，这算网络暴力吗？”喜欢通过vlog记录生活的周女士经常将视频分享至某社交平台，吸引粉丝关注的同时，周女士的视频评论区经常有人留言嘲讽，给周女士带来困扰。周女士尝试使用平台提供的“一键防网暴”功能。随后，许多嘲讽信息被屏蔽删除。
实际上，网络暴力信息的表现形式不一定为激烈的谩骂、攻击等行为，有的可能采取十分隐蔽的方式，但对当事人造成的伤害同样很大。对此，《规定》提出，网络信息服务提供者应当建立健全网络暴力信息预警模型，综合事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等因素，及时发现预警网络暴力信息风险。
“因为平台经营者并不是执法机构，对于部分具有隐晦性的网络暴力信息难以有效甄别，通过设置分类标准、特征库，运用人工智能、大数据等技术，能够督促和推动平台更有效地识别监控网络暴力的一些特殊信息。”北京航空航天大学法学院副教授赵精武表示。
此外，《规定》要求，网络信息服务提供者发现存在网络暴力信息风险的，应当及时回应社会关切，引导用户文明互动、理性表达，并对异常账号及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施；发现相关信息内容浏览、搜索、评论、举报数量显著增长等情形的，还应当及时向有关部门报告。
“构建网络暴力信息监测预警机制的核心目标是实现‘事前预防’，即在舆论发酵之前及时响应，以减少网络暴力的形成或扩散，从而避免更为恶劣的后果。”中国互联网协会研究中心副主任吴沈括表示，针对网络暴力预警制度，可以从以下三个方面入手：首先，建立人工与人工智能相结合的多层次内容审核系统，对网络信息进行实时监测，以迅速准确地发现潜在的暴力信息；其次，完善用户举报机制和反馈系统，鼓励用户主动报告网络暴力行为，并建立高效处理和响应机制；最后，推动跨平台的信息共享机制，以提高信息流转效率和预警准确性，确保预警的全面覆盖。
近年来，一些人在“流量为王”的认知驱使下，冒充热门事件当事人的近亲属，假借这些名义，通过引流的方式提高自己账号的知名度，甚至发布虚假信息。为规制这类行为，《规定》要求，网络信息服务提供者应当建立健全用户账号信用管理体系，将涉网络暴力信息违法违规情形记入用户信用记录，依法依约降低账号信用等级或者列入黑名单，并据以限制账号功能或者停止提供相关服务。
“构建网络暴力信息监测预警制度是一项系统性工程，需要综合考虑技术、社会、法律等多方面因素。”中国政法大学数据法治研究院教授张凌寒认为，从技术方面考虑，可以利用人工智能大模型、大数据分析等技术手段，考量言论的频率、情感倾向、影响力等多个维度，对网络言论进行实时动态的监控和分析，综合评判网络暴力的风险与传播机制，并及时发出预警；从社会方面考虑，除了较为容易识别的侮辱谩骂、造谣诽谤、侵犯隐私等违法信息外，还需要结合言论的具体社会影响，对指责嘲讽、贬低歧视等不良信息也加以有效识别和规制；从法律方面考虑，既要做到对网络暴力的高效治理与有效预防，也要达到网络暴力治理与言论表达自由之间的平衡，确保监测预警机制的建立和运行符合相关法律法规。
助力网络暴力强监管
网络暴力事件的发酵，很多时候离不开“吃瓜群众”推波助澜，甚至一些“吃瓜群众”在客观上已经成了网络暴力的“帮凶”。
廖某是某网络平台一位拥有几十万粉丝的网红博主，凭借发表亲子日常和服饰穿搭笔记，拥有较高人气。朱某是廖某的粉丝，双方在现实生活中并无交集。
朱某经常看廖某发表在该平台上的穿搭笔记，有时也会模仿廖某的服饰穿搭，发表在自己的平台账号上。
廖某分享穿搭的目的是促进自己网店服装的销售。朱某起初在廖某的店铺购买服装，后认为廖某店铺的服装贵且质量不好，便不再购买。
2022年4月，廖某在某平台看到朱某模仿自己的穿搭，却不在自己店铺购买服装，于是在朱某的平台笔记下发表留言：“牛啊姐们儿！你老公知不知道你是个学人精？”其后，朱某的笔记下涌入大量网友评论，指责朱某模仿廖某穿搭。朱某将评论功能关闭后，仍收到大量私信侮辱、谩骂。朱某遂诉至法院。
法院经审理认为，法律并未禁止模仿他人穿着打扮的行为，朱某模仿被告廖某穿着打扮的行为不具备违法性。廖某亦未能提交法律依据及证据，证明朱某的行为侵犯了其权利。遂判决被告廖某于本判决生效后三日内在某平台账号中连续15日置顶登载致歉声明，向朱某公开道歉并赔偿朱某合理开支1050元。
近年来，人民法院依法惩治网络暴力违法犯罪活动，有效维护公民人格权益和网络秩序。今年《最高人民法院工作报告》中相关数据显示，过去一年，人民法院针对网络暴力“按键伤人”“按键杀人”，审结网络诽谤公诉案件32件，判决有罪人数达85人，同比分别增长10.3%、102.4%。
最高人民法院研究室主任周加海介绍，从审判实践来看，网络暴力案件主要呈现以下特点：
一是社会危害严重。一方面，网络暴力舆论快速扩散、发酵，造成被害人“社会性死亡”甚至精神失常、自杀等严重后果；另一方面，网络暴力信息充斥网络空间，扰乱网络秩序、破坏网络生态，严重影响社会公众安全感。
二是取证成本高昂。由于网络空间的虚拟性和网络用户的匿名性，被害人自己通常难以开展信息溯源、查明扩散路径，甚至无法确认行为人的真实身份，面临维权困境。
三是“黑灰产”深度参与。当前，网络暴力乱象不止，很大程度上与网络“黑灰产”深度参与、收割流量牟利相关。一些恶意炒作成为引发网络暴力的导火索，甚至有的网络暴力本身就是为了营销炒作而被恶意炮制、煽动而成。
四是责任认定复杂。网络暴力事件的参与者往往人数众多，责任认定和区分较为复杂。
值得注意的是，《规定》指出，公安机关对于网信、文化和旅游、广播电视等部门移送的涉网络暴力信息违法犯罪线索，应当及时进行审查，并对符合立案条件的及时立案侦查、调查。这使得网络暴力治理进入强监管轨道。
“每个网民都应该认识到，网络不是法外之地，网络空间同样要受到法律监管。”上海市普陀区人民法院刑事审判庭副庭长谭佳怡表示，广大网民一方面需提高自身法律意识；另一方面，在面对网络事件时，应保持理性和克制，不轻信未经证实的信息，不传播不实言论，避免无意中成为网络暴力的“帮凶”。
本期封面及目录
<< 滑动查看下一张图片 >>
《中国审判》杂志2024年第16期
中国审判新闻半月刊·总第350期