面对网络暴力，互联网平台能做些什么？
关注并将「人人都是产品经理」设为星标
每天早 07 : 45 按时送达
全文共 5931 字，阅读需要 12 分钟
——————/ BEGIN /——————
最近的一则新闻，深深刺痛着我的心……
一名外卖员历时4小时，骑行27公里为上海一名女子的听障父亲送菜，事后女子为外卖员充值了200元话费作为感谢。网友却质疑给的太少，在网络上对女子进行语言攻击和谩骂，女子因舆论压力，最终选择坠楼来结束生命。
其丈夫表示，平时她胆子很小，连买一条鱼都不敢碰。事情发生后像失了魂一样，完全听不进任何人的声音，她接受了很多很多精神上的压力，不然真的不会选择这一步。
而这并非个例！
网暴已经成为了新的夺命方式，且愈发严重。
据抖音披露的数据，抖音每天会有8亿条评论产生。其中，被处理的视频里，“谩骂，人身攻击”占比32.79%；国家网信办在今年3月的新闻发布会上表示，2022年以来，已累计清理有害信息87.9万条，处置违法违规账号4.1万余个。
国家近几年一直在采取相关行动来制止网暴，但网暴为何屡禁不止？面对网暴，作为平台方，又能发挥哪些作用呢？
这篇文章，我们一起来探讨下。
网暴为什么屡禁不止？
1. 什么是网暴
网暴，即网络暴力。据央视网给出的定义，以下8种行为均视作网暴：引战营销、煽动对立、言语谩骂、私信轰炸、恶意剪辑、人肉搜索、P图抹黑、造谣诋毁。
2. 网暴屡禁不止的原因是什么？
1）网络是匿名的，发言门槛极低
网络世界和真实世界的区别在于，它是匿名的。
在互联网上冲浪，每个人都带着一个面具，没有人知道我们是谁。人是多面性的，在不同的环境下，会表现出不同的人格和特性。一个彬彬有礼的男生，戴上面具后，可能是一个歹毒的键盘侠。
而正是因为匿名性，我们对自己在网络上的言行举止基本不需要付出任何代价，发言门槛极低。
2）看不到听不到，很难感同身受
面对面指责一个人时，我们是能看到对方的情绪反应的。他的愤怒和难过，是会反馈给我们的，从而激发我们内在的同理心。我们会自省是不是说得过分了，是不是说错了，是不是误会别人了。
而网络隔绝了这种反馈，我们写下的每一句话，只是代表着自己当下的判断和情绪，对别人的心理影响和压力，我们是看不到、感觉不到的。所以没有人觉得自己伤害了另一个人，因为我们看不到。
但是一个普通人，特别是缺乏网络经验的人，会因为突然被这么多人指责而承担巨大的精神压力。有些人会因为无法接受这种压力，选择极端的方式酿成悲剧。
3）没有法律约束
时至今日，我国还没有专门针对网络暴力的法律法规，只是在宪法和民法、刑法中作出相关规定。这让各地在监管和执法上存在盲点，没有法规做依规，对潜在施暴者的震慑力不足。
4）网络信息的碎片化
人的本能反应，绝大部分是感性，而非理性的。我们在看到一个新闻事件时，总会以我们自己了解到的信息去分析并得出结论，这很容易以偏概全。网络信息高度碎片化，想真正了解清楚事件的全貌和真实原因难上加难。
作为网暴言论的发酵地和传播地，平台的作用至关重要。因为疫情影响，网络暴力呈现上升态势，2022年，全国各地监管部门出台多项通知，要求平台切实履行监管和查处责任，发挥平台主体作用。
2022年，也被视作网暴治理元年，各平台都交出了自己的答卷，这些措施能否有效治暴呢？我们一起来探讨一下。
遏制网暴，
平台能做些什么？
知乎上有一个题为“面对网络暴力时，正确的做法是什么？”的话题讨论，该话题浏览次数高达950余万次，产生323个回答。高关注的背后不难看出，人们对于被网暴后如何自救，迫切需要一个完美答案。
浩瀚的网络，充斥着形形色色的人，如果真的遇到了网暴，相信很多人和我一样，不知所措。作为提供服务的平台来说，能否在产品层面给予解决方案呢？
网络暴力，按照发展阶段，可以分为事件发生前、中、后三个时期。围绕不同的阶段，我们可以采取不同的手段。
事件发生前期更关注对用户的教育和风险预判，尽可能减少源头暴力内容的出现；事件发生中期，要为用户提供更为便捷有效的防暴功能，起到对信息的隔离和消除作用；事件发生后期，应更加重视对违规人的追责和处置机制。
1. 事件发生前：关注用户的教育和对风险内容的识别和预判
1）制定社区公约，明确社区规则
B站发展到至今，已经是一个多元化的社区，营造良好且正向的社区氛围是社区建设的重点工作。B站独有的“答题转正”功能，不但可以筛选符合社区的用户，更能在此过程中，对用户进行深度教育。
通过题目的设置，让用户对社区公约和规则有更深入的了解，明确哪些事情是不被允许的。
该功能更适合于十分垂类的兴趣社区，对于泛流量的产品来说，增加“答题转正”会极大增加用户注册的流失概率。
不妨可以通过做任务领积分或抽奖的方式，引导用户完成答题任务，从而达到教育用户的目的。
2）设立专属账号，公示违规处置结果，震慑潜在施暴者
公示的作用在于震慑，告知这样做的严重后果。经实际测试，每家产品都会开设类似“安全中心”“管理员”这样的专属账号，来发布违规信息的处置公告。“抖音安全中心“还打造了“梅楼封”这样的IP角色，以寓教于乐的方式解读哪些内容是不受平台允许的，还会科普防骗知识。
科普是长期教育的过程，不可能一蹴而就。设立安全中心账号的出发点很好，落地执行时会发现，用户根本不喜欢看这样冷冰冰的公告，效果大打折扣。
抖音安全中心“梅楼封”的IP角色，是在塑造一个人物，在你平时刷抖音时，隔三岔五就能收到他的视频，在产品使用过程中隐性科普，有血有肉，比冷冰冰的处置发布公告，更有传播力。
3）机器算法，做好风险识别和预判
针对用户已发送的不当评论，抖音上线“发文警示”功能，可对风险内容进行拦截。如果发送者坚持发送，则该条评论不会在评论区出现，仅自己可见。抖音意在从源头治理网络暴力。
在训练机器模型的过程中，可能会存在误判，建议增加人工二次审核，在极限情况下，给用户一个申诉的出口。
4）关爱负向情绪人群
（图片源自网络）
抖音在新的防网暴系统中新增了名为“心情暖宝宝”的平台助手，如果用户多次违规发布私信、评论，算法可以自动匹配触发“心情暖宝宝”，用消息对话尝试缓解用户的抑郁情绪，甚至引导用户去人工求助、线下就诊。
2022年3月底，抖音小安推出“超能力抱抱”功能，呼吁全平台用户通过拥抱表达善意。
用户只需要在想要给予关怀的视频评论区发送【抱抱】，并@抖音小安，就有可能触发超能力抱抱。
据抖音透露，该功能上线一周内，累计35万视频创作者收获了来自平台用户送出的超过2000万次抱抱。
治理网络暴力，治标更要治本。
科技向善，才是产品应该追求的价值观。
这不仅需要平台付出努力，更需要所有人的共同参与，用心感化心，人间真情，最暖人心。
我们需要看到，治理网络暴力，不单单是依靠冷冰冰的规则和处理，还需要增加人文关怀。人之初，性本善，我们更应站在施暴者的角度，来听一听、想一想他们为什么会做出这样的举动。
5）隐私设置，阻隔可能的网暴风险
各大互联网平台均会在设置-隐私设置中提供基础的防暴能力，常见的是，可以通过私信、评论、关系三个维度，设置哪些人可以与你进行互动。
小红书支持设置只有【我关注的人】，才可以评论、发送弹幕、@我。
知乎配有“瓦力保镖”功能，开启后，系统会对新获得的评论进行检测，被系统识别出的不良评论将被折叠或删除。被识别为不友善的私信将会被自动隐藏，严重者将会主动帮你拉黑对方。
今日头条支持作者设置评论区禁评词。
好的功能，需要真正让用户知道，才能发挥更大的作用。经体验发现，抖音、知乎、小红书的隐私设置入口层级过深，用户需先找到设置入口，才能再进入隐私设置。豆瓣的隐私设置入口和设置是同层级的，查找起来相对容易。
6）显示网络IP地址
近期，各大互联网平台相继上线“网络用户IP地址显示功能”，境外显示国家，境内显示到省市，且功能不支持关闭。
目前明确上线该功能的平台有：新浪微博、今日头条、抖音、知乎、快手、小红书、百家号。
这个功能的上线，将对网络造谣等行为用户形成极大的震慑作用。
深不可测的虚拟网络，终于被撕开了一个口子，让我们看到了更多真实的身份信息。
有利也有弊，近期针对该功能，网友们众说纷纭，更多的争议在于3个方面：
显示IP是否会泄露个人隐私？
显示IP是否会引来间接网暴？
显示IP就能绝对阻止被网暴吗？
首先，不可否认的是，显示IP地址能极大震慑网暴行为，很多谣言会直接原形必露，例如：说自己是中国人，结果IP地址显示在美国。
其次，凡事没有绝对一说，极有可能发言的人确实是中国人，只是IP地址在美国呢？会不会引发网暴从个人层面上升到国家层面呢？最后，防止网络暴力不是仅靠产品功能层面就能解决的，还需要社会治理和各方共同的努力。
7）个人历史隐私保护
网暴的核心特点是，被网暴者的个人信息会遭到曝光，在互联网上留下的历史记录会被网友扒出来。因此，在日常使用互联网络时，要养成保护个人隐私的习惯。
在产品层面，这样的历史隐私保护措施已经是最基本的标配功能。
微信朋友圈支持设置允许陌生人查看十条朋友圈、允许朋友查看朋友圈的范围提供半年、一个月、最近三天、全部等4个选项。
抖音支持将账号设置为私密账号，开启后，任何人都无法查看自己的作品、点赞作品，关注账号需要经过本人批准。
2. 事件发生中：给予用户应急方案，平台应及时开展专项整顿行动
1）开启一键防暴功能
若用户遭遇了网络暴力，我们应为用户提供一键开启防暴功能的能力，使用户更为快速地阻隔不良信息，减少对身心的伤害。
微博在3月11日上线了一键开启“防暴模式”。开启该模式后，在7天内，将不接收未关注人的私信，未关注人将无法评论你的微博，未关注人转发你的微博的记录将不会展示在转发列表中。在有效期结束前12小时，微博小秘书将发送功能即将关闭的提醒，如果需要继续防护，用户在功能关闭后可手动打开。
豆瓣上线了“应急防护模式”，旨在保护网络暴力的发生和传播。
2）对于不良内容，系统自动提醒，引导删除或拉黑
抖音在新推出的功能中，若系统自动识别出内容是不合适的，是不良的，会在该信息的接收者端进行提醒，引导拉黑、举报和移除粉丝。
根据抖音官方的数据，该功能上线后，日均对25万次会话发出风险提示，日均近9万条消息被列入垃圾信息，日均超过7万用户受益。
3）关注被施暴者心理疏导
遭遇网络暴力，需要承担巨大的心理压力。情绪的变化是最为明显的，平台除了阻断信息骚扰和轰炸外，还要关注被施暴者的心理疏导，在核心环节进行人文关怀。
当然，对于遭遇网络暴力，最好的方式是将通讯设备完全抛弃，及时和家人沟通，保证有人陪伴在身边，如有必要，请及时寻求心理医生的指导和帮助。
4）开设举报投诉暴力行为渠道
多数平台均会开设专门的用户投诉渠道，接收来自用户发现的网暴行为，平台根据反馈进行核实和处置。
要注意的是：在设置投诉渠道时，要简化程序，便于更多用户参与其中；同时，要保护好举报者的隐私和个人信息安全。
目前的举报只是针对某个人、某条信息，而网暴保护阀是针对群体。如果一个人向平台提出自己被网暴了，平台就应该自动查询与此人关联的信息，进行识别和处理。
当然，这个过程中会影响很多人使用平台，某种程度可能影响平台用户和讨论的活跃度。但这种活跃度是违背道德或法律的，平台切勿唯流量论。
5）平台开展专项整治行动
出现网络暴力事件后，平台应承担起自身责任，有必要、有有义务去主动开展整治活动，及时查处、删除相关不实内容，并向公众进行公示，以免造成较大范围的谣言传播。
当然，这种整治行动更多的是对大事件的整治，对于普通用户个体来说，他们遭遇网暴后，可能并不会引起平台的过度关注，平台需要从产品层面来考虑，如何更好地帮助这部分用户进行信息阻隔。
6）提供权威最新进展和情况，引导了解事实真相
网络暴力源自对事实的不充分了解，甚至过度或错误解读，在网暴事件发生时，平台应对相关信息快速梳理，进行权威官方解读，并不断向用户推送。信息不对称，甚至信息茧房，导致不能感同身受、不能换个角度看问题，是网暴发生的主要原因。
目前抖音、今日头条、腾讯等平台均设有辟谣的板块和内容，但建议对相关信息进行关联。
比如：当用户在平台搜索相关关键词时，能优先展示辟谣的内容或事件发生后的真实信息（经官方确认或证实），给用户尽可能全面的判断依据。
也可以邀请专家或新闻从业者对事件进行解读，给出价值观判断，引导正确的讨论风向。
对于部分有争议的内容或账号，可在账号主页明显位置增加标识，提醒用户进行甄别。
3. 事件发生后：对违规个人和账号进行处罚
1）相比处罚账号，更应该追求背后的责任人
应建立更完善的用户个人信息机制，在注册时，需完成实名认证，对于实施网络暴力的个人或集体，不单封禁账号，更应该封禁其个人再使用相关产品。
对于责任人，目前各平台都有不同梯度的处罚标准。除了短暂的封禁外，建议平台增加“价值观考核”机制，用户解封后，需完成答题，通过答题，对该部分用户进行深度教育，告知哪些内容是不被平台允许的，还可以增加强制观看网络暴力宣传片等手段（计算观看时长）。
治暴的过程中，也需要更多的人参与进来。对于被封禁的账号，平台也可以考虑：有效举报一定数量的违规内容，且审核通过后，也可以申请解封。
账号若首次被封禁，且账号历史行为较好，抖音会提供自助答题解封入口，用户完成题目作答且全部答对后即可解封。
2）完善平台推荐机制和算法机制
算法的完善和发展，让接收的信息更加符合我们的期待，提供了更美好的使用体验。有利就有弊，也正因为算法和推荐的机制，导致唯流量论盛行，助推了网络暴力危害的增强和放大。
平台应该根据事件做复盘，以传播的角度，来制定更为合理的推荐机制。
结 语
治理网暴，是平台的责任，更是智慧。
网络暴力的形势空前严峻，国家有关部门多次发布文件，指导各互联网平台采取有效措施治理网络暴力。
它已超出单一产品层面的问题，是更为复杂的人性和社会治理问题。治暴，要从源头抓起，除了采用技术手段外，人文关怀也至关重要。
互联网不是法外之地，请对自己的言行举止负责！
如果你正在遭遇网络暴力，请务必第一时间和身边的朋友、家人说明情况，或许他们的一句话，就能避免悲剧的发生。
也请相信，网络暴力在绝大部分时候，并非是主持正义，只是群体情绪的宣泄。无视他们的谩骂和指责，让他们自觉没趣，反而是最好的回击。
愿这些防暴功能永远都用不上……
—————— / END / ——————
产品经理培训｜产品运营培训｜企业内训服务
请在公众号后台回复「培训」了解更多
▼ 喜欢请分享&收藏，满意点个赞，最后点「在看」 ▼
相关内容
微信扫码咨询专知VIP会员