02/
让网暴“输在起跑线上”
抖音推出多项管控新功能
抖音其实在2017年就开启了私信管控功能，允许用户设置私信对象类型，比如只有互相关注的好友才能发送私信，很大程度上抑制了私信层面的网暴渠道，但也需要全面升级，不能头痛治头、脚痛治脚，需要有全局性的视野，从人到文、从前到后、从主动推送到被动关闭，方方面面的每一个角落，不给网络暴力以存在的空间，因为评论也同样是网络暴力的渠道之一。
所以在今年1月，抖音率先推出国内首个为用户提供各个场景预防网暴功能的服务，共有8大功能，从信息发布的多个角度来切入，首先管人，从平台根据系统模型主动管理发送者，到接收者自我管理。其次管文，从前期的评论发送警示，到中期的私信分层管理，再到后期平台小助手提供“心情关怀”，打通了预防网暴前中后的整个流程。
当然，说总比做简单，抖音的这些预防网暴新功能到底好不好用呢？咱们选取了其中几个功能来进行测试，本次测试的抖音app版本号为19.4.2。
第一，私信对象授权：不是谁都可以跟我聊
这就是抖音于2017年底开放的第一个防网暴功能，根据我们的测试来看，用户可以在“我的->设置->隐私设置->谁可以私信我”里找到，可设置所有人/互关朋友/关闭，这个设置基本上可以杜绝网暴信息的直接触达，是最基本的功能。如果你担心被陌生人私信滋扰，这个选项就应该至少保持在“互关朋友”上，这时候我用2个互相没有关注的账号发私信，都无法接收到对方的信息，起到了很好的保护作用。
第二，私信风险提醒：每天提示25万次
如果你没有设置第一项功能，而收到了陌生人或单方面关注你的账号发来的私信，而私信内容被系统模型认定为风险信息，抖音会通过弹出浮窗提醒你是否认识该账户，如果选择“不认识”，就会指引你拉黑，举报或移除粉丝。根据抖音官方数据，这项今年1月才上线还未满月的功能，已经可以每天对约25万次对话发出风险提示，引导用户自主管理社交对象，通过拉黑举报等手段保障自己的社交安全。
实际使用下来，这项功能很人性化，通过主动提示的方式，让普通用户在风险即将发生的时候收到警示，能够非常简单直接地进行处理。
第三，私信负向内容过滤：每天拦截9万条
事实上，抖音针对文本内容的系统模型已经很成熟，所以它可以主动地判断文本是否匹配谩骂或骚扰，一旦认定就会直接将私信拉到垃圾信息中。我们用2个相互为陌生人的个人账号进行了测试，文字中带有明显辱骂的内容就会被自动屏蔽。官方数据表明，这项同样今年1月份才上线的功能，会每天将超过9万条私信列入垃圾信息，让7万多用户避免与恶意信息直接接触，这个设计非常的不错。
第四，评论发文风险警示：每天减少3万条
相对于私信，评论的“威力”会更大一些，毕竟评论是完全公开的，大家都能看到，而且恶意评论更容易起到煽风点火的效果，所以针对评论发文也必须要有相应的管控措施。抖音的第一步操作是针对发文者，如果判断到发文内容存在风险，就会主动弹窗提示“确定要发送这条评论吗？”告知用户可能违反社区公约，建议重新编辑。
虽然发文者也可以无视提醒继续发送，但根据我们的测试来看，虽然在发文者客户端上可以看到评论正常出现，其他人并不能看见被密封在“真空”里的这条评论。而且每次填写恶意信息都会弹窗，写多少条就弹多少次，每次我们都选择“仍要发送”，而每次的最终结果都是无法被外部看见，这样的表现确实相当不错。
第五，评论权限设置：我的主场我说了算
不过，并不是所有的评论都属于直接谩骂，很多杀人诛心的话从文字角度来说也并不犀利，比如刘学州事件里就有人评论“穿着名牌鞋在三亚玩，却哭诉自己没地方住，很心机”。针对这种相对隐蔽的网络暴力，系统模型显然无法完全屏蔽，因此抖音也新增了评论权限设置功能，可以在“权限设置-高级设置-谁可以评论”中，设置具体某一条视频的评论权限，有“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项。
事实上转发和合拍也有权限设置，可选择“所有人”、“仅互关朋友”和“仅自己”，一定程度上遏制了针对本人账号的直接网暴行为。
第六，关怀助手“心情暖宝宝”:抒发压抑情绪的好去处
前面我们提到的几项技术都是从内容端来尝试掐断网络暴力的苗头，但对于那些已经受到伤害的用户来说，依然需要平台提供一个可疏导情绪的窗口，因此，抖音特意推出了“心情暖宝宝”小助手，目前会以三种形式触发对话，第一是抖音基于系统模型，比如根据你发布的内容、评论和私信命中你可能会遭遇情绪问题，这时候“心情暖宝宝”就会主动发起对话，第二是用户主动私信“心情暖宝宝”账号来发起对话，第三则是通过“我-我的客服-自助服务-情绪关怀助手”进入会话。
根据我们的测试结果来看，它的确可以减少推荐可能会让人产生负面情绪的内容，实用性还挺不错。
/03/
能力越大责任越大，惩治网暴仍有漫漫长路将行
作为网络暴力不时出现的互联平台，如何预防和惩治这种恶意行为，是包括抖音在内的社交媒体们不可推卸的义务。在国内首次系统性的推出预防网暴的8大功能，显示了抖音的全局观、价值观和科技力。从方式方法来看，有平台根据系统模型主动识别，进行警示或者关怀，也有用户根据自身需要，对与其交流的“人”与“文”进行自主管理，体现了平台的支持，又给予了用户自主权与自主能力。
作为一个线上平台，抖音在预防网络暴力这方面可以说是既展现了科技实力，又充满了责任心，在相信在未来还会投入更大的力度。
当然，网络暴力绝不会因此而绝迹，因为抖音这8大功能大多是针对用户与用户之间的交流来进行干预，施暴者依然可以不直接评论或私信，而是通过发布内容，结合话题炒作的方式来引发群体效应，同样可以对作为第三方的受害人造成伤害，这就需要平台升级更多的能力覆盖更多的场景去及时处理。
每年都有很多网络暴力引发的悲剧，从公众人物到平民百姓，每个人都可能成为网络暴力的靶子。贾静雯主演的国产热播剧《我们与恶的距离》就毫不留情地呈现了网络暴力的残忍，剧中男大学生李晓明在戏院持械行凶被逮捕后，媒体揪着话题不放，把犯罪和教育问题联系聚焦到了他的父母身上。李晓明的母亲含着泪水跪下喊道：“没有一个爸爸妈妈，要花二十年去养一个杀人犯呀！”为了避免网络暴力和舆论，他们卖掉房子，关掉手机，衣衫褴褛，在街头巷尾上过着乞丐般的生活，这已经超出了两个老人应该承受的压力。
大多数时候，网络暴力的一方不曾想到会舆论失控会导致严重后果，另一方则因为对“网络审判”束手无策直至绝望，双方都缺乏法律意识，不懂得用法律武器保护自身权益，所以普法对于网络暴力事件来说是最好的“治本”方案。社交平台的努力方向则主要是从源头上遏制网络暴力的发生。所以，当我们看到抖音做出多项调整时，心里还是倍感欣慰的，愿网络的阴暗角落也有阳光普照吧。