当前位置:首页 > 科技

提升青少年用户“内容免疫力” 《迷你世界》再升级内容审查措施

科技 2020-04-14 09:13:00

来源:中国经济网   责任编辑:zgd

  网络不是法外之地,然而总有不法分子试图利用网络的匿名性质逃避监管,实施犯罪行为,而认知未成熟的青少年往往更容易成为他们的目标。面对此类狡猾隐蔽,将违规内容隐藏在海量正常内容中引诱未成年人的犯罪份子,大众内容平台应如何应对?近日,国内主要的青少年沙盒平台《迷你世界》再次升级内容审查系统,打击违规内容,从严治理,保障青少年身心健康。 

  三管齐下  多重关卡斩断违规信息传播链 

  《迷你世界》作为国产青少年沙盒创作平台,一直将保障青少年的身心健康作为工作准则,并高度关注维护用户创作内容生态的健康合规。2019年,《迷你世界》就完善了违规违法行为的管理制度,明确职责、完善投诉举报流程。安全审核系统方面,《迷你世界》除自主研发以外,还接入了华为云、深圳市网安集团安全系统,对有害信息进行多重筛查;同年,升级安全审核系统和词库过滤筛查功能,覆盖动态评论、联机房间、地图黑板、留言板、信纸、字牌等各个板块的内容。 

  此外,在人力审核方面,《迷你世界》组建由内容审核、客服等组成的百人团队排查内容,提高内容发布门槛,以完成24小时内容排查、审核与封禁工作。在2017年至2019年,《迷你世界》对举报系统进行不断完善,现已上线第三版用户举报机制,用户发现有害信息后可以马上举报,举报内容进入客服管理系统,客服进行二轮筛查,确认后统一提交内容审查工作小组;该举报机制覆盖地图、地图评论、联机房间、房间内的聊天、群组、动态、动态评论、个人中心(包括相册、头像、自定义装扮)等各个维度;并通过建立用户信用值、发布 “利剑行动”账号封禁公示详细信息。针对极其恶劣的内容散播现象,《迷你世界》积极配合有关部门进行举报与证据工作。 

  加快研发从严治理  不清理完不开放 

  通过各种积极措施,《迷你世界》已初步搭建了切断不良信息传播链的工作流程,并在实践过程中阻拦了海量不良信息的曝光传播。然而,与网络犯罪行为的斗争是长期战,犯罪分子在严格的审核与打击下可能暂时蛰伏,但不会停止寻找机会突破封锁绕过审核。对此,在2019年下旬,《迷你世界》开始投入升级版审核系统研发工作。2020年3月份,国家网信办发布《网络信息内容生态治理规定》,《迷你世界》积极响应。加快研发的新版内容审核系统,对内容组合有更全面的判定,跟之前的简单的过滤相关字相比更加智能化,提升了至少十倍的审核效率,除此之外,《迷你世界》也落实以创新开发优化信息推荐机制,并对内加强内容生态管理。目前该审核系统已上线试运行。 

  《迷你世界》在整改中通过暗访发现,有不法分子团伙集中针对包括《迷你世界》在内的国内多个青少年聚集的内容、游戏平台,进行招揽引诱。将其诱导到其他平台聚集后,还会进行用户审核,要求其对该引诱信息进行二次传播,才能加入。 

  经过暗访掌握一定证据后,《迷你世界》于4月7日起即时关闭地图评论区,进行内容自查与整改,并第一时间发布不良内容处理公告;同时,《迷你世界》从后台锁定了部分关键信息,并将用户举报、暗访结果留存,目前正配合有关部门进行积极取证。《迷你世界》表示,在彻查整改结束前,坚决不开放内容评论区域,并进一步加大人力投入,明确职责,积极收集后台资料与证据留存,与有关部门进行接洽沟通,不惜一切代价把不良内容扫地出门。

  “阳光计划“不停 提升青少年“内容免疫力”

  青少年作为认知尚未成熟的个体,面对不法分子的侵害更是脆弱。作为广受青少年用户欢迎的沙盒游戏平台,《迷你世界》早在2018年就发布《青少年游戏指导阳光手册》,并陆续推出了包括实名认证、防沉迷系统、不良信息过滤一系列措施“阳光计划”,并在实施过程中逐步升级,补充完善保护措施。 

  近日,《迷你世界》推出《青少年游戏指导阳光手册》2.0版本,提出“三拒绝”即拒绝陌生人的“黑手”,拒绝诈骗,拒绝谣言;并引导“三学会”,倡导大家学会理性、学会判断、学会求助,进一步引导广大青少年清晰了解到不良信息的危害,加入维护游戏健康环境的行列。

  持续完善的“阳光计划”,是为引导青少年产生“内容免疫力”的积极措施,也是 “净网2020”与“护苗2020”的积极相应。《迷你世界》认为,“阳光计划”不仅在《迷你世界》有效,也能够在游戏以外的网络环境中持续守护着他们,辨别不良信息保护自身,识破犯罪分子的糖衣炮弹。 

  上线至今,《迷你世界》投入大量正能量传播相关工作,并与多个业内的生态合作伙伴积极探索未保工作,培养优质内容主,倡导UGC生态对正能量进行传播。持续以功能性游戏为发展目标,在游戏的过程中提升多方面的科普知识与兴趣培养,关注和支持教育游戏研究,积极促进青少年用户的身心健康发展。

  *游戏内益智教育内容

  *《迷你世界》内容主发布阳光计划学习视频,倡导健康游戏 

  守护未成年人身心健康是国家政策,是社会共识,更是游戏等文化企业的首要责任。为履行游戏经营单位的经营义务,提供更优质的产品和服务,为青少年用户提供清朗、健康的网络环境,《迷你世界》将不断加强创新内容建设和生态管理手段,保障未成年人健康成长。

Top