本文2019年6月6日发表于《中国青年报》第7版，作者来自江苏省预防青少年违法犯罪工作研究基地
移动互联网时代，借助“互联网+”浪潮，我国在线教育机构如雨后春笋般涌现，大量面向中小学生的学习教育类APP也随之进入移动应用程序市场，被不少学生及家长安装和使用。学习教育类APP为学生提供了丰富的课程、题库等教学资源并制订了个性化的学习方案，在辅助教育教学、助益学生学习方面发挥了积极作用，被称为一块可以改变孩子命运的“屏幕”。
然而，由于非法利益诱惑、企业自律意识薄弱、主管部门监管不严等复杂原因，导致学习教育类APP野蛮生长，提供的内容良莠不齐，“屏幕”背后乱象丛生。今年年初，新闻媒体屡屡曝光以中小学生为受众的“作业狗”“互动作业”“口袋老师”等多款学习教育类APP充斥着色情低俗图像、暴力游戏广告、网络虚假信息、价值观扭曲言论等不良内容，借此引诱未成年用户注意，争夺数据流量和商业利益，此类行为严重侵害了未成年人的身心健康。
团中央权益部与中国互联网络信息中心联合发布的《2018年全国未成年人互联网使用情况研究报告》显示，截至2018年7月，我国未成年人网民数量达到1.69亿，未成年人的互联网普及率达93.7%。未成年人已成为网络空间最活跃的群体，而以万物互联、智能匹配、个性化订制信息为特征的Web3.0时代对未成年人的影响也在日益加深。东南大学“护航‘网生代’——Web3.0时代未成年人网络权益软性保护路径研究”项目组通过对未成人遭受不良信息侵害问题进行持续跟踪调查研究发现，随着互联网在我国的发展以及移动上网终端的普及，网络不良信息已成为影响未成年人网络安全的主要隐患之一，有58.7%的被调查未成年人表示曾在上网过程中接触到色情、暴力、诈骗、赌博、吸毒等违法信息，其中在小学阶段首次接触网络不良信息的占比47.1%。正处于价值观形成关键时期的未成年人普遍心智尚未成熟、社会经验不足、辨识与自控能力较弱但模仿学习能力强，网络不良信息所宣扬的错误导向会引起未成年人的猎奇心理与模仿行为，影响未成年人的价值判断，甚至诱发未成年人误入歧途而走上违法犯罪道路。
近日，中国社会科院新闻与传播研究所、中国少年儿童发展服务中心等多家单位联合发布的《青少年蓝皮书：中国未成年人互联网运用报告（2019）》显示，超过七成的未成年犯在实施犯罪行为以前曾接触过暴力、色情等网络不良信息，有41.1％的未成年犯认为自己犯罪是受网络不良信息的影响。
习近平总书记在网络安全和信息化工作座谈会上指出：“互联网不是法外之地，要本着对社会负责、对人民负责的态度，依法加强网络空间治理，为广大网民特别是广大青少年营造一个风清气正的网络空间。”面对学习教育类APP暗含不良信息泛滥成灾的乱象，网信、教育、扫黄打非等部门加大监管力度，开展针对学习教育类APP的专项整治行动，加强对移动应用程序信息服务内容的巡查，约谈或处罚推送不良信息的程序运营方，清理下架违法违规情况严重的应用程序。运动式的专项治理行动在规范在线教育市场经营秩序方面初见成效，一定程度上遏制了学习教育类APP推送不良信息蔓延的态势。
然而，建章立制才是深化网络空间综合治理、预防未成人遭受网络不良信息侵害的治本之策。防范不良信息传播、保障未成年人网络安全的是在线教育企业应当承担的法律责任和社会责任。习近平总书记在全国网络安全和信息化工作会议上强调：“要压实互联网企业的主体责任，决不能让互联网成为传播有害信息、造谣生事的平台。”
为防止传播不良信息的学习教育类APP改头换面后死灰复燃，有必要建立黑名单制度，并实行动态管理，将保护未成年人网络权益、预防未成人犯罪的关口前移，做到防患于未然。黑名单制度要求所有学习教育类APP上架前均要接受主管部门的审查，审查通过的，予以核准上架；在日常运营过程中，APP若被用户投诉或者举报包含不良信息，经通知后仍未采取措施删除、屏蔽且查证属实的，由主管部门约谈程序运营方，责令限期改正；若程序运营方提请审查时提供的申报材料、测试样品存在弄虚作假的，或在运营期间故意制作、传播不良信息影响恶劣的，或同一个APP因违规被主管部门约谈两次以上的，直接将其列入黑名单，依法责令APP下架、注销和停止服务且两年内不再接受该程序运营方新开发的学习教育类APP的申报。此外，将列入黑名单的学习教育类APP在主管部门的门户网站上予以公示，定期更新名单，接受公众查询和监督。
学习教育类APP黑名单制度旨在为网络服务提供者划定必须遵守的底线和行为准则，通过加强对学习教育类APP的政府监管和社会监督，引导在线教育企业树立合规理念，增强自律意识，自觉规范经营行为，特别是运用机器深度学习、关键字标签归纳等技术及时扩充禁止推送事项数据库，过滤层出不穷的订制化不良信息，保护未成年人上网安全，为中小学生守护一片学习的净土。黑名单制度设立的用户举报渠道是以社会自主反馈制约网络服务提供者的违法行为，有利于培养未成年人自主辨别不良信息的能力，促使越来越多的未成年人从单纯被屏蔽、被保护的对象转变为主动参与不良信息治理的监督者，形成预防未成年人接触不良信息的良性循环机制。
网络空间是亿万民众共同的精神家园，更是“网生代”未成年人放飞梦想、健康成长的乐土。党的十九大报告提出，要加强互联网内容建设，建立网络综合治理体系，营造清朗的网络空间。建立学习教育类APP黑名单制度是新时代加强互联网内容建设的重要载体，有利于为未成年人健康成长提供安全的网络生态保障。当前我国正在研究制定的《未成年人网络保护条例》，应当考虑将学习教育类APP黑名单制度纳入其中，预防和治理隐藏在未成年人身边的网络侵害风险。
