教育产品解决涉黄问题究竟有多难？

导语

近日，“互动作业”App的微信公号“作业小互”被媒体曝光有大量不雅、性暗示的内容，引起了社会的广泛关注。近些年，因为互联网行业的高速发展，内容生产的门槛降低，大量优质内容出现的同时，一些“涉黄”等问题内容也随之而来，这些内容也逐渐渗透到了教育行业，这次的曝光也并不是教育行业首次出现类似的问题，对于拥有内容分发能力的互联网平台，类似垃圾内容的监管已经是绕不开的问题，我们产生了一个疑问：教育产品解决涉黄的问题究竟有多难？

一.

“问题内容”为什么会大行其道？

“涉黄”内容这件事其实从互联网诞生之初就已经存在了，至于这么多年状况没有改变的，是因为人性本身没有发生改变。

1、人性问题。产品的运营方从运营数据的角度来说，这类垃圾内容相比学习内容显然更吸引眼球，更容易做出高的数据，同时扩大产品的“商业价值”，能够带来可观的曝光量和下载量，拉动人气和各项数据，因此很多人“铤而走险”也要一试。但是这里的增长并不是持久的增长，与产品的目标尤其是教育产品的目标是相违背的。

2、“涉黄”边界模糊难以准确界定。此次被曝光的账号里充斥着大量低俗及挖苦老师的不良内容，含有“网恋”“污”“早恋”等字眼的标题党文章被多次推送。在《私底下的你们原来是这样的人》《现在网恋真的很严格，劝大家千万不要轻易尝试》等多篇推文的精选留言区中，还出现了“看黄片”、“做爱”等字眼。负责人称：“内容不算涉黄，仁者见仁”，“成人看没问题，只是不符合青少年。”没有明确的法律界定给后续的事件处理上带来了很多的困难。

3、监管松懈、处罚力度不足。从监管方面来说，通常情况下较为后置，历次的教育产品涉黄事件中，都是在媒体曝光之后，监管机构介入。然而处罚力度并不高，通常情况下仅仅是暂时封号和小额罚款了事，违法成本很低。《治安管理处罚法》第六十八条 制作、运输、复制、出售、出租淫秽的书刊、图片、影片、音像制品等淫秽物品或者利用计算机信息网络、电话以及其他通讯工具传播淫秽信息的，处10日以上15日以下拘留，可以并处3000元以下罚款；情节较轻的，处5日以下拘留或者500元以下罚款。《互联网站禁止传播淫秽、色情等不良信息自律规范》也做了相关规定，但是其法律效力和处罚力度也稍显不足。

二.

人工还是机器？如何解决涉黄问题

似乎大家现在已经达成了共识，解决内容审核的问题一定是要依靠机器+人工的方式。说到如何解决“色情”“暴力”等垃圾信息，今日头条应该是最有经验的公司之一了，今年5月的一场大会上，今日头条媒体合作总监潘宇介绍了目前头条的情况：23000名员工的今日头条，其中10000人是负责内容审核的，也就是说，头条组建了一个庞大的审核团队，7乘24小时不间断监控、审核，具体到每一帧的画面，以及各种评论内容，营造符合社会主义核心价值观的正能量生态。同时还包括了400人的人工标注团队，提升算法效率。

我们了解到，人工审核的遗憾在于效率，头条每天50万条内容全部交由人工来筛的话，一个人需要工作500天才能看完，机器则只需要90分钟。此外，内容审核工作的主要难点在于边界。在一定程度上，对于低俗低质内容的判定，人工操作有主观性，而机器也存在局限性，识别容易“一刀切”。

当前人力成本居高不下，对于一个教育互联网公司可能还没到100人，几乎不可能再组建一支近百人的审核团队，另外从产品角度来讲，它是希望有更多的用户和活跃度的，严厉的审核标准可能一定程度上会影响产品的发展。因此基于这两个角度考虑，产品本身解决涉黄内容的意愿并不会那么强烈。甚至一定程度上纵容此类内容的发展，就会出现文章一开始这样的情况。

在互联网行业中，并不是没有通过“灰色地带”“打擦边球”迅速起来规模，后期进行洗白转型成功的案例。然而在教育行业是决然不可能行得通的，你的教育属性决定了家长不会给你第二次机会伤害他的孩子，原罪是难以洗白的。

↓ 更多文章 ↓