导语

近日,“互动作业”App的微信公号“作业小互”被媒体曝光有大量不雅、性暗示的内容,引起了社会的广泛关注。近些年,因为互联网行业的高速发展,内容生产的门槛降低,大量优质内容出现的同时,一些“涉黄”等问题内容也随之而来,这些内容也逐渐渗透到了教育行业,这次的曝光也并不是教育行业首次出现类似的问题,对于拥有内容分发能力的互联网平台,类似垃圾内容的监管已经是绕不开的问题,我们产生了一个疑问:教育产品解决涉黄的问题究竟有多难?

一.

“问题内容”为什么会大行其道?

“涉黄”内容这件事其实从互联网诞生之初就已经存在了,至于这么多年状况没有改变的,是因为人性本身没有发生改变。

1、人性问题。产品的运营方从运营数据的角度来说,这类垃圾内容相比学习内容显然更吸引眼球,更容易做出高的数据,同时扩大产品的“商业价值”,能够带来可观的曝光量和下载量,拉动人气和各项数据,因此很多人“铤而走险”也要一试。但是这里的增长并不是持久的增长,与产品的目标尤其是教育产品的目标是相违背的。

2、“涉黄”边界模糊难以准确界定。此次被曝光的账号里充斥着大量低俗及挖苦老师的不良内容,含有“网恋”“污”“早恋”等字眼的标题党文章被多次推送。在《私底下的你们原来是这样的人》《现在网恋真的很严格,劝大家千万不要轻易尝试》等多篇推文的精选留言区中,还出现了“看黄片”、“做爱”等字眼。负责人称:“内容不算涉黄,仁者见仁”,“成人看没问题,只是不符合青少年。”没有明确的法律界定给后续的事件处理上带来了很多的困难。

3、监管松懈、处罚力度不足。从监管方面来说,通常情况下较为后置,历次的教育产品涉黄事件中,都是在媒体曝光之后,监管机构介入。然而处罚力度并不高,通常情况下仅仅是暂时封号和小额罚款了事,违法成本很低。《治安管理处罚法》第六十八条 制作、运输、复制、出售、出租淫秽的书刊、图片、影片、音像制品等淫秽物品或者利用计算机信息网络、电话以及其他通讯工具传播淫秽信息的,处10日以上15日以下拘留,可以并处3000元以下罚款;情节较轻的,处5日以下拘留或者500元以下罚款。《互联网站禁止传播淫秽、色情等不良信息自律规范》也做了相关规定,但是其法律效力和处罚力度也稍显不足。

二.

人工还是机器?如何解决涉黄问题

似乎大家现在已经达成了共识,解决内容审核的问题一定是要依靠机器+人工的方式。说到如何解决“色情”“暴力”等垃圾信息,今日头条应该是最有经验的公司之一了,今年5月的一场大会上,今日头条媒体合作总监潘宇介绍了目前头条的情况:23000名员工的今日头条,其中10000人是负责内容审核的,也就是说,头条组建了一个庞大的审核团队,7乘24小时不间断监控、审核,具体到每一帧的画面,以及各种评论内容,营造符合社会主义核心价值观的正能量生态。同时还包括了400人的人工标注团队,提升算法效率。

我们了解到,人工审核的遗憾在于效率,头条每天50万条内容全部交由人工来筛的话,一个人需要工作500天才能看完,机器则只需要90分钟。此外,内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器也存在局限性,识别容易“一刀切”。

当前人力成本居高不下,对于一个教育互联网公司可能还没到100人,几乎不可能再组建一支近百人的审核团队,另外从产品角度来讲,它是希望有更多的用户和活跃度的,严厉的审核标准可能一定程度上会影响产品的发展。因此基于这两个角度考虑,产品本身解决涉黄内容的意愿并不会那么强烈。甚至一定程度上纵容此类内容的发展,就会出现文章一开始这样的情况。

在互联网行业中,并不是没有通过“灰色地带”“打擦边球”迅速起来规模,后期进行洗白转型成功的案例。然而在教育行业是决然不可能行得通的,你的教育属性决定了家长不会给你第二次机会伤害他的孩子,原罪是难以洗白的。