“内容管理进化”？全球视频直播巨头直击审核难

近来，儿童动漫视频领域一度成为传播不良信息的重灾区。据监管部门通报，自2017年底开始，一些以唐老鸭、蜘蛛侠等经典卡通角色为主角，经过“二次创作”的“邪典”动画片，已通过互联网流入国内多家视频网站。

通常，“邪典”动画片隐藏于“亲子”、“早教”等的合法外衣之下，实则传播暴力、涉黄等诸多儿童不宜的内容。

2018年2月6日，全国“扫黄打非”办公室组织腾讯、快手等16家互联网公司，就网络有害出版物特征值共享数据库召开年度第一次工作会议。

会议围绕处置清理儿童“邪典”动画视频等方面工作，对各公司落实企业主体责任，特别是中小学在寒假和春节期间加强自律清查提出要求，一场监管风暴来临。

文化“洋垃圾”频频入境

根据通报，广受社会关注的广州胤钧贸易有限公司制作传播儿童“邪典”动画视频案件，已交由广州市天河区公安机关刑事立案查处。

自此，由境外传入并经“汉化”后大范围流入中国，毒害中国儿童的“儿童邪典片”呈现阶段性打击成果，彰显出政法执法部门对此类视频的“零容忍”态度。

2017年底，西方主流媒体曝光“艾尔莎门”事件（“邪典”视频中的主角为《冰雪奇缘》女主角艾尔莎公主而得名），迅速引发西方社会激烈的争论。

在视频领域，如何鉴别并审核此种可能骗过机器算法甚至人工审核的视频，一时成为争论的焦点。

此类问题并非YouTube独自面对，中国互联网领域面临更多、更棘手的相关问题。数据显示，中国正以7.51亿网民数位居世界第一，普及率达55.8%，美国以近3亿网民人数居第二。

更值得重视的是，在硬件（智能手机）和软件（4G网络、WIFI）的发展及普及下，中国移动互联网已进入“井喷式”发展阶段，甚至在农村地区，儿童用手机刷视频的场景也随处可见。

在中国视频网站中，“儿童邪典”视频事件也掀起层层波澜。多家媒体曾对此报道称，这些“洋垃圾”入境后，竟然开始被“本土化”，不仅有国外视频“搬运”后的汉化，还有各仿制拍摄、制作的视频生产。随着互联网大数据和算法的客观作用，这些视频可能会“越看越多”，甚至“永远看不完”。

全球视频业面临“审核边界”

截至发稿时，国内相关视频发布平台均已进行整改下架。尽管搜索关键字仍可看到相关视频留下的蛛丝马迹，绝大部分已经无法打开观看，但留给业界的是审核难题。

“关于视频审核，就我所知，行业已在积极推进。”一名业内算法工程师坦言，“更困难的是直播审核。”

中国互联网协会相关人士也指出，“（在直播平台上）由于主播的直播行为具有即时性的特点，也给平台方的审核带来一定难度。”

短视频内容审核已是“全球性难题”。“儿童邪典”事件发生后，YouTube的 CEO Susan Wojcicki曾表示，2018 年公司将把人类审查员的数量增至 10,000 名，以遏制不良内容。

但形势依旧不容乐观。海外知名媒体BuzzFeed NEWS通过采访发现，YouTube 系统仍存在不少问题，并存在一些令人难以理解甚至有时自相矛盾的评级准则。

来自业界、学界及法律界人士并非杞人忧天。当前，腾讯、阿里巴巴、滴滴等成为全球互联网标杆企业的同时，以快手为代表的短视频平台正在迅速崛起，不仅吸引到巨大的流量，引起资本界的瞩目，其内容审核难度更大、技术要求更高。

在视频内容的审核和管理当中，最基本的要求必须遵循国家相关的法律法规，但审核工作中却存在“模糊地带”。

据业内人士举证说，猴子是不是可以当宠物养、海龟是不是可以随意捕捞？诸如此类问题都曾触发广泛社会争议。根据《中华人民共和国野生动物保护法》的规定，中国并没有允许个人饲养宠物猴。这意味着，无论是否是在合法商贩处购买，均属于违法行为。

在公众舆论看来，此类问题却是“稀松平常”。只要搜索网络，诸如“女子公园遛猴子，个人饲养宠物猴属于违法行为(图)”等新闻并不鲜见。

无疑，中国社会各界需要达成广泛的共识，以在法律、道德、价值观甚至审美等多个维度上实现最精准的界定和最有效的平衡。

领跑“内容管理进化论”

根据官方介绍，快手是一家日活用户已过亿、人均日使用时长超过一个小时的短视频平台，每天有1000多万条原创短视频上传，累计超过40亿条原创视频。

2018年1月28日，快手通过微信公众号披露违规用户及内容处罚情况透露，该平台1月份平均每天清理违规内容超过42万条，每天处置有效视频类举报1.8万条。

由此，短视频内容管理工作之巨可窥见一斑。

“对执法机关来说，应该建立多部门的联合监管机制，形成强有力的监管，对涉及儿童的影视视频等应该细化分类管理，实施分级制度。”女童保护基金管委会委员、《中国经济周刊》记者徐毫曾撰文指出，“对网络平台来说，也应该完善自查机制，畅通举报渠道，强化反应机制，充分利用技术筛查和人工干预，决不能让有害的内容传播，更不能为了“流量”而不顾道德法律。”

作为短视频领域的领头羊，快手已经走在内容管理的前列。近日，快手联合浙江大学达成协议，共同探寻视频领域内容管理的规则这一“世界性课题”。

无疑，快手将借助浙江大学在公序良俗方面的学术积累，为整个短视频行业摸索出一条可行道路，并对内容管理提供空前完备的规则借鉴。

业内普遍认为，就短视频内容管理，短视频平台积极联手科技界、学界进行深入研究和探索，这确系一次有益的尝试。

近年来，针对涉及暴力、色情等违法有害内容零容忍，快手建有数以千计的人力和服务器组成的7x24小时全职内容评级团队。

此外，快手还成立行业首家“社区自律委员会”，邀请知名学者、媒体人和普通用户共同参与对快手的监督；在平台内设置了完善的用户“一键举报”功能，并在网站首页进行公示24小时举报电话及邮箱。

“我们已建立了业内领先的多级处罚手段和标注体系，并已取得初步成效，同时也正在借助外部力量，联合社会各界相关机构一起推动短视频内容管理的课题研究。”快手一名负责人透露。

作为一家注册用户数亿的平台，快手的影响力越来越大，正积极担负平台管理责任和更多的社会责任，成为短视频领域规范发展的标杆。