直播平台的监控

图文来源: 互联网

发表于: 2014/07/12

1012 views

点击图片可看大图

从业人士将现在的在线直播市场分两大流派:一派是满足用户需求、有较大用户量和成型生态体系的;另外一派是在资本层面炒得较火、不断去烧钱。

按直播平台的主营业务类型可以粗略地分为以下5大类:游戏直播、秀场直播、体育直播、财经直播、泛娱乐直播

直播行业已经经历了秀场直播、游戏直播,再到现在的移动直播,但如今直播行业的盈利模式依然是基于粉丝经济。

以主播签约、虚拟道具打赏为主的盈利模式。

“吃着饭就把钱给赚了!”

曾经火爆韩国吃播界的美女主播DIVA,每天在家直播吃美食三小时,月收入居然高达约人民币5万元。这些吃播主播的高收入,来源于粉丝送的“礼物”。直播前她需要精心化妆打扮,架好摄像机、灯光和反射板,然后就可以将买好或做好的美食端到电脑前,准备在平台给粉丝直播吃饭了。

网络直播要逐步从众声喧哗、带有点自娱自乐性质的用户原创内容(UGC)走向专业水准极高的专业内容制作范畴(PGC),内容的长尾定律必然要过渡到内容的头部定律。

根据《互联网信息管理办法》规定:若涉事主播为平台签约,其行为则应属职务行为,直播平台应该承担管理责任。若主播仅为注册会员,在平台不知情前提下直播不雅视频,其个人将承担法律责任,但若平台知晓却放任不管,平台也应负管理责任。

“房管”是直播房间对管理员(内容审核员)的称呼。技术人员通过监控突然暴增的访问量和画面监控,可以最快关停问题视频。

比如人人直播后台审核,一张电脑屏平时可同时监管9个直播间;花椒直播目前采用的是双屏监控,同时可在线观察20路视频,在高峰期甚至会让每个审核员扩展到同时监管50路。

除此之外,各主流平台目前也都在不同程度采用人工智能做前期过滤,对于疑似存在问题的图像或语音内容进行标红提示。一直播就在同时采用人脸识别技术、爆恐音频过滤以及视频指纹过滤等方式来对人工审核进行辅助。

所有的平台,最主要的审核关注点无非是包括对主播的穿着、语言、房间布置等等是否违禁的判断,判断标准主要参考各家平台自制的内部规范手册,而且还在动态增补。

不同直播平台在具体操作方面会略有不同。有一直播这一类图文同审,也有花椒这种做影像与文字分离审核。林达告诉网易科技,由于审核规则设置极为细致,为个体做判断的过程增加了难度,所以花椒目前是专人专项做审核,文字、图片与视频分离,比如对于文字内容,要查看包括飘屏、评论、状态页介绍等内容,必要时甚至会查看私信。

敏感词库也是直播平台标配之一,并且各平台在日积月累实时添加大量敏感词。

还有一些内容是直播平台一般不允许触碰的,比如讨债,因为在这过程中极容易产生肢体或语言暴力。

当审核员看到主播在直播过程中有涉嫌违规时,对有触线倾向或轻度触线者会在后台给出警告提示,对于无视提醒或重度违规者则直接令其下线,给予几个小时到一个月,甚至永久封禁的处罚。

审核员需要在入职前经过一周到一个月时间不等的培训、考试,全部通过后,才正式上岗。而考核指标主要来自两方面:一是错误率,一是工作量。一个有一年以上工作经验的审核员,一般一天能审大概五到六千条视频。每天的工作相对比较枯燥,目前内容审核整个行业流失率高。

随着外界对直播产品玩法的熟悉程度深入,也出现不少隐蔽性较高的敏感信息传播方式,乍一看并没有明显违规,但仍存在问题。一直播平台内容审核员胡哲告诉网易科技,其操作方式一般是先看画面再听声音,并且会关注房间里评论的弹幕数量。“如果这个房间的弹幕和评论数量突然增加,那应该就会有些问题,要及时去判断。”

声音的识别是目前做内容审核的主要难点之一。比如高峰期,一个人可以同时盯两个屏幕上的50路视频,画面上出现的问题很直观;文字但凡触碰敏感词,敏感词条数会不断上涨,也很容易监控。但只有把鼠标放到一路画面上,才能分辨那一路视频的声音如何,而人工智能的语音识别准确率现在还远不到位。

内容审核员大多是22岁到26岁之间的年轻人,由于要7*24小时在线审核,所以工作时间往往为“三班倒”。薪酬方面以北京为例,初级审核员月薪一般在五千元左右。“外地会稍微更低,但基本上会比当地薪资水平线稍微高一点。”

网络平台涉黄涉暴谁来管?

记者致电工信部信息通信管理局互联网处,工作人员表示,内容管理归网信办负责。直播平台如有网站,则需要在该处备案,若是应用商店的APP,则通过应用商店管理。

网信办12377举报热线工作人员表示,APP如有问题则由其转给执法部门处理,包括工信部、公安机关、网信办三部门。

如果是违法犯罪,由公安机关处理,如果是淫秽色情、暴力恐怖,则由网信办处理。建立巡查、值班、举报机制,“在线接受举报的机制,按法律规定叫‘通知删除责任’”。

美国社交网站Facebook的内容审核员审查用户在直播过程中是否涉及仇恨言论、虐待儿童、谋杀、自残等暴力内容。

「黄鳝门」事件 ♥ https://twitter.com/woilgoo/status/844966676374335488
2017年3月,老虎直播平台女主播“琪琪”用黄鳝进行了一系列不可描述的事情,视频被上传后闹的沸沸扬扬,为黄鳝进化史添上了浓重的一笔。随后“扫黄打非”办公室协调公安部门对直播平台涉嫌传播淫秽色情信息一案进行了深入调查,包括事件女主播在内的多名涉案人员均被抓获。
“黄鳝门”的女主角名叫张X琴(琪琪),26岁,江西人,到浙江桐庐做生意,但是业绩并不好,后来接触到了直播。她听说做网络女主播来钱比较快,所以踏进了直播这个圈子。她做了一段时间的主播之后便遇到一个直播平台的工作人员,他告诉琪琪,只要暴露,内容尺度大就能获取更多的礼物,也能挣到更多的钱。琪琪照着做了以后,仅仅2个月就赚了9万多。
在这期间,琪琪也认识了一些出手大方的固定“金主”。有一天,一个老板点名要看“黄鳝表演”,还给琪琪包了个大红包,于是琪琪建了一个群给那几个人表演,她以为这件事就算过去了。没想到后来视频会被上传到网上,于是接下来就是大家熟悉的剧本——「黄鳝门」事件了。