yy世界杯直播(开赌局、砍手指、萝莉变大妈!直播间乱象不断,平台如何阻止翻车)

砍手指、吃蜈蚣、开设局、“萝莉变大妈”······在先播后审的监管规则下,低俗、暴力、涉等直播内容仍不时在直播平台出现,直播平台内容合规化道路仍然艰巨。

除了技术手段之外,还有哪些办法能够有效监管、抵挡不良内容?南都记者近期采访了部分相关人士。

yy世界杯直播(开局、砍手指、萝莉变大妈!直播间乱象不断,平台如何阻止翻车)

近期,南方都市报对斗鱼、CC直播上有主播借网游《问道》《梦幻西游》等游戏开设场等现象进行了系列报道。报道后涉事直播平台对相关主播进行了封号、禁播等处理。

早在2007年,公安部等四部委就联合发出了《关于规范网络游戏经营秩序查禁利用网络游戏博的通知》,其中明确规定不得提供将游戏虚拟货币兑换成法定货币的服务、不得收取或以“虚拟货币”等方式变相收取与游戏输赢相关的佣金等。因此,“双向兑换”和“抽佣”被视为判定网络游戏是否涉的两大红线。

据北京志霖律师事务所副主任、中国电子商务研究中心研究员赵占领律师介绍,对于直播平台或者网络游戏中的游戏虚拟物品竞猜是否涉嫌构成博,需要从3个方面进行判断。一是参与竞猜的资格如何获得,“涉前提之一是用现金或者通过虚拟货币来购买竞猜资格。如果竞猜资格是免费获得,则不构成博”。其次,是竞猜获得的物品本身能否变现。最后是看网络服务商对于竞猜所得物品是否提供了变现的渠道,“为用户之间转让竞猜所得物品提供交易平台,也涉嫌构成开设场。”

为何直播间涉屡禁不止?有分析师表示,由于微信等在线支付平台的普及,资兑现往往也是通过第三方平台。因此,在监管层面存在较大难度。此外,直播间游戏涉行为具有隐蔽性与多样性,网络游戏中任何玩法都有可能被不法之徒利用,沦为博工具,“说白了就是啥都能”。

yy世界杯直播(开局、砍手指、萝莉变大妈!直播间乱象不断,平台如何阻止翻车)

斗鱼《梦幻西游》板块页面截图。

广州某知名直播平台的工作人员向南都记者表示,从游戏层面来说,对这类情况是无法预防以及杜绝的,毕竟就网络游戏的玩法而言是完全合法合规的,而所有的违规内容都是发生在网络游戏之外,比如在微信群、QQ群等社交平台进行投注。“这个就像是世界杯、欧洲杯的外围盘,国际足联、欧足联等是无法杜绝的一样”。

此外,上述工作人员还表示,证据搜集的流程也影响着平台打击网络博的成效。据其介绍,由于许多违规内容都是发生在直播平台外,直播平台提供的资料往往不能充当博的证据。而警方需要调取其他平台的聊天记录才能进行判定,但其他平台一般不会开放这类信息,“即使能够查询到收付款流水,也只能证明是抢红包等个人行为。”

直播平台中,还存在注册实名信息与开播用户信息不一致的情况。由此,也给直播监管带来难度。

yy世界杯直播(开局、砍手指、萝莉变大妈!直播间乱象不断,平台如何阻止翻车)

8月6日0:00左右,Pgone前队友、嘻哈团队“红花会”成员贝贝在一直播平台直播,过程中突然砍下手指,并对着视频展示断指。

8月6日凌晨“红花会”成员贝贝在直播中砍手指后,事件迅速发酵,也登上当日微博热搜。尽管一直播的主播注册环节涵盖实名认证和人脸认证,但南都记者发现仍有漏洞存在。南都记者实测发现,在一直播平台,同一个人的身份信息只能注册一个直播账号。尽管注册中有人脸识别,如果直播时的用户并不是实名认证时上传信息的用户,平台也并不会出现提示信息或者停止直播。

一直播方面向南都记者表示,目前主播实名认证采取后台实名、前台自愿的原则。一直播对主播有AI人脸检测,但因为直播的特殊性,其过程中经常出现场景和人物的变化,“要对整个直播过程都进行人脸识别检测,以现有技术仍然存在一定难度”。

由于直播的即时性特征,直播平台对直播间的监管一般都是“先播后审”,其中事中监督环节是重中之重。但据了解,违规的直播有多种类型,如涉黄、广告、侵权、博、暴力等,并且直播间规模庞大,人工以或标准化的审核模型难以精准识别,误判、漏判的概率较高。

YY直播方面向南都记者介绍称,目前YY直播的审核机制以“AI识别 人工审核”的搭配为主。其中,借助AI视觉识别等方面的技术,YY直播大量审核工作交给AI技术处理, AI能够实时进行图像识别、音频识别、文字识别等行为,拥有数十个违规判断模型,只需数秒内即可发现违规内容。此外,还配合上千人的人工审核团队进行巡查。

此外,在直播期间,YY还会对直播地区、场景、内容品类等进行采集,利用大数据分析发现开播的异常,会安排巡查人员对主播核实,此时也可能触发人脸分析技术,向巡查人员提供参考信息。

yy世界杯直播(开局、砍手指、萝莉变大妈!直播间乱象不断,平台如何阻止翻车)

YY平台关于大家违规直播内容的公告。

许多违规内容通常都是在直播过程中才能发现。那是否存在提前预防与检测违规行为的可能性呢?

YY直播向南都记者透露,在主播开播时,YY直播对其开始进行大数据运算,分析预测本场直播内容的风险;同时会对房间用户公屏讨论内容进行语义分析,从整体讨论氛围中去预测主播的行为风险。

此外,大数据也应用在直播监管领域。一直播表示,会综合网友留言、过往直播是否存在问题等因素进行管理。为了最大限度的确保直播内容合法合规,一直播对用户有分级分类管理,并设有灰名单、黑名单等机制,也会对曾经出现过违规行为的主播加强审核。

一直播方面还向南都记者表示,针对直播间的涉、涉黄等违规行为,目前平台和监管部门、行业协会都有联动机制。一旦发现违法违规内容,平台都会进行信息的上报,配合相关部门进行处置,情节严重的还会通过行业协会,把主播直接加入到全网直播黑名单。

值得注意的是,在8月6日,中国演出行业协会网络表演(直播)分会发布向社会公布第三批主播黑名单,登上热搜的“乔碧萝殿下”和“红花会贝贝”。被列入黑名单的主播将在行业内禁止注册和直播,封禁期限5年。

yy世界杯直播(开局、砍手指、萝莉变大妈!直播间乱象不断,平台如何阻止翻车)

8月6日,中国演出行业协会网络表演(直播)分会发布向社会公布第三批主播黑名单。

中国演出行业协会网络表演(直播)分会表示,各直播平台第一时间向分会上报了劣迹主播信息及其违规证据,分会组织内容评议委员会专家组进行审核,并经分会会长联席会讨论通过,正式确定了第三批网络表演(直播)行业主播“黑名单”。其中,分会会将列入“黑名单”的主播信息实时同步各会员直播平台,各平台统一禁止其注册和开展直播活动。

据了解,主播“黑名单”是指在直播过程中含有禁止内容,严重违反网络直播有关法律法规,造成不良社会影响的主播名单。该名单来源主要由三部分组成:一是被各平台列入永久封禁并主动上报的主播;二是经社会举报并被核实的主播;三是被文化行政部门和文化市场综合执法机构等政府监管部门查处的主播。

此前,分会已陆续通过官方公众号公布了两批63名“黑名单”主播,被列入黑名单满5年的主播,可移出黑名单。5年后本人拟继续从事直播工作的,可向相关直播平台重新申请注册,具体是否同意开播由各平台自行决定。

采写:南都见习记者 陈培均 汪陈晨