近日,第28届中国国际广播电视信息网络展览会(CCBN)在北京中国国际展览中心召开。今年大会聚焦政策宣贯、技术引领、产业发展等方面,邀请广播电视和网络视听、通信、互联网、信息安全等领域的专家、企业等对相关政策及技术发展趋势进行分析与解读。
于5月28日举办的CCBN人工智能论坛上,网易易盾解决方案总监李加正以《赋能智慧内容 引领清朗视听》为题发表演讲。他表示,在媒体视听创新发展的新时代,大屏业态百花齐放,广播电视和互联网视听的绿色健康内容优势正在将更多用户吸引回大屏端,广电传媒业理应站在全社会数字内容发展视角,提升技术能力,肩负社会责任,成为健康视听的时代领导者。
以下为演讲内容:
移动互联网的商业化和诱惑力时刻冲击着用户眼球,大量充满诱惑、未经核实、无序发布的内容影响着国家安全、社会稳定,特别对青少年健康造成严重不良影响。这也正是教育部办公厅在今年1月份发布《关于加强中小学生手机管理工作的通知》的原因。
如何管理孩子玩手机,一些家长的答案让电视人看到了希望。同样是电子产品,电视媒体的健康内容、全新收看体验和灵活的管理功能正在无形中颠覆着人们的认知。广播电视代表着正能量,新闻主持和综艺内容专业度高,影视恢宏大气,娱乐科教知识丰富,电视让家人互动,让孩子积极向上。广电传媒的健康内容生态也体现在极致的超高清影视体验,全程无忧的在线电商,精挑细选的短视频中,引领着健康娱乐空间的发展。
尽管互联网内容治理正在取得长足进步,但互联网“抵制不良诱惑、避免过度沉迷”的斗争仍将长期存在,大屏或正迎来最好的发展契机。
互联网内容通常是先发后审,事后监管。而广播电视内容首先是要符合道德规范、社会舆论、法律法规、行业制度要求,在内容纠错、版权审查、播出合规、广告合法方面亦不能越雷池半步。
近年来,网信办联合广电总局等多部委在网络空间的内容治理方面陆续出台了多项指导意见和通知,对网络直播、网络秀场和电商直播、网络短视频等提出明确的管理要求。
对广电媒体来说,现行的人工内容审核机制保护了内容,却也牺牲了时效和丰富度。传统审核面临的难题是内容量剧增、部分违规内容靠人已难以分辨。同时,海量历史内容也是优质数字资产,支撑着日常的内容生产和运营。AI技术支撑的内容审核和内容识别技术成为内容治理的当务之急。
同样在近几年,广电没少接触AI审核,往往因为审核效果达不到要求而不能放心使用。一套好用的审核系统仅有优秀的算法还不行,还要辅以完整的审核模型和策略沉淀。网易易盾经过长期的技术和实践沉淀,总结出一套算法先进、模型完整、策略完备、人机结合的高效审核方案。依托数十亿图文和音视频有害特征库,通过智能策略匹配和模型定制,为广电内容审核量身定制了解决方案。
模型库的沉淀是个长期过程,更需要大量样本学习。某些有害内容样本的获取通常很难,漏检就会带来重复工作量。为此,网易易盾采取了小样本增广方法,提取该样本有害信息特征后,通过部分切图、反转、模糊化等方式获取初始训练集,与海量无标签数据融合后反复训练,达到样本增广的目的,单个样本的模型训练周期可压缩到1~2天以内,如果是基于陌生人脸的样本训练,提供正面侧脸等样本数据后,可以做到实时训练和检测,大幅提升了审核效果。
真实的审核场景下,垃圾率并不高,单一内容特征检测的计算量很大,易盾归纳了多模型融合分层计算方法,将不同模型的局部特征和全局特征融合,结合深度定制网络和特殊场景下的定制网络特征,能够在保证召回率的前提下节省90%运算能力。在单个场景下,通过同时分析内容特征向量、用户行为向量和用户关系向量,进行空间学习,就能顺利地分解出涉政、谩骂、吃播、涉价值观等等各种分类标签,大大提升了有效召回率。
20多年来,网易公司一直深耕互联网内容安全领域,技术实力得到了中央网信办、工信部、公安部等多部委认可,在语音、短视频、侧脸识别大赛中多次斩获第一名。
2020年度,网易易盾实现全年检测数据4116亿次,有害信息拦截425亿次,新提炼有害特征信息12亿条。网易易盾参与编写了人社部、公安部、中国电子学会等的内容安全标准和职业技能标准,也在学习和参与广电总局基于区块链的内容审核标准体系,网易易盾目前已经服务了上海电视台、广东电视台、人民网、新华网、南方新媒体、北京海淀融媒体等广电和传媒业客户。
并在本周,网易易盾联合腾讯安全、阿里云安全共同发起了“互联网内容安全联盟”。我们意识到,单靠某一家企业很难改变内容安全现状,我们将携手推进技术创新和行业标准制定,期待在相关管理单位的指导下,构建清朗的网络空间。
网易公司立志于以领先AI能力和行业定制化方案服务好广播电视和互联网视听行业,为适应广电的新老业态以及不同工作岗位的审核需要。
为此,易盾分别封装了融媒体审核方案、短视频/长视频审核方案、互联网直播审核方案、赛事敏感内容辅助识别方案、智能电视墙审核方案、历史数据审核和识别方案等,将人工智能技术充分应用到了安全保障到数字资产管理、内容运营的各个环节中去。
我们期待在总局的指导下,携手广电从业者,将健康的内容管理体制机制代入到数字文娱、电商、教育等产业中去,共同护航广阔的内容空间!