上周，“2024爱分析·央国企数字化最佳实践案例”评选活动落下帷幕。
数字化咨询机构爱分析对央国企在落地过程中面临的需求与挑战、具体的解决方案、平台落地后的效果，以及相应的建设经验进行详细的研究与评估，经过申报、初评、调研、终评多轮角逐，最终评选出本年度12个具有参考价值的创新案例。
其中，上海申通地铁集团有限公司联合网易易盾成立的“上海地铁AI应用孵化创新工作室”推出的“基于AI技术PIS系统内容审核系统”成功入选，成为榜单中唯一一个在数字内容风控场景下助力央国企数字化的最佳实践案例。
01 共建千万乘客安全智行体验
央国企的信创数字化转型是基于国家信息安全和自主创新的战略需求，旨在通过采用国产软硬件和新一代信息技术（如云计算、大数据、人工智能等），全面提升企业的数字化、网络化和智能化水平。
这一转型不仅是为了应对信息安全挑战和国际竞争压力，还通过国产化基础设施的替代和技术生态的构建，推动企业自主创新，优化业务流程与管理模式，进而提升核心竞争力。
转型过程需要分阶段、分层次地推进，确保系统平稳过渡、合法合规，同时通过央国企的示范作用带动行业整体进步。
在地铁出行的场景中，城市轨道交通乘客信息服务系统（简称：PIS系统）会显示列车的到站时间、终点站以及车厢拥挤情况，帮助乘客做出候车决策。随着国内对于公众屏幕内容安全重视，对于拥有数千块PIS显示屏的城市轨道交通场景，自动化内容审核的需求越发强烈。
耗时5个月后，上海申通地铁集团有限公司联合网易易盾成立的“上海地铁AI应用孵化创新工作室”推出的“基于AI技术PIS系统内容审核系统”已正式上线，并投入使用。
在推进“PIS系统内容审核系统”研究过程中，“上海地铁AI应用孵化创新工作室”各成员单位基于AI+安全理念，联合打造了城市轨道交通乘客信息服务系统（PIS）智能内容审核系统。该系统深度挖掘了大语言模型在城市轨道交通行业的应用潜力，探索其在内容智能检索、自动实时对标以及应急决策处理等方面的应用，并完成研发任务及产品化能力。
上海申通地铁基于AI技术的PIS系统内容审核系统在建设成功后，可以实时获取系统中传递的原始视频流，检测画面中是否包含色情、涉政、暴恐、辱骂等不良内容，确保信息传播的正面影响。一旦发现非安全内容，根据违规内容的疑似程度做出包括直接熔断、告警等不同级别的响应操作。
并且，通过实时获取PIS系统中的媒体信息，利用AI技术智能识别信息内容，确保信息传播的正面影响。系统的整体反应速度在5-10秒以内，有效解决了人工审核工作量大、判断标准主观、处置反应速度慢的问题。
02 服务央国企数字内容安全走深向实
近年来，网易易盾在服务央国企数字化转型方面增加人力物力投入，除交通出行行业外，还在金融、运营商、广电传媒等行业场景已深度服务大量央国企客户，助力其在数字内容风控乃至网络安全场景下向深向实转型。
以金融行业为例：
金融业因其特殊性，在数字化的过程中，除了需要遵循《广告法》、《消费者权益保护法》等外，还需要特别遵循《中华人民共和国证券法》、《中华人民共和国证券投资基金法》、《中国人民银行金融消费者权益保护实施办法》等特定法律法规。
因此，金融业的数字内容风控需要更专业的合规安全服务。
一般来说，金融行业数字内容安全的典型场景包括自媒体账号监测、理财营销、商品详情、文章及评论、金融客户资料、理财直播间等。
自媒体账号监测：网易易盾提供对公众号、网站、微博、抖音等自媒体渠道内容安全风险的主动监控，通过设置监控任务、实时报告预警实现7*24小时主动风控，并配置最新法规策略更新、时政舆情信息策略同步、个性化监控策略调整等运营策略。
理财投资咨询：该场景下，网易易盾布控范围主要围绕在不文明用语、涉嫌欺诈、黄暴政、荐股、虚假夸大、误导性语言等，以帮助投顾咨询实现安全对话。
商品详情：理财产品页面，网易易盾专家解读相关政策，全面布控金融保险、理财领域广告营销策略，智能引擎实时检测违规内容，保障金融产品广告内容合规，避免安全风险。此外在购物商城页面，网易易盾通过图片OCR，支持对文本中限时性用语、涉嫌诱导消费者、涉嫌欺诈消费者、法律风险较高、极限词、广告法其他等精细化分类检测。
文章及评论：主要对理财资讯文章及留言、商城买家留言评论、涉及内容违规、低俗、灌水、广告导流、平台负面等进行风控管理。
金融客户资料：对用户昵称和头像进行严密风控，尤其涉政涉黄等。
理财直播间：主要针对主播言行和粉丝评论围绕涉政、色情、不良价值观、广告导流等进行重点布控，并且提供房间热度监控、黑屏挂机检测、弹幕实时过滤、人脸检测分析、房间名过滤等各项细节风控服务。
此外，金融作为事关国家民生的重要行业，需要保证信息化核心技术安全可控。
网易易盾所提供的AI内容审核方面的相关研究能力和软件技术，极大程度地适配了国产化需求，这有助于避免在关键技术领域受到外部限制和制裁，保障国家安全和经济发展，包括：
应用层代码已适配完成；昇腾GPU已完成大部分审核模型适配；CPU已适配海光、鲲鹏；操作系统已适配欧拉、麒麟；数据库已适配TiDB、腾讯数据库。
除了全面信创兼容外，深耕金融行业数字内容风控多年，网易易盾积累的行业与技术优势亦显著位居行业前列：
1.对齐监管尺度。搜集第一时间监管处罚动态，入案例库供模型学习，能够准实时响应监管拦截查删要求。
2.贴近场景，风控效果显著。提供数十个行业专属策略集，响应迭代快。除违法和不良信息检测，还可自定义合规内控检测策略。
3.风险对抗经验丰富，敏捷作战。境外负面信息倒灌实时搜集。国内重大活动、敏感时期策略布控。
随着金融行业数字化转型的深入，开放、敏捷、智能成为各大金融机构建设网络安全的要求和目标。网易易盾的金融行业数字内容风控解决方案已实践多年，服务客户包括几十家头部券商、银行、基金公司。
面对经济增长压力、外部环境的不确定性，央国企作为我国经济体系的主力军、排头兵，肩负着经济发展、稳固政治和服务社会的使命担当，亟需借助数字化转型推动组织创新、技术创新、管理创新，培育具有全球竞争力的世界一流企业，加快构建高质量发展新格局。
作为服务央国企数字化转型的服务商，网易易盾将利用最新信息化技术，围绕安全产品、安全服务、安全运营等环节的创新，不断迭代升级数字内容安全方案，助力央国企在数字内容安全领域内的转型走深向实。