（本文首发于《中国信息安全》2024年第1期，文 | 网易易盾CEO 朱浩齐）
如今，伴随互联网高速发展而诞生的新一代成了网络“原住民”，他们在享受技术红利的同时，也时刻面临着网络世界的各种风险和陷阱。哪怕这些孩子足不出户，在家中安静地浏览网页，家长们也依然时刻保持警惕，守护着他们的一举一动。“少年强则国强，少年进步则国进步”，让未成年人拥有干净、安全的网络空间环境不仅受到国家的高度重视，也是全球各国的广泛共识。
一、未成年人的网络空间急需“清朗”
（一）网络“烂文化”正在侵袭未成年人的三观构建
互联网的传播效率让未成年人可以随时随地徜徉在信息海洋之中，却也可能使他们深陷未知的“漩涡”。网络世界充斥着大量对未成年人的有害和负面内容，如低俗色情、血腥暴力、炫富拜金。对于还处于认知构建阶段的未成年人来说，他们很难有分辨力来筛选有害信息。
我们意识到网络环境正在潜移默化地影响着未成年人的语言体系。曾几何时，孩子们表达感谢时脱口而出的不是“谢谢”是“栓Q”；表达慌张时口中蹦出的却是“芭比Q了”。这些网络“烂文化”披着新时代精神风尚的外衣，将语言、表达行为过度地娱乐化，破坏了未成年人语言文化体系的构建与心智发展。
时代在进步，汉语的词汇库也在不断丰富，但绝不应该是这些“烂梗”。它们不仅对未成年人语言文化的形成造成负面影响，更会侵蚀其思想感情。当未成年人长期沉浸在这些空洞的“烂梗” 中时，他们的思考方式、情感表达可能也会变得空洞粗粝。
如果“烂梗”会影响未成年人的语言文化，那么网络中暴力、色情和畸形审美等高风险、低趣味内容，更是对未成年人的价值观形成造成严重误导。这些有害内容不仅会阻碍他们的健康成长，还会让他们的思想陷入错误的技术漩涡和信息茧房之中。对于那些心智尚未成熟的未成年人来说，他们往往具有较强的好奇心，但辨别能力却相对较低。在这种情况下，如果网络服务平台没有强制要求用户实名认证，就会让未成年人的内容池与成人世界混为一体。而算法的精准掌控则会进一步加强有害内容的分发与推荐，使未成年人深陷其中，难以自拔。
（二）网络世界，黑灰产更懂未成年人的“需求”
当前，网络诈骗手段逐步演化升级，令人防不胜防。不法分子瞄准了各类群体，精心编织着一个个看似诱人的骗局。“红包返利”“明星粉丝福利群”等手段看似普通，实则暗藏玄机，稍不留神就会落入陷阱。然而，更让人心惊的是那些专为未成年人量身定制的骗局，他们深谙孩子们的心理需求，巧妙地利用他们的天真和好奇心，让未成年人在不知不觉中沦为受害者。
网络诈骗的最大特点之一就是“精准定制化”，不法分子通过非法手段在网络上获取未成年人的个人信息，针对不同群体量身定制诈骗方案，从场景设计、人设伪造、信息骗取，再到需求了解、引诱操作，最后骗取钱财，形成了一套全流程精准化的诈骗方案，甚至连成年人都难以防范。
网络游戏沉迷是未成年人网络保护工作中的一项艰巨的任务，也是一个社会性问题。其中，网络游戏黑灰产业链的危害不容小觑。为了应对这一挑战，2021年8月，国家新闻出版署发布了《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》，被称为“史上最严”的未成年人游戏“防沉迷新规”，该规定对未成年人玩游戏的时间进行了限制。然而，一些不法分子为攫取非法利益，通过“话术”等非法手段向未成年人售卖网络游戏账号，甚至提供“解脸”服务，形成了面向未成年人的网络游戏“黑灰产业链”。
更为恶劣的是，在利益的驱动下，未成年人这一弱势群体不仅成为黑灰产团伙索取搜刮的目标，甚至沦为了他们的作案“工具”。黑灰产团伙利用未成年人充值退款机制，指使未成年人向特定主播充值、打赏，主播将收益分成部分提现后，再由未成年人或“监护人”向平台申请全额退款，以骗取打赏分成收益。或者利用未成年人为黑灰产团伙提供出生证明、电信通话卡、辅助验证、实名账号等辅助材料或服务的主体信息，这些行为都有可能构成“帮信罪”。
在网络世界中，虽然未成年人已被给与了特殊关照与保护，但在监管条件、技术配套、家庭教育等方面仍存在漏洞，要想黑灰产消失在孩子们的世界，仍任重道远。
二、未成年人网络安全治理迫在眉睫
一直以来，党中央、国务院高度重视未成年人网络保护工作，并已取得显著成效。然而，此项工作的复杂性和挑战性不容小觑。一方面，对于心智尚未成熟的未成年人而言，网络臆造出来的花花世界对他们有着巨大的诱惑。另一方面，黑灰产和诈骗团伙正在悄然布局，“帮助”未成年脱离社会的“保护网”。因此，网络空间治理离不开政府的主导，同时也需要网络服务提供者和科技企业这两个网络安全“守门人”发挥技术手段协同治理。
然而，一刀切式的网络隔绝手段显然无法满足新时代未成年人的需要，我们既要保护未成年人不受网络不良信息和不法分子的侵害，又要保障未成年人可以自由地从网络中获取有价值的信息。面对“聪明”的算法机制和愈加“精准化”的黑灰产套路，网络平台需要加强未成年人保护体系底层能力的建设和防护机制。
作为网易旗下领先的数字内容风控品牌，网易易盾设计了一套未成年人保护技术治理体系，该体系主要包含以下四大模块。
一是身份识别。在未成年人网络保护体系中，身份识别是尤为关键的一步，这是未成年人保护 体系的重要“入口”，而且是安全防护的第一步。 我们时常目睹游戏公司与家长因无法精准识别和证明未成年人的身份而产生纠纷，导致双方困扰不已。
网易易盾提供了一套全方位的未成年账号识别方案，通过融合身份信息识别和行为智能识别两大核心手段，深入挖掘用户发布的头像、声音、文字等内容特征和产品使用习惯等多元化数据。通过AI技术，我们能够精准判断人脸 年龄范围、识别未成年人声音、检测未成年人习惯用语以及检测手指触摸的大小范围和账号活跃时间等，从而可以快速锁定“疑似未成年”的账号。对于疑似未成年的账号，我们提供了进一步核验的手段，通过活体检测、人脸比对、电话校验等技术手段，以准确标识未成年人账号，平台从而可以对未成年人采取防沉迷等功能限制和保护未成年人的隐私信息等措施，从而达到一个有效的“物理隔离”。
二是内容分类分级。在识别未成年人账号后，我们需要对其在网络交互过程中产生和接收的内容进行细致的识别和筛选，准确地识别需要细化的内容分类分级标准。只有这样，我们才能有的放矢地针对不同年龄段的未成年人进行精细化的内容管理。网易易盾拥有9大分类与1000多种细分类标签，可以更好地标记出不适合未成年人的内容。在与未成年人的交互中，我们发现了一些特别需要关注的内容标签。例如，一些令人不安的儿童软色情表情包，这些表情包将恋爱文字P在小朋友照片上；还有艾莎公主被开颅的儿童邪典照片等，这些内容对未成年人的身心健康造成严重威胁。
三是未成年人保护功能。科学化的内容管理需要我们将内容与年龄段挂钩并进行特别设置，给与未成年人更人性化的安全防护措施。在身份信息识别及其对应内容识别的基础上，根据不同的识别结果和风险等级，平台可以提供完整的保 护功能，具体包括：
内容过滤。易盾主要通过机审与人审的组合策略，在涵盖文本、图片、音频、视频等业务的场景中，自动识别并过滤如色情、暴力、涉价值观等有害信息，实现对未成年人的有害内容风险全覆盖，保护未成年人在网络环境中不接触不适宜的内容，有效避免不良信息对未成年人造成的伤害。
防沉迷。在游戏行业中，游戏沉迷是未成年人比较突出的一个问题。游戏客户端利用易盾所提供的技术实施防沉迷措施，限制未成年人的游戏时间，例如在规定时间内强制下线。
消费管理。随着短视频、直播等娱乐产品的流行，未成年人由于心智尚未成熟，给主播打赏的现象屡见不鲜。我们对未成年账号的消费行为，消费金额需要进行限制管理。
反欺凌。我们可以通过文本分析、图片分析等技术来识别与预防网络欺凌行为，例如针对谩骂、诅咒等文字语言进行禁止与屏蔽，避免未成年人效仿与传播；针对未成年人头像、自拍等图片内容进行保护，禁止恶搞与二次创作，有效保护未成年人的网络安全。
防诈骗。网络诈骗逐步演化，未成年人常常是不法分子首要欺骗的群体。随着网络诈骗的发展，广告类的识别能力也在不断升级。例如，我们可以更新防拉人模型，增加识别形近字变种的能力，新增涂鸦等变种花体对抗能力等，都能为未成年人有效减少接触潜在诈骗广告的渠道。
隐私保护。我们对用户信息都会采取加密存储、访问控制等技术手段进行保护，尤其加强了对未成年人个人信息和数据的保护，如对未成年人在平台上提供的位置、联系方式等信息进行加密保护。而对于可能涉及未成年人隐私的行为，如不适当的照片分享，我们还可以提供风险检测和预警服务，以保护未成年人的隐私安全。
四是反馈机制。最后，我们还需要建设面向多主体的反馈机制。面向平台服务方，及时提醒未成年人内容和行为方面的异常状态，最大化地维护平台网络空间安全。面向监管机构，则需要及时普及宣传对未成年人有害的新犯罪类型和新案例，提高社会关注度。面向家长，未成年保护中关键的责任主体，需要根据孩子的个人情况，提供科学合理的建议和措施。面向技术治理能力提供方，通过对内容识别结果的分析以及数据统计的分析，发现重点问题和防护漏洞，从而进行系统的循环优化。
三、《条例》的施行为“清朗之风”再添助力
2023年10月24日，国务院公布了《未成年人网络保护条例》（以下简称《条例》） ，并于2024年1月1日起正式实施，重点就规范网络内容、保护个人信息、防治网络沉迷等问题作出规定。《条例》的颁布经过了长期的探索，我们能清晰地感受到每一次意见稿的出台都是国家在不断提炼经验的基础上，针对未成年人网络保护领域的突出问题进行更为细化和准确的规定，同时释放出趋严的监管“讯号”。其中，明显的“讯号”直接指向网络平台，作为网络空间的“入口”，互联网平台及相关企业的安全主体责任再次被压实。
从《条例》的内容上看，平台的主要责任体现在信息管理方面，一是对信息的审核、筛选以及标识义务；二是对信息传播的直接干预职责。在保护未成年人网络权益的语境下，基本可以理解为“谁提供，谁负责”，强调了网络平台的方向和责任。《条例》实施后，面向网络平台的不仅是一场技术能力大考，也是一次社会责任感的验证。
作为国内最早搭建、长期投入未成年人保护系统的互联网公司之一，网易将未成年人保护工作列为业务的考核指标，并纳入公司的长期发展战略。目前，网易旗下核心内容产品均已上线“青少年模式”或相关未成年人保护功能，全方位守护未成年人健康成长。2023年暑假期间，网易游戏在推出“AI巡逻员”的基础上，通过精准识别拦截、社交防护、内容保护、黑产打击四个维度升级，更全面的构建未成年人防护网，不断加固守护未成年人健康成长的屏障，成效显著。《条例》作为国内一部承上启下且有标志性意义的法规，相信它的实施可以为未成年人网络空间再添一股强有力的“清朗之风”。
四、全社会共同编织一张“安全网”
未成年人的网络保护已经成为一项系统性工程，单靠任何一方的力量都难以完成这项重任。政府、企业、家庭和学校，都需要齐心协力，共同为孩子们筑起一道坚实的网络防线。为此，政府、企业和社会各界必须加强网络监管 , 提升网络教育水平，培养未成年人的网络素养。《条例》的出台，再次强调了未成年人网络素养教育的重要性，将这一教育内容纳入学校素质教育中，使网络素养与相关课程有机融合。
随着时代与技术的进步，未成年人网络保护需与时俱进。《条例》的实施及制度体系的日益完善，为未成年人筑起了坚实的法律“防护网”。守护未成年人在网络时代健康成长，是社会各界义不容辞的责任，网易易盾将持续发挥技术优势和丰富的实践经验，与各方携手共建未成年人网络空间治理新模式，共同编织一张守护孩子们健康成长的“安全网”。点击了解易盾未成年人保护解决方案