7 月 6 日，“智见未来，护航AI”——2024 网易易盾 AI 数字内容风控大会在杭州顺利举行，网易易盾网正式对外发布《 AI 加速游戏安全治理生态——网易易盾游戏安全指南》(下称《游戏安全指南》)。
《游戏安全指南》详尽介绍了 2024 年上半年国内主流的游戏安全风险问题，以及网易易盾在外挂问题、黑灰产问题、内容合规、渠道作弊风险等方面的拦截检测数据与治理实践。
1｜安全治理，道阻且长
游戏安全在不同人眼中有着不同的解读，它在 kk 对战平台安全团队眼中“如同铠甲一般，守护着玩家，维持游戏环境的秩序。我们是这场冒险中的铸甲师，不断地提升，为玩家提供更全面的保护， 与玩家一起搭建起更加坚实、健康、安全的游戏世界堡垒。”
它在游族网络大数据负责人贾彦龙眼中，可以“借助 AI 大模型能力，游戏内容审核将更加智能化，不良内容过滤更为有效，从而更好地维护游戏生态环境。”
在 FunPlus 安全团队眼中，它是双向奔赴的一场胜利：“这几年非常感谢易盾技术团队和业务团队的辛勤工作和不懈支持。易盾技术团队开发的加固产品、反外挂措施以及风控产品不仅覆盖面广，兼容性强，而且在稳定性上也有出色的表现，这些都得到了我们趣加项目同事的高度认可和赞赏。在提供这些高品质的技术解决方案的同时，易盾团队也提供了无微不至的支持。专业的技术服务保证了我们的业务流畅运行，同时也帮助我们在市场中建立了良好的声誉。易盾团队对于风险预防和安全保障的专业知识，使我们能够有效地防范各种安全威胁，确保了用户的安全和公司的利益。”
而在网易易盾游戏安全团队眼中，它不仅是技术问题，更是一个关于“守护”的问题。是一个与游戏厂商携手，利用 AI 技术，守护游戏世界里每一位玩家享有公平竞技和安全游戏环境，让游戏世界成为充满想象和乐趣的数字天地。
2｜对抗激烈，小游戏引关注
根据《游戏安全指南》2024 年上半年，游戏总体风险对抗激烈并呈现出上升态势，网易易盾累计检测安全风险 342 亿次，同比增长 57%，其中环境风险威胁占比最高，检测 192 亿次，占整个检测安全风险类型的 56.1%。外挂危险持续增长，2024 年上半年累计检测 81 亿次，占比 23.6%。
围绕外挂威胁，网易易盾围绕游戏外挂特征，通过定量分析手段，检测得出模拟点击类外挂 46.4 亿次，占比 34.8%；检测得出恶意应用 4.67 亿次，占比 5.7%；检测得出自动脚本 1.87 亿次，占比 2.3%；检测得出定制外挂 0.89 亿次，占比 1.09%。
其中，手游外挂（含小程序）风险命中 58.83 亿次，占比 66%，同比增长 54%，端游外挂风险命中 16.45 亿次，占比 20%，同比增长 17%，此外小游戏/ H5 风险环境风险和业务风险显著增加。
对比国家新闻出版署公示的版号数据，2024 年上半年移动-休闲益智类发行量为同期 4 倍，休闲游戏市场竞争加剧相吻合，所以游戏开发者正在调整游戏开发的方向，与此带来的游戏风险也需要重视。
同时，从《游戏安全指南》可以看出，不同游戏常见的作弊行为也存在较大差异。如 MOBA 类游戏模拟点击问题占比高达 27%；FPS 类游戏改器类外挂问题占比达 48%；棋牌类游戏首充号问题较为严重，占比高达 80%。
如前文提到，小游戏安全问题日益严峻，作弊团伙通过在模拟器、云手机和虚拟机中加载特定版本的微信，利用变种的 GG 修改工具来篡改微信小游戏的内存数据，实现游戏内核心数值的非法修改，这种行为不仅破坏了游戏的平衡性，还严重损害了游戏的口碑和玩家的体验。
此外，当前较为常见的手段还包括对游戏的数据包体协议进行扒取，从而获取敏感的明文信息，进而通过修改协议来篡改游戏数据和功能。这些非法行为不仅对游戏的正常运营构成威胁，也对玩家的账户安全和隐私保护带来了风险。
3｜安全治理，多管齐下
随着游戏产业的迅速发展，游戏安全问题也变得愈发复杂化和多样化。从最初的简单防护措施到如今复杂的多层次安全体系。
同时，游戏安全从业者在实际运营过程中需要面对如账号安全、防作弊与反外挂、虚拟财产保护、聊天社交安全等多个不同业务场景，而每个场景都有其独特的安全需求和挑战。
网易易盾基于不同场景的特征，结合大数据分析、AI 技术提出了一系列创新性的安全技术和管理措施，从而精准识别和处理异常行为，快速响应和修复安全风险。
外挂治理，AI 对抗 AI
当前，AI 技术已经在制挂、用挂中被广泛使用，这对于游戏厂商来说无疑增大了打击和治理的难度。当然，AI 在外挂治理和对抗方面又有自身天然的优势，如情报收集、大数据处理能力和玩家行为识别技术。
网易易盾认为，将 AI 技术与传统检测方法进行有机融合，可以实现多维度的外挂打击策略，包括实时检测、精准打击和自动更新对抗策略，从而有效应对不断进化的外挂技术。
游戏外挂治理需要多种策略与方式进行对抗，常见的外挂如按键脚本、协议破解、变速外挂、内存读取/修改、跨端修改、盗版软件等，而不同的外挂需要不同的策略进行针对性的对抗和治理。
以按键脚本为例，在游戏领域这是一种最为常见的外挂形式，它们通过自动化操作给作弊者带来不正当优势。
网易易盾智能风控系统结合 AI 轨迹模型，通过分析屏幕点击坐标和用户交互行为，进而有效区分自动化脚本操作与正常玩家操作。
此外，通过持续收集和分析定制脚本样本，智能风控系统能够快速响应新出现的外挂威胁，实现对按键脚本的实时检测和有效阻断。
黑灰产治理，多维数据融合
黑灰产是数字经济高速发展带来的一种“副产品”，黑灰产团伙利用作弊工具，使游戏角色进行自动化操作，如自动打怪、刷金币、模拟点击等，从而在游戏内获得大量非法资源。
此外，黑灰产团伙还会通过盗取玩家账号进行非法牟利，或在游戏外进行虚拟物品的非法买卖。
游戏黑灰产团队一般会经历起号、囤号、获利三个阶段，每个阶段所使用的工具、行为都会有较大的差异，游戏厂商需要结合自身游戏发展阶段和黑灰产团队特征进行有效的识别、监控和限制。
网易易盾在创号阶段通过增加注册难度、实施更严格的验证流程来提高黑产团伙的成本。在囤号阶段，通过监控异常登录行为、限制账号活动来识别和阻止黑产行为。在获利阶段通过实施交易监控、限制资源转移和加强与支付平台的合作来打击非法交易。
以主板机为例，网易易盾通过多维数据融合与图神经网络模型结合的方式，对设备行为进行分析和模式识别，从而识别出设备间的异常连接和行为模式，如设备间的同步操作、非正常的网络流量等。通过对这些模式的分析，图神经网络模型能够对主板机黑产团伙进行聚类和识别。
内容合规，阳光下的自由
游戏中的内容可以分为两类，即游戏自身生成内容和玩家生成内容。
其中游戏生成内容包括游戏场景、服装、角色、道具、NPC、过场动画等，而玩家生成内容主要以互动聊天为主，部分支持开放世界的游戏，玩家也可以自主创建比赛关卡，并与基于大语言模型的智能 NPC 角色扮演互动对话内容等。
AI 技术的应用为游戏产业带来了革命性的变化，但同时也带来了新的挑战。智能 NPC、AI 生成的背景音乐、美术作品和游戏客服等，都可能触及版权和合规问题。
此外，热门游戏正成为其他平台获取玩家资源的特殊渠道，通过发送拉人、引流广告，引导玩家到其他平台试玩。这些广告通常存在多种形式，难以识别，如果不进行监管，将导致用户流失影响游戏收益。
因此，面对高速发展的游戏产业，游戏运营者需要加强对玩家创作内容的审核和审查，确保 AI 生成内容的安全性和合法性，以及对拉人引流行为进行有效监管。通过建立高效、精细的治理体系，游戏产业才能实现健康、有序和可持续发展，为玩家提供更加安全、丰富和有趣的游戏体验。
4｜策马扬鞭，持续激烈对抗
游戏安全对抗是一个多方动态博弈和演进的过程，包含了攻击技术制造者、使用者、防守方、防守技术开发者，而随着技术的进步和市场环境的变化，进攻技术与防守技术的博弈将更加猛烈。
《游戏安全指南》中提到，作弊的对抗正在由人 vs 人向人 + AI vs 人 + AI 过渡。同时，随着作弊者与防守者对抗的持续激烈，作弊者使用高权限隐藏或伪装成正常文件特征，利用加密、混淆等手段增加分析难度，使得游戏安全团队更加难以发现。
在内容层面，用户生成内容（UGC）的风险管理日益重要，游戏平台需要重视并管理这些 UGC 内容，防止破坏社会风气和影响游戏体验。
不同国家和地区对游戏内容的审查标准存在差异，游戏公司需要根据当地的法规和文化习惯进行内容审核和修改，从而避免造成不必要的损失。