今年全国两会期间，“人工智能+”再次成为高频关键词。
从政府工作报告到代表委员建言，大模型应用、产业落地与AI治理等议题持续升温。随着生成式技术不断突破，AI正从技术热点走向产业应用，在政务服务、金融科技、互联网平台、智能制造等多个行业加速落地，成为推动新质生产力发展的重要力量。
2024年政府工作报告首次提出“人工智能+”行动，进一步明确AI在推动新质生产力发展中的重要作用。进入2026年，随着大模型技术持续成熟，AI应用正逐步从技术探索走向规模化应用。对于越来越多企业而言，智能技术不再只是前沿概念，而是提升效率、优化业务流程、重塑生产与服务模式的重要工具。
但随着生成式AI能力不断提升，一系列新的风险问题也逐渐显现。AI换脸、深度伪造（Deepfake）、虚假内容生成等技术滥用现象开始受到社会广泛关注。一些不法分子借助AI伪造人物影像或制造虚假信息，甚至实施诈骗，不仅扰乱互联网内容生态，也对社会治理提出新的挑战。因此，在今年两会的相关讨论中，“AI安全与治理”逐渐成为关键议题。
01
AI安全治理成为两会焦点，
技术源头管控成关键方向
针对AI技术滥用带来的治理挑战，今年全国两会期间，多位代表围绕深度合成、虚假内容生成、AI技术滥用等问题提出建议。代表们指出，随着生成式技术能力不断提升，仅依赖事后监管已难以有效应对新的风险形态，加强技术源头治理正在成为AI安全治理的重要方向。
正如全国人大代表所强调的：“加强技术源头管控是AI治理的重要抓手，应构建技术向善的共治格局。”
在具体治理路径上，相关建议提出，应进一步完善法律法规与行业标准，规范数据采集、模型训练与内容生成等关键环节，并推动深度合成内容嵌入可验证标识信息，实现生成内容的可识别、可核验与可追溯。同时，通过技术手段强化内容来源标识、信息存证与责任追溯机制，从源头上提升生成内容的可信度与可控性。
可以看到，在人工智能快速发展的背景下，AI治理正逐步从依赖人工审核和事后监管的模式，转向以技术能力为核心的前置治理。通过将安全能力嵌入技术体系之中，在源头实现风险识别与约束，既能推动人工智能产业健康发展，也能为数字内容生态构建更加可信、可控的安全环境。
02
大模型加速进入企业应用，
AI安全成为落地关键
随着“人工智能+”行动不断推进，大模型技术正在加速进入各类企业场景。从智能客服到营销运营，从内容生产到数据分析，AI正在成为企业提升效率的重要工具。然而，在实际应用过程中，企业也逐渐意识到，AI能力的规模化应用离不开安全体系的同步建设。
一方面，大模型在生成内容时可能出现违规信息、虚假内容或不当表达，如果缺乏有效的审核机制，可能影响平台内容生态，甚至带来合规风险。另一方面，随着企业逐渐将AI能力嵌入业务流程，大模型还可能面临提示词攻击、敏感信息泄露、训练数据污染等安全隐患。此外，深度伪造技术的滥用，也可能被不法分子利用于诈骗或虚假营销，对企业业务安全带来新的挑战。
因此，在AI应用加速落地的过程中，安全能力正在成为企业部署人工智能的重要基础设施。如何在保障安全与合规的前提下，让AI能力真正服务于企业业务发展，成为企业在推动AI应用时必须重点考虑的问题。
03
网易智企多模态大模型综合防御体系：
构建企业可信AI安全能力
围绕生成式AI应用带来的安全挑战，网易智企旗下易盾业务依托在数字内容安全与业务安全领域多年的技术积累，推出多模态大模型综合防御体系，为企业提供覆盖大模型全生命周期的安全治理能力。
大模型防御体系融合自研LLM判别式AI与千万级策略库，并结合自然语言处理、计算机视觉等多模态技术能力，构建“内生安全、外生安全、衍生安全”三位一体的安全体系，从多个维度为企业大模型应用建立安全防护。
在内生安全层面，大模型防御体系可对训练数据进行安全审核与风险治理，帮助企业在模型训练阶段识别潜在数据风险，降低数据污染与违规内容带来的隐患。在外生安全层面，系统能够识别并防御提示词攻击、异常指令输入等行为，防止模型被恶意操控或诱导生成不当内容。在衍生安全层面，大模型防御体系则能够对AI生成的文本、图片、音视频等多模态内容进行实时检测，识别违规信息、深度伪造内容以及敏感信息泄露风险，从而实现对AI生成内容的全流程安全管理。
同时，依托易盾在内容安全领域积累的大规模风控能力，大模型防御体系还能够针对AI换脸与深度伪造内容进行识别检测，通过多模态识别与策略规则结合的方式，对生成内容进行风险识别与合规审核。这种将内容安全能力与业务安全风控体系相结合的模式，使企业能够在推动AI应用创新的同时，有效防范潜在风险。
目前，网易智企大模型防御体系已在多个行业场景中得到实践。例如在政务领域，网易智企-易盾与国家网安基地展开合作，为政务大模型在内容安全、训练语料治理以及模型评测等方面提供安全支持。国家网安基地作为国家网络安全战略布局的重要平台，聚焦网络安全技术研究与产业协同创新，通过真实应用场景推动技术能力不断迭代。在这一合作中，大模型防御体系通过对政务AI应用进行安全评测与风险治理，帮助推动政务大模型在安全可控的前提下实现应用落地。
从今年全国两会关于人工智能治理的讨论可以看出，随着“人工智能+”行动不断深入，AI已经成为推动新质生产力发展的重要引擎。但与此同时，技术能力越强，对安全治理的要求也越高。只有在安全与可信的基础上，人工智能才能真正释放其产业价值。
未来，随着AI应用在更多行业场景中落地，内容安全与业务安全能力将成为人工智能时代的重要基础设施。唯有创新与安全并行，技术才能真正服务于社会与产业发展。网易智企也将继续以可靠的AI技术，帮助企业释放生产力，共创更加智能、可信的数字未来。