2015 年 10 月，网易数智发布第一款产品，正式踏上了 ToB 商业化之路。2017 年，我们推出了属于网易数智的科技活动品牌——MCtalk，意为汇聚深度思维（Mind）、碰撞顶尖创意（Creativity），并持续运营至今。
2024 年，我们再度扩充「MCtalk」的内涵，重磅推出《MCtalk·CEO对话》栏目，深度对话 ToB 行业经营者、决策者、PE/VC 投资人等，就 ToB 从业者所关注的焦点问题展开讨论。
在2024年的12个月中，来自高成资本、影刀RPA、e签宝、有赞、崔牛会、盖雅工场、酷家乐、每刻科技、观远数据、爱分析、销售易的CEO、创始人，以及吴昊老师这样的ToB行业资深观察者们走进直播间，产生超200,000字深度对话内容，节目累计达到超1,000,000次曝光，吸引超100,000人次观看。
2025年，我们延续《MCtalk·CEO对话》的精良制作，将栏目焕新升级为《MCtalk·无限对话》，将嘉宾与话题由企业服务拓展至千行百业，深度观察千行百业的“每一处细节”，沉浸感受千行百业的“每一次变革”，详细研究千行百业的“每一门学问”。
全新栏目视觉、全新议题设置、全新嘉宾阵容，不设边界，无限畅谈！
这是《MCtalk · 无限对话》的第8期
AI在中国，从不缺少新的话题与故事。
2015年，以“四小龙”为代表的AI先锋企业从实验室走向市场，掀起了中国人工智能产业化的第一波浪潮。
2023年，AI进入2.0时代，技术迎来颠覆性提升，一批国内AI厂商在多个关键领域展现出自主创新与全球竞争力。
2天前，国务院发布《关于深入实施“人工智能+”行动的意见》，加快“人工智能+”和“科技-产业-消费-民生-治理-全球合作”六大领域联动。
消息快速刷屏，越来越多人意识到，AI已经从“实验室里的黑科技”变成了“国家基础设施的重要组成部分”，不再是某个行业的专利，而是所有行业都必须拥抱的基础能力。
本期MCtalk·无限对话，由网易数智副总经理、网易易盾总经理朱浩齐对话云从科技集团副总裁、武汉云从总经理张立
云从科技是自1.0时代就活跃在AI前线的“四小龙”之一，网易易盾则是国内AI内容安全的领先技术服务商，双方近期也刚在国家网安基地大模型训推一体化项目中达成强强合作。
节目中，两位嘉宾围绕 “AI是否安全？”、“ 对AI的监管是否会愈来愈严？”等热门话题，从技术、行业落地与生态协作等维度，分享了自己的洞察与思考。
要点速览
● “唯模型论”和“唯算法论”一样，是有问题的，单纯卖大模型的商业逻辑不成立。
● 让技术持续发展的是它能否产生价值。这个价值不是科学界认可的价值，而是能否真正赋能各行业提升智能化水平。
● 技术越先进，安全风险越高。
● 以往有害内容多为人为制造，形态有限；而AI技术可批量制造现实中不存在的的内容，给识别和处理带来巨大挑战。
● 未来AI安全趋势是从被动防御转向主动防御。
01
朱浩齐：欢迎您来到杭州。过去十年，AI技术在我国的发展非常迅猛，云从科技也被称作AI 1.0时代的“四小龙”之一，您认为AI在过去十年经历了什么样的发展？
张立：感谢邀请。过去十年，我作为亲历者，感触非常深刻。
2015年，人工智能的第一波产业化浪潮开始显现，我们从中科院出来，孵化成立云从科技。从大机遇来看，国家在政策层面给予了人工智能前所未有的战略支持。
而最大的困难，就是如何从实验室走出来，实现产业化。一项技术从诞生到最终形成客户愿意买单的产品，需要解决的问题太多了，时间跨度也非常大。任何技术的成熟都必须经历一个过程，这是客观规律。
汽车的流水线产业化始于20世纪初，和汽车技术的产生时间跨度接近100年。从1956年达特茅斯会议上提出“人工智能”这一概念算起，至今还不到100年，对人工智能技术来说，这个跨度是否会更长？
如今，“四小龙”这个词常被视为是1.0时代的标签，是过去式。但如果没有这些“前浪”企业的探索，我们很难进入2.0时代。
商业化的评判标准往往以成败论英雄——企业是否上市、市值如何、是否盈利。我的观点是，这种评判标准过于单一。从产业的角度来看，无论是“四小龙”、“六小虎”，他们都是推动中国人工智能产业走向国际前沿的真正力量，想法很超前，但当时的环境成熟度不足，仅靠一己之力难以成功。
但他们的探索推动了整个进程，后继者会站在他们的肩膀上，实现他们未能完成的事业，从这个角度去评判一个企业对社会、对产业的贡献，才更具综合性。
朱浩齐：您的分享也让我深有共鸣。
过去十年，我们也经历了AI从1.0时代到2.0时代的跨越。2012年，AI领域发生了一件极具时代意义的事，AlexNet模型在ImageNet大规模视觉识别挑战赛比赛上以压倒性优势夺冠，标志着深度学习在计算机视觉领域的崛起。当时，我们团队也正式开始研究深度学习，成为人工智能技术的跟随者——国外有新技术，我们就跟进使用。
到了2.0时代，大模型技术出现后，国内涌现了一批AI公司，例如智谱、MiniMax、月之暗面、DeepSeek，我们也将更多能力与经验转向大模型，并在2024年推出了安全领域大模型。在专业领域内，技术能力和识别效果、性能已处于业界领先地位，也和众多AI公司推进深度合作。
到这个阶段，我国的AI能力已不再是简单的“追随者”，而是在多个关键节点具备独立创新与快速落地能力的领跑者，逐步走向全球人工智能技术舞台的前沿。
在这个过程中，网易易盾本身也经历了转变——从网易集团内部的安全部门转向商业化，将AI技术落到产业中去。
我们发现，即使是有经过网易众多产品验证的技术，要将其转化为商业化产品，要踩的坑依然非常多，这和云从科技所说的转型有相似之处。
02
朱浩齐：从今年开始，业界对AI技术的应用落地更聚焦在AI智能体。你认为智能体会成为大语言模型能力的主要出口吗？在未来的生活和工作中会扮演什么样的角色？
张立：这个问题非常好。2023年，Open AI推出ChatGPT，让全球都看到了它的威力。当时我们就在想，未来AI会是什么形态？
就在那时，智能体（Agent）的概念突然又出现了。这个词在许多年前就已存在，为什么过去被淹没，而到了1.0时代和2.0时代的分水岭——2023年，却突然重现？它的中文翻译也从“代理”统一为“智能体”，是什么促成了这一变化？我认为，这就像实验室的“备胎”技术，当环境成熟时，它就会被拿出来。
当时，大家的焦点都在大模型，但我们意识到“唯模型论”和“唯算法论”一样，是有问题的，单纯卖大模型的商业逻辑不成立。
让技术持续发展的，是它能否产生价值。这个价值不是科学界认可的价值，而是能否真正赋能各行各业，提升行业智能化水平。
我们认为，智能体会是实现价值的一种形态：它是一个应用，集成了算法、数据、算力、模型和业务流程。客户不需要关心内部细节，只关心这个智能体能为他们解决什么问题，这是一种“开箱即用”的形态。
因此，产业界和学术界都提出“所有应用都值得被重写一遍”。过去是流程导向，专业的人做专业的事，但这也导致技术掌握在少数专业人士手中。大模型的出现带来了“目标驱动”的想象空间。当目标设定后，大模型能自动解构目标，结合人工干预和确认形成可操作的方案。
这能让更多非计算机学科的领域以平权化的方式推动自身智能化转型，只有他们实现了转型，技术提供者才有机会。
朱浩齐：您的剖析非常深入，涵盖了底层技术到日常工作的思维逻辑。
我的看法是：我们期望智能体成为生活中的健康助手，如个人健康管理、旅游出行、运动、美食推荐等，取代现有的许多APP，成为我们的生活助理，帮我们结构化、有逻辑地执行诉求。在工作中，它也能成为得力的助手或虚拟员工，帮助开发写代码、做测试、分析数据、提出策略建议等，最后由人确认。
因此，我认为智能体像是连接模型能力与真实世界的桥梁，如同互联网时代的浏览器，是未来的入口。用户无需掌握底层知识，只需表达需求，智能体就能连接所有模型能力、厂商和供应链，实现智能世界的交互。
张立：这将智能体的愿景提升到了更高的层次，为它描绘了一个美好的想象。
朱浩齐：这也是未来努力的方向，但从现实来看，智能体距离真正成为数字员工，还面临许多能力上的短板。
张立：我们看待这个问题的角度是：技术是服务于人类的。根据马斯洛需求层次理论，只有在安全的前提下，我们才能追求更高层次的需求。因此，数字员工通过智能体形态实现，必须首先解决安全问题，这包括数据安全、模型安全、内容安全以及整个应用过程的安全。例如，智能体为个人提供健身、健康甚至用药建议，如果不够安全，你敢用吗？
人类在碳基世界中，从小通过价值观教育、考试筛选、入职考核等过程，证明其行为是可控的。但在硅基世界中，数字员工没有这样的规训过程，因此这需要建立一个安全体系，确保其“三观正”。
第二个要解决的问题，就是刚才您说的万物互联。多兵种协同在企业内部是常态，智能体之间也需要团队协作。那智能体之间的互联是否有统一的标准？都说2025年是“智能体元年”，目前来说，技术发展是超前于标准制定的。
第三个问题，是语料的结构化。数字化的前提是信息化，需要有足够数字化的语料来支撑智能化，但并非所有产业的信息化水平都足够，这需要时间。企业自身的业务知识沉淀也是基础，否则智能体缺乏知识，何谈智能？
朱浩齐：您将安全放在第一位，很有远见。
作为安全从业者，我们天然重视智能体的安全。在实践中，我们深刻感受到：技术越先进，安全风险越高。
以往有害内容多是人为制造，形态有限；而AI技术可批量制造现实中不存在的、令人匪夷所思的内容，给识别和处理带来巨大挑战。
设想一下，如果一个超级智能体连接所有产业，却没有“不害人”的道德底线，那他带来的危害将是可怕的。网易就有团队希望将网易易盾的能力内置到机器人芯片中，处理违规、隐私泄露等风险信息。
权限管控和协同也是问题，我们既希望数字员工有广泛权限，又需控制它的行为，确保是可审计的。例如采购决策，若由一个智能体团队完成，就需要保证行为可以被监督。这些技术之外的能力，反而是需要我们提前去关注的。
03
朱浩齐：在您看来，现在哪些行业和场景的AI落地做得更多、更好？
张立：我们选择行业时有自己的判断标准。
首先，行业需有足够结构化的语料数据，或具备业务知识库基础，可通过技术转化为结构化数据。
其次，客户需有真实痛点，避免“为AI而AI”。我们常遇到客户热情高涨地希望AI化，但深入业务后，发现痛点并不明确，可能只是政治任务，项目结束后便无下文，浪费资金和技术投入。
第三，价值需易于量化。技术落地后，能否直观地向客户展示价值——是提升效率、降低成本、规避风险，还是带来新商机？我们认为只有这样，这个行业才具备可选择性，否则只是当一个项目做了，却没有办法复制。
因此，在AI 1.0时代，我们重点选择了银行和安防这两个行业。银行的痛点源于人民银行要求的“人证核验”——开户人必须与身份证照片为同一人。之前，用户可以拿着别人的身份证开户，银行需通过柜员的眼力去做判断，万一遇到脸盲的，这不确定性太强了。但人民银行在这个领域，对银行是有强制性监管的，这是真正的安全隐患和业务痛点。
其次，银行的信息化基础扎实，数据丰富，价值也易于量化，因为机器人脸识别的准确度远远高于人。现在，云从科技在银行人脸识别领域的市占率已经达到85%。
在AI 1.0时代，制造业对AI的应用较少。因为制造业场景不可复制，即使同行业，不同客户的需求也各异。研发投入无法边际化，对企业而言不划算。
到了大模型时代，大模型具备一定的知识化和泛化能力，制造业开始受到关注。我们从信息化程度高的环节入手，开始布局制造业。例如，我们正在为一家整车厂规划基于风阻设计的大模型和智能体能力，通过仿真环境优化参数，减少风洞测试次数，提高研发效率，降低成本。
朱浩齐：这些都是很好的深度应用。网易易盾的行业不太一样，主要集中在游戏、娱乐、社交、媒体等以内容生产为主的行业。这些行业的痛点在于版权、舆情、有害信息等，它们有海量内容（UGC到AIGC），依靠人工审核效率低下，成本高昂。
使用AI技术，尤其是大模型能极大提升效率和精度，可以在海量数据中准确识别有害信息，因此它的价值展现非常容易——拦截的数据就是最好的证明。
张立：这点我深有感触。去年，我们在福建省某检察院试点用AI技术审核大量卷宗。基层干警撰写的卷宗内容繁杂，检察院需人工审查其中的错误或不合规信息，这份工作枯燥重复，年轻人不愿意干，老专家的经验又难以传承，AI技术却能高效解决此问题。
朱浩齐：适当输入领域知识和定制化训练就能非常准确，虽然可能有好几秒的延迟，但让人工来看的话，没个三五个小时都看不完。
04
朱浩齐：今年，《人工智能生成合成内容标识方法》发布，并将于9月1日起正式执行。今年以来，监管部门也出台了很多措施，从严整治AI技术滥用的现象。您如何看待这些监管政策对AI相关企业的影响？
张立：因为人工智能产业是个新产业，标准都是随着产业的发展落地逐渐形成的，我们认为这类政策将是大势所趋。
如果没有这样的规范的话，那整个产业的健康发展就会被遏制。全是良莠不齐的内容和无序的竞争，把从业者裹挟在中间，其实是非常不好的一种状态。一旦出现负面的社会事件，也会导致大家对AI技术没有信心，所以我们乐见监管措施尽快出台，规范业态。
朱浩齐：确实，我们经常会听到这样的两种声音：一种是我们要加强监管，另一种说，我们应该放宽监管，要有容错机制。但如我最早提到的，随着AI技术发展越来越快，它带来的安全风险就会越来越多。反过来说，针对它的安全管理政策和法规，也会变得越来越频繁。监管措施是为了保证行业健康发展，并不是为了遏制创新。
张立：是的，也正是在这样的背景下，云从科技与网易易盾前不久在武汉落地了国家网安项目，这也是云从集团战略布局的重要一步。AI作为新技术，必然带来技术风险，需要用技术来保障安全健康发展。
我们与网易易盾结缘，正是因为彼此定位不同。云从科技是人工智能企业，侧重算法和平台；网易易盾扎根安全领域，专注内容安全，这种差异使我们走向交叉融合模式。
我认为，这种合作模式也会是未来科技公司与行业技术公司合作的典型。我们无需从零开始弥补对方九年的积累，合作反而能更好推动事情发展。
因此，我建议以实验室形式探索，与监管部门碰撞，从“小试”到“中试”探索新模式。
朱浩齐：这或许是对未来AI生态企业合作模式的一种判断。AI从大模型“单打独斗”到应用到各行各业，需要更多行业伙伴和业务场景加持，这样才能做大做强AI产业生态。
网易易盾从2016年开始做To B，感受到国内To B市场成熟度相对滞后，有些企业主起初没有意识，认为花钱买服务不如自己招人做。
我们遇到一家企业，自己投资做内容审核系统，认为这只是个Web界面，技术门槛不高。但他们忽略了后续的长期维护、更新迭代和业务变化的成本。成熟第三方供应商能汇总各企业需求，精选最佳能力，持续投入优化，投入可能是企业的数十倍。
这样来说，引入成熟的供应商，不仅节省人力成本，时间成本也大幅降低。
在AI领域，这种模式会更加直观。当AI能力强与安全能力强的企业深度绑定、协同共建“可信AI底座”，也就意味着更高的模型可控性，更高的数据合规性，更高的内容治理能力，更高的行业适配与审查能力。
此外，您前面提到希望与监管部门更多互动。在这方面，内容安全与传统网络安全不同，监管标准常滞后。
因此，我们意识到，上层有标准规范，下层业务才知道如何执行。例如，一张图片是否该删除，若无规范，有人觉得这个内容看了不舒服，有些人又觉得没关系，处理的结论千人千面。
因此，网易易盾参与了多项国家标准、行业标准制定，涉及内容审核、未成年人保护等。一方面为行业打好基础，让未来从业者能在我们肩膀上做得更好，另一方面，帮助需合规的企业明确如何做到合规。
在AI和安全领域，我们在各自的探索过程中发现了一些共性，后面也可以朝这个方向持续去做。
张立：是的，武汉的合作项目只是一个起点，我还有很多想法和期许。从监管和地方政府角度看，内容安全也应有产业化机会，但这需要共同探索，形成基于有效场景的产品落地。
例如，未来能否将网易易盾的能力组件内置到网易的安全芯片中，形成“安全Inside”？具备此组件的芯片，具身智能的行为都可控，内容输出符合普世价值观，那这是否能成为一个产业、一款产品？
不同于固化在芯片中的传统方案，这个安全组件可以是动态的，其动态版本迭代能否为整机提供持续安全保障，实现主动安全，我认为这有想象空间，但方向需逐步明确。
同时，我认为未来AI安全趋势是从被动防御转向主动防御，这需克服更多技术问题，如模型安全。模型常被视为黑箱，语料是否安全可控？训练过程和工具是否可控？这些都需从底层技术建立主动防御能力。
朱浩齐：确实，传统的网络安全往往是基于事件驱动。但是，在AI领域，若一个强大AI意图作恶，一旦成功，后果不堪设想。我记得您提到“用魔法打败魔法”， 人无法抵御AI的进攻，只能靠AI对抗，并且要做到从被动防御到主动防御。就像《复仇者联盟》中的奥创，意图毁灭人类，试图控制全球核武器，而抵抗它的是另一个AI——贾维斯。
从网易易盾角度看，我们会更细致地做好安全领域工作。借助大模型技术，将内容标签、标准和识别能力做得更精细化、精准化。核心原因是，不同行业、场景、人群的安全需求不一致。
我们在国内外都有客户，每个国家都有监管痛点和需求。不同意识形态、宗教信仰的地区，安全诉求则差异巨大。例如，在泰国不能谈论皇室，在印度有宗教规范，同时，对儿童保护、毒品、暴力的管控又各个地区共同关注的。
因此，我们要做好红线内容过滤，对底线问题一刀切，同时针对不同区域提供个性化标签和检测能力，这样才能符合当地的需求，也长久实现我们的价值。
今天我们聊了很多话题，感觉还意犹未尽，希望我们在以后会有更多形式的交流。
张立：是的，也谢谢今天的邀请，期待我们在接下来在武汉项目中能把双方的业务再做得更实，有更多AI安全方面的合作。