浩鲸科技钟健松:大模型落地远不止最后“一公里”

2024-06-26 7

ChatGPT横空出世,掀起了AI行业的发展热潮。大模型从崭露头角到现在的如日中天,全行业已然在AI的新时代中全速前进,大模型成为驱动创新的焦点之一。在AI带来生产力革新与商业模式升级浪潮下,作为向科技公司转型的领军央企,运营商在AI领域不断加码布局,为通信产业迈入大模型时代积极领路,构建数智生产力也被被赋予前所未有的重要使命。


浩鲸科技
,赞5


在2024年MWC上海展上,作为运营商的重要合作伙伴,浩鲸科技围绕“智能时代,构建数智生产力”为主题,分享在大模型的驱动下,如何赋能运营商业务和运营管理快速实现深度智能化,并展示在加速智能化进程中的技术突破和创新应用,为运营商构建从智能基础设施、大模型平台、到创新数智应用落地的全方位支持,携手运营商共筑智能化未来宏图,加速数智跃升。


运营商数字化建设成果仍存挑战,亟待解决


在智能化浪潮下,运营商在推进自身转型的同时积极发力产业数字化建设,据C114观察,目前运营商数字化转型取得显著成效。在为用户提供更快速、更稳定的通信网络连接的同时,推出更丰富的数字化服务和增值服务,并通过数据驱动的运营,更加精准地满足最终用户的个性化需求,提高数据资产的管理利用效率。


浩鲸科技中国CTO钟健松在接受C114专访时指出,运营商的数字化建设走过三十年,已取得卓越成效,成为推动国家数字经济建设的领头羊。但以发展的视角审视当前的数字化建设成果,依旧存在一些挑战,亟待智能化手段去解决:



生产要素已被大量累积,但价值发挥有限


钟健松认为,


经过数十年的的数字化发展与积累,运营商沉淀了海量的数据,包括资源、网络、服务、客户、渠道等立体多维数据资产,堪称为“宝藏数据矿场”。基于这些数据,运营商内部构建了诸多报表系统、数据分析系统,但对数据的提取和分析仍存在诸多动态变化,导致当前各下属公司依然要配备大量取数人员,以响应每月不同维度的看数要求。



此外,随着中台的建设,运营商的重点已从功能建设逐渐转向能力构建,能力不断累积和丰富,并逐步沉淀为企业的能力资产。尽管能力资产在助力数字化应用建设过程中发挥了一定价值,但由于能力的可视化、非完全的集约、从能力到应用的转化难度等问题,制约了能力资产的价值发挥。


钟健松表示,相比数据资产和能力资产,企业的知识资产受重视程度不够,少量的知识库仅存储了某些关于产品营销方面的内容,而更需要传承的例如网络运维、故障处理、施工操作、方案配置等方面的知识,要么作为规则被整合到系统中,缺乏迭代更新;要么沉淀在少数专家的头脑中,难以复制和传承。



生产效率尽管在不断提高,但仍有很大提升空间


当前,流程驱动已成为数字化系统的一个典型特征,但流程驱动有其受限之处。首先,流程为异步处理,非实时,可能会因为环节之间的来回回退导致处理时间拉长,而企业的生产运营则有大量需要实时解决问题的场景,比如涉及到多方参与的网络疑难故障诊断分析,基于流程驱动的派单式的解决方式就不太适用。


其次,在新技术的推动下,自动化、智能化的述求在企业运营中越来越强烈,虽然通过规则、AI算法、RPA等的引入能够解决不少问题,但目前采取“散点注智”的开发模式,派生出多种类型的规则引擎、推荐引擎、调度引擎等多个系统,开发周期长、应用面狭窄,管理分散,从而导致需求难以即时响应,自智成熟度等级难以产生质的飞跃。



数字化系统林立,使用者陷入系统和功能的海洋


尽管在ITSP的规划下,运营商数字化系统纵向集约横向整合,系统数量已做了大幅收敛,但当前系统规模依然庞大,不同岗位人员需要面对诸多系统以及功能模块,在庞杂的系统中寻找对应的功能,费时费力,以至于大量已开发出的功能模块因不被认知而使用率极低。


与此同时,为了应对复杂场景,数字化系统往往配备繁琐的使用界面,使用者需要在各种弹出的窗口、页签中切换,使用门槛高,工作负荷大。


大模型,助推运营商向理想蓝图平滑演进


据C114了解,强大的通用智能能力,催生AI创新应用多点开花。国内外均积极、迅速地推进大模型训练,千亿参数模型层出不穷,大模型驱动的场景也在逐步落地,但大模型的价值发挥并不是想象中的一蹴而就。大模型应用在落地过程需要多方参与,且对算力、平台、算法的要求较高,因此尽管大模型的训练量不断扩大,在不同行业不同领域也多有应用,但应用的发展水平与速度参差不齐,部分领域尚且很难将模型价值发挥实效,推动行业大模型“真正落地”的机遇与挑战并存。


钟健松认为,


整体而言,大模型依然处于成熟过程中,技术演进日新月异,还需要克服其在行业实际应用中的各类技术缺陷,比如幻觉、算力成本高、知识实时更新差等问题。如若贸然利用大模型重构IT系统来替换现有IT,会因为反复折腾消耗巨大的人力物力,带来的价值效果可能也不尽如人意。面对以上难点,需要选择一条稳步、平滑演进的路线,通过先引入大模型增强现有数字化系统架构和能力,再逐步升级替代到理想蓝图。



在这条演进路线上,一方面需要从系统工程的角度来提升通用人工智能的准确性、适应性、创造性和效率,另一方面需要结合运营商数字化场景及当期架构模式,构建出增强演进的架构体系。总体看来,整个增强体系可分为2+3+N+1来分层演进。



“2”通过2个核心平台的引入,增强企业IT整体架构


MAAS平台,将大模型能力更丝滑地嵌入到企业数字化系统中。未来的头部企业,很有可能采用1+N的大模型构建方式,即在一个主力大模型的基础上,还会根据不同场景需要,应用N个各有擅长以及尺寸不同的其它模型。MAAS平台将对接各类不同的大模型,以更安全和更高性价比的方式向上统一提供模型服务。同时为解决大模型生成幻觉问题和知识滞后性问题,引入RAG,将非参数化预料库和参数模型结合,解决纯参数化大模型的局限。并对原始RAG架构优化,通过增加意图识别、问题改写、查询扩展、结构化和非结构化数据动态路由、多路召回、降噪去重等工程化手段大幅提升实际场景下的知识服务能力。


mmRTC平台,在原有页面集成、流程集成、数据集成、企业集成架构的基础上,搭建多模态的实时通信交互平台,实现人-人、人-智能体、人-智能体-人、多智能体等多种方式的即时协同,充分发挥智能体在感知、规划、记忆、执行等方面的能力,面对复杂场景,改变传统异步派单的模式,在人脑和智脑的多维加持下,实现实时分析、精准诊断、即时处理,推进效率的大幅提升。该平台与运营商的网络故障诊断、装维疑难问题处理、复杂方案营销等场景非常适配。



“3”通过3个工厂的建设,提升数字化生产效率


知识工厂:在知识工厂中训练两类知识,一类是经营领域的专业知识,包括前端营销涉及的产品、渠道、客户等以及后端运维涉及的的网络、故障分析等;另一类是数字化领域的专业知识,包括IT系统数据模型、功能页面、集成关系等。知识工厂提供高效工具帮助企业通过多种形式建立专属知识库,解决知识分散、信息损失等问题,实现知识可运营、可迭代优化,基于知识标签,最终实现一问多答,更好的满足跨地域、多产品、多客户类型的丰富的经营形态。


智能体工厂:未来Agent as a Service 或许将逐步取代目前IT架构的微服务模式。在智能体工厂中,将整合目前已形成的海量插件,以低代码的方式,通过工作流的可视化开发形态,将模型、知识库、提示词、插件工具进行链式整合,构建出面向不同领域、解决不同场景问题的智能体。



数字应用工厂:更高效更低门槛构建数字化应用是IT工作者的追求。可以预见,以大模型来驱动,识别需求意图,搭载低代码组装式开发,数字应用生产效率将倍增。应用开发的同时数字资产不断丰富,又进一步提升数字应用的开发效率。运营商推进政企市场,智能数字工厂将为其如虎添翼。



“N”通过N个场景的智慧化,推进全面智能的落地


将大模型的理解、生成、逻辑、记忆四大能力结合运营商的场景,浩鲸科技已实现如下诸多大类智慧化应用,全面大幅提升数字化智能水平。



生成类场景:包括营销方案、礼包策划、营销海报等应用;


诊断类场景:包括家宽综调助手、资费争议诊断等应用;其中家宽综调助手面向装维和综调人员,提供自然语言顺畅交互、问题智能精准诊断以及即时处理等智能化支撑;


助理类场景:包括CRM营业助手、资源助手等应用;


分析类场景:推出chatBI分析助手,提供海量报表一问直达、智能按需问数、随心深度探索数据等智能能力;


稽核类场景:包括资费稽核、合同稽核等应用;


问答类场景:基于统一框架快速高效搭建各类场景的问答机器人,基于浩鲸特有技术既保障答案的精准度,又保证完整度,同时还支持一问多答的跨地域跨产品的特有场景应用;


代码类场景:通过代码大模型帮助软件工程师编码时实现代码理解、自动补全,提升软件开发人员的编码效率和代码质量。



“1”通过1个“无系统”的打造,实现崭新的交互形态


“无系统”一方面将企业数字化系统的数据、功能界面、使用操作、业务知识等训练给大模型,另一方面构建统一入口,在该入口以自然语言的方式调用功能模块、完成功能模块的操作(包括跨系统的链式操作)、查看权限内的数据(包括跨系统的整合数据)等。


对于使用者而言,不再需要关注端到端的流程穿越具体在哪个系统和菜单定位,只需要表达自己的意图,通过统一入口,由智能助手实现一步直达。此入口可挂载在现有任一数字化系统上,即时呼出,随地调用。


运营商深入大模型应用腹地

浩鲸科技将做大模型价值释放者


从整个电信行业来看,2023年以来,三大运营商相继推出自己的基础大模型、行业大模型和大模型应用工具,如今运营商更是深入大模型应用腹地,不断落子。


据C114了解,中国移动推出APP的AI智能助理“灵犀”,深度嵌入到最新升级的中国移动APP V10版本中,从用户使用需求出发,依托大模型的内容生成能力改善用户体验。而中国电信,前不久一口气发布了12个垂类行业大模型,加强在各个领域的深度应用。中国联通也发布了元景“1+1+M”大模型体系,更在5月进一步发布中国联通元景大模型MaaS平台,为企业行业向MaaS服务。


总体来看,三大运营商对大模型,无论是反应速度、研发深度,还是覆盖广度,都格外突出。对运营商而言,大模型提供了一个契机,让运营商不仅仅作为通信网络的基础设施提供商,还可以整合自身在全国一体化算力网络、云资源等技术方面和政企市场、消费者市场等客户方面的多种优势,更深度地参与到产业智能化升级与数字化转型中,重构自身在数字化业务中的竞争优势。



正如采访的最后,钟健松表示,大模型企业落地远不止“一公里”, 涉及端到端全程各环节配套,包括算力资源、大模型切换、私域知识高效导入、智能体构建、copilot与现有系统融合,以及每个层面特有的推进方法。在智能时代,未来的IT系统将有着新的架构、运营模式、研发范式以及交互形态,而作为运营商的重要且长期合作伙伴,浩鲸科技不做大模型的生产者,但会基于自身对行业的深度理解,以及通过体系化的工程手段,致力做大模型真实价值释放者和使能者,助力运营商全面推进AI+战略落地,加速AI融入百业,加速数智新增长。


官方微信公众号

浩鲸云计算科技股份有限公司 版权所有 2003-2023

苏ICP备10224443号-6       苏公网安备 32011402011374号