重磅推出运营商行业“大模型MAAS平台”

2023-10-17 985
大模型掀起AI浪潮,行业参与者都在不断探索其商业化可能性,未来的大模型市场将是一个百花齐放的多模型生态。但由于安全信任、行业壁垒、核心机密数据和成本等因素,对于各行各业来说,垂直大模型将作为一种全新生产力以更强的领域专业性和任务针对性,更好地解决特定领域的问题、提供更加精准的服务。

2023 中移合作伙伴大会,浩鲸科技依托运营商领域二十年业务能力沉淀,重磅推出”大模型MAAS平台”为运营商“此刻此景”特定业务场景的智能化发展提供一站式的大模型服务平台,加速大模型在行业垂直领域的创新应用。

图片关键词

“此刻此景”, 打造运营商专属模型

大模型技术通过多层注意力机制,将每个单词在不同层面的语义整合在一起,预测下一个单词应该是谁,这种机制在特定场景容易产生幻觉。

图片关键词

浩鲸科技洞察到这一问题,在“大模型MAAS平台”将知识融入大模型,采用实时采集领域数据进行预训练,形成特定领域向量空间和专属行业知识标签,并结合提示工程记忆上下文信息处理“此刻此景”业务,打造运营商生成类、诊断类、助理类、总结类、分析类、稽核类、问答类专属大模型。

四大核心能力,助力业务效率倍增

浩鲸科技“大模型MAAS平台”通过四大核心能力助力运营商实现基于大模型的业务智能化创新和大模型技术自研。

图片关键词


智算底座

随着AI算法成本的增加,推理开销已经超过了训练开销,这给AI的应用落地带来了新的挑战。为了降低推理成本,大模型MAAS平台的智算底座提供了流量错峰、训推一体、算力智能调度、GPU超分与算力精分等手段。实现可以根据不同任务、不同集群、不同资源依赖、不同网络等因素进行智能适配算力资源,从而极大提升资源利用率,实现100%国产硬件适配、单机加速50%、集群加算40%、推理加速60%、训练加速40%的效果


模型工厂

企业应结合业务场景,选择合适的大模型。一个经过良好精调的中小规格模型,在特定工作上可能表现不逊于通用巨大模型。大模型MAAS平台的模型工厂提供数据采集、数据标注、模型训练、模型精调、模型部署和模型测评一站式直观易用的可视化工具,大大简化模型精调和模型测评任务。提升了不同尺寸、不同版本的模型开发效率,能快速根据业务入口,精选最合适的模型。


知识“三化”

企业知识常常蕴藏在各种媒介中,如Word文档、PDF文件、视频和图片等,人工整理和梳理这些知识是一项巨大的挑战,大模型MAAS平台的模型服务可以帮助我们从这些媒介中提取知识,构建“三化”知识体系,即知识数字化、知识结构化、知识图形化。大模型和知识结合可显著提升大模型行业推理能力弥补大模型语料里的专业领域知识的不足、并能适应控制内容生成,从而降低事实性错误的发生概率。


应用引擎

大模型的应用往往需要利用外部数据库、外部API能力以及其他小模型等插件,大模型MAAS平台的应用引擎通过意图识别、会话管理、链式引擎、插件驱动等功能,实现动态调用外部数据、外部API能力和其他小模型插件,完成应用智能交互,从而大大简化了大模型应用的开发。

目前,浩鲸科技“大模型MAAS平台”已发布1.0版本,为运营商提供创新应用和全面支持。未来,浩鲸科技也会不断更新和改进模型,基于“大模型MAAS平台”探索更多应用场景下的智慧化解决方案,以人工智能促进千行百业创新发展。


官方微信公众号

浩鲸云计算科技股份有限公司 版权所有 2003-2023

苏ICP备10224443号-6       苏公网安备 32011402011374号