鲸智大模型平台:驱动运营商加速大模型价值

2024-07-02 238

自2023年ChatGPT震撼发布,大模型技术成企业竞争关键,全球范围内大模型“百花齐放”,据国家数据局统计,当前中国10亿参数规模以上大模型数量已超100个。运营商作为数字中国建设的关键参与者和行业数字化转型的先锋,正全面推进AI+战略,构建智慧运营体系,以适应AI的快速发展和市场需求的变化,探索新的商业模式和服务创新。


2024 MWC上海,浩鲸科技重磅推出“鲸智大模型平台,以“底座+模型+引擎+应用”的端到端模型工具及服务,助力运营商降低大模型应用落地及使用门槛,凭借卓越的产品实力,该平台荣获《通信产业报》2024MWC上海“编辑选择”奖。同时,浩鲸科技大模型创新中心总监王玉木在MWC主题论坛,就“构建人工智能就绪基础设施”发表演讲。



运营商“AI+”战略进行时

大模型落地远不止“最后一公里”


随着大模型应用的不断涌现,进一步激发了对高价值数据、高性能算力、高精度算法的迫切需求,在运营商AI+落地过程中,从算力资源的优化到大模型的精准应用,每一环都考验着运营商的智慧与创新能力,大模型落地之路挑战重重,远不止“最后一公里”。



算力资源的高效利用。智算需求的急速增长对算力资源提出了更高的要求,如何在现有异构及资源分散基础上提升资源效用,成为了亟待解决的难题。



大模型选型与管理。当前基座大模型种类繁多也各有所长,如何在众多模型中兼顾性能、成本与适用性选择最优方案也成为一大挑战。



应用规划与开发。全链路开发工具、集成化开发平台的缺失,使得模型从开发、训练、调优到部署迭代的整个流程效率低。



业务认知与应用。如何解决大模型普遍存在的幻觉问题,提升其业务认识精准度及业务流程的融合度,是运营商在大模型应用中必须面对的挑战。


鲸智大模型平台

浩鲸科技致力于做大模型价值使能者


2024 MWC上海,浩鲸科技结合近20年在云网、大数据和AI等方面的探索和实践,重磅推出“鲸智大模型平台”,围绕从异构GPU集群管理、智能算力调度与并网优化、模型服务与意图识别、数据供给与模型纳管、插件式的应用集成5大方面实现技术革新,为运营商提供先进的生成式AI生产及应用全流程工具链,致力于成为运营商大模型价值的赋能者。


图片关键词



智算底座:Whale Power兼容国内外主流GPU,支持跨越异构GPU集群管理能力、跨越异构智算集群一体化调度能力、跨越算力主体的一体化并网能力,帮助企业高效进行算力资源整合与高效利用。



认知增强引擎Whale Agent依托多种智能体优化技术,实现根据不同角色、不同业务环境优化模型输入,增强业务理解与处理能力,极大提升大模型应用准确性。Whale Knowledge,以知识图谱与RAG融合,支持对大模型输出进行知识关系链接和召回自动择优,增强RAG检索准确性,为业务决策提供更精准的支持。



应用开发框架开箱即用的插件式应用开发框架,通过对前端交互、智能服务、智能体各类组件的标准沉淀,实现大模型应用的快速组装。通过Whale-Copilot统一交互入口,实现跨系统的链式集成,极大降低大模型应用开发成本和落地难度,业务人员在原有的系统中可以随处调用,0学习成本。




“全链路”模型工具服务:涵盖Whale DataShop数据供给、Whale Review模型评测、Whale AIFatory模型开发、训练、微调及模型向量化等全流程,通过编排式生成、一键式向导、可见即可操作的模型工具服务,提升数据供给效率与质量,大幅缩短模型接入时间,提升模型管理的透明度与效率,加速大模型应用迭代周期从周到天,助力企业大幅提高大模型需求响应速度、落地效率及灵活性。


在鲸智大模型平台全面赋能下,不仅解决算力瓶颈,还提供全方位的模型工具服务与认知增强,辅以便捷的应用开发框架,加速AI+落地的同时,推动运营商在5G、云计算、物联网等领域的创新应用,为运营商构建了坚实的数智生产力。


深研技术,持续创新

赋能千行百业实现大模型端到端商用


浩鲸科技在深化大模型技术研发的同时,不断深入应用场景,落地成果丰富。当前,浩鲸科技基于鲸智大模型平台围绕AI+经营、AI+服务、AI+运维、AI+行业等4个方面构建了诸多创新应用,覆盖12大场景,为运营商及多行业提供全方位的智能化解决方案,取得显著进展。


图片关键词


全球运营商、垂直行业商用及预商用案例近60例。



国内运营商:涵盖BOM、大数据等多域,在专业问答、运维诊断、自主数据分析、方案魔方、数字人客服等场景中应用,全力加速运营商AI+战略,实现智能化转型;



国际运营商:助力印尼等国家落地智慧客服交互,为“一带一路”共建共赢极助力;



垂直行业:耕耘电力、政务等,展示大模型技术的广泛应用潜力。


此外,在MWC“构建人工智能就绪基础设施”主题论坛上,浩鲸科技大模型创新中心总监王玉木也同时指出,未来,大模型将成为新基础设施的重要组成部分,大模型驱动下将催生出丰富的智慧新场景,推动通信、医疗、教育等人类生产生活多方面的智能化升级,加速AI普惠开放,让智慧泛在可及。


图片关键词


AI的未来是星辰大海,浩鲸科技正助力全球运营商及多行业客户在大模型应用领域取得突破,加速数字化转型,实现业务增长与智能化升级。通过技术创新与市场开拓,浩鲸科技正逐步成长为大模型技术领域的领军企业,为数字经济的蓬勃发展贡献力量。


官方微信公众号

浩鲸云计算科技股份有限公司 版权所有 2003-2023

苏ICP备10224443号-6       苏公网安备 32011402011374号