,今日,腾讯云首次披露行业大模型研发最新进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。
据悉,当前,通用大语言模型在应对产业场景落地时存在一定的局限性。首先,通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。此外,通用大语言模型的训练需要大量计算资源和漫长的训练周期,这对企业来说可能昂贵且耗时。同时,安全和合规也是必要考量因素。
基于客户实际痛点和需求,腾讯云全新公布MaaS全景图,依托腾讯云TI平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。
算力方面,今年4月,腾讯云发布了专为大模型训练设计的新一代HCC高性能计算集群,采用最新一代的腾讯云星星海自研服务器,具备业界最高的3.2Tbps互联带宽,算力性能提升了3倍。
此外,腾讯云即将推出向量数据库,源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适用于AI运算、检索,数据接入AI的效率也比传统方案提升10倍。
平台层面,腾讯云TI平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、工业等多个行业场景,企业可以结合自身场景数据可按需定制精调,也可以根据自身需求开展多模型训练任务,大幅降低大模型应用门槛。
TI平台提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。同时,由TI-ACC升级的”太极Angel"提供更优的训练和推理加速能力。在传统CV、NLP算法模型的基础上,新增了对大模型的训练和推理加速能力,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升30%+。
此外,TI平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论,同时支持MLOps的体系及工具,保障客户需求的顺利交付。
在配套服务和安全保障方面,腾讯云提供本地化的训练、落地及陪跑优化服务,为客户扫清落地障碍;依托二十余年的安全经验和风控能力,提供AIGC全链路内容合规解决方案;针对客户对数据安全需求,提供私有化部署等多种灵活交付方案,加速企业快速创建和部署AI应用。
据介绍,腾讯云行业大模型能力已经在腾讯企点、腾讯会议、腾讯云AI代码助手等多款头部SaaS产品中率先应用。其中,腾讯企点基于大模型能力研发探索全新一代智能客服和企点分析AI助手,旨在全面提升企业的客服和数据分析能力。
腾讯会议宣布即将推出覆盖会议全流程场景的AI小助手,只需通过简单自然的会议指令,基于对会议内容的理解,就可以完成信息提取、内容分析、会管会控等多种复杂任务。会后可以自动生成智能总结摘要,还能基于智能录制的能力,帮助用户高效回顾,提升用户开会和信息流转效率。目前,智能录制已面向会员、商业版和企业版用户全量开放,其他更多能力将陆续上线。
腾讯云将推出新一代AI代码助手,用AI加持来重塑开发体验和团队能力,让开发者通过全新的人机协作,达到高效创作。AI代码助手支持多种编程语言和主流开发框架、以及常用开发环境;覆盖开发关键流程,包括沟通、编码、排错、评审和调优,高效承接机械性工作,释放开发者时间和精力来专注代码创作,实现开发全面加速。同时也可以基于正负反馈,不断训练调优代码生成过程,实现工具持续改进。
腾讯云方面披露,基于腾讯HCC高性能计算集群和大模型能力,腾讯云已经为传媒、文旅、政务、金融等10余个行业提供了超过50个大模型行业解决方案。