腾讯云首次公布行业大模型解决方案

今天，给大家宣布一条比较重要的消息：

我们腾讯云首次对外公布行业大模型研发进展，宣布将助力企业构建专属大模型及智能应用。我们将打造行业大模型精选商店，全面降低落地门槛，为企业提供MaaS一站式服务。

为什么要打造行业大模型？

大模型风头正劲，企业用户需要利用它提质增效。但大语言模型在应对产业客户的问题时会有一些局限性。譬如落地成本高、数据安全得不到保证，同时，企业也缺乏基础的大模型运作经验。因此，寻找合适的云厂商打造好用、易用的专属行业大模型，更能满足自身需求。

总而言之，行业大模型正在成为助力企业提质增效的“超级底座”。而腾讯一直致力于为企业提供数字化动能，今天，我们很高兴能给大家展示腾讯云在行业大模型方面的研究和实践。

● 缺资源：对于企业来说，大模型训练需要较高的计算资源和存储资源，对网络速度要求很高。大模型训练需要链接几百台GPU服务器，一旦有服务器宕机，整个算力集群都得歇菜。

● 数据差：许多传统企业或数字化刚起步的企业，其训练数据往往未经筛选和处理。直接“喂给”大模型，也会“吃坏肚子”，导致大模型效果和效率得不到保障；

● 成本高：为了确保大模型能够落地部署，需要源源不断地投入高质量的数据、计算资源，还不包括要为此支付的时间和技术成本；

● 经验少：大模型的开发和落地，需要考虑计算资源、网络带宽在内的多个问题。而很多企业既没有处理过类似的问题，也缺乏相应的技术和人才储备。

随着大模型时代的到来，这些问题不可避免将为企业搭建大模型增添压力。我们希望腾讯的技术优势和资源能力，能大大降低企业迈入智能化时代的门槛，为企业解决这些问题。

总的来说，我们深耕产业互联网多年，已经做了不少有关大模型的技术储备：

● 我们自研的训练框架AngelPTM，去年10月完成首个万亿参数的大模型训练，并在同等数据集条件下，将训练时间缩短80%；

● 今年4月，我们还发布了针对大模型训练设计的新一代HCC高性能计算集群，算力性能较以往提升了3倍。在GPU并行计算的前提下，进一步提升了大模型集群的训练效率；

● 适用于AI运算的向量数据库，能够高效处理图像、音频和文本等非结构化数据，支持每日处理千亿级的检索，能够处理规模达到10亿级的单索引，并拥有10万级的吞吐量，能为大模型提供高效的检索支持。

我们希望能将这些能力落地更丰富的产业场景，为企业提高效率和竞争力。

结合过去对多个行业的服务经验，我们将能力植入产业场景，推出行业大模型精选商店，为企业打造包括大模型挑选、量身定制、落地的MaaS一站式服务。

数一数，我们至少有五大优势：

具体来说，依托腾讯云TI平台，我们结合过去就文旅、金融、政务、教育等行业的需求洞察，封装成行业大模型解决方案提供给客户。

企业也可以在这些内置行业大模型基础上，加入自己独有的场景数据，快速生成自己的专属定制大模型。

我们开放了包含数据标注、训练、评估、测试和部署等服务的大模型工具包，让企业可以在我们提供的大模型基础上，进行不同参数、不同规格的大模型定制。

这其中，由TI-ACC升级的“太极Angel”，为用户训练大模型提供了出色的训练和推理加速能力。在传统CV、NLP算法模型的基础上，新增了对大模型的训练和推理加速能力，通过异步调度优化、显存优化、计算优化等方式，相比行业常用方案性能提升30%+。

打个比方，就像走进一间超级服装店，门口就有“推荐款”。这些“推荐款”更专注产业的一般需求，能有效降低训练成本，同时支持API接入，即买即用。进来的客人也可以根据自己喜好，自行DIY定制“专属款”。

在“结账出门”后，我们还提供全面“售后”服务，包括：

——提供全程陪跑优化和本地化训练服务，不仅“送货上门”，还将提供“安装”指导，助力企业落地行业大模型，快速部署AI应用；

——提供我们二十余年的安全经验和天御风控能力，也将运用于确保大模型数据和服务的安全合规，“不露线头”，安全拉满。

截至目前，我们已为文旅、政务、金融等10余个行业，提供超过50个大模型行业解决方案：

● 基于腾讯云智能媒体AI中台，我们为央视打造人工智能开放平台，提供智能标签、修复、智能翻译等30多种算法。通过传媒行业大模型能力，让内容标签颗粒度更细、泛化性更高，从而盘活媒资、重塑内容价值；

● 我们为上海大学，利用腾讯云教育行业大模型能力，构建专属的教育行业大模型基础平台，覆盖在校生和毕业生全生命周期业务，将提供教学助手、人才培养、招生就业助手和作业批改等服务；

● 我们还为文旅行业打造精调的客户专属模型，无需配置对话流程，实现端到端问题解决，提升人物完成率，降低对话构建成本。

......

此外，腾讯企点、腾讯会议、AI代码助手等多款头部SaaS产品，也迎来了能力升级。

未来，你将能通过腾讯企点分析AI助手，快速就业务数据生成可视化图表；同时可以基于会议内容，让腾讯会议AI生成会议日程安排、材料准备等；AI代码助手还支持基于大模型能力进行代码补全、代码纠错，辅助开发者提升开发质量等等。

峰会现场，我们与22家企业启动行业大模型共建合作，和17家生态伙伴共同发起了“腾讯云行业大模型生态计划”，未来将围绕更多类型、服务更广的行业大模型及应用展开共建。我们也会持续探索更多元的行业大模型形态创新。

总之，数字化已是企业的必答题。而大模型作为AI领域的重要突破，正在引领千行百业的创新与变革，给国家产业升级创造了前所未有的新机遇，对企业而言，重要性不言而喻。我们将运用好自己的资源和技术优势，助力合作企业赢得高效、智能的未来。