大模型浪潮下 AI中台的新机遇

　　当大模型逐渐走向商业化，一系列“老概念”正迎来新的应用浪潮。

　　与数据中台、业务类似，AI中台并非新鲜事物。它旨在通过整合“烟囱式”的独立业务系统架构，共享智能化能力，降低AI业务场景的开发门槛。然而，在相关技术出现之前，AI技术应用的场景往往是孤立的，缺乏通用的落地场景。

　　大模型技术的崛起，再次使AI中台成为企业，尤其是金融机构探索的方向。作为AI应用与大模型之间的中间层基础工具，大模型中间件也成为当前投资机构关注的焦点。面对AI对基础设施、工具、应用层的全面重塑，投资机构将如何抓住机遇？

　　重构AI中台

　　“在没有大模型的情况下，我们也在思考AI应该如何做。”一家基金公司信息技术部总经理坦言，但此前AI的应用始终是“烟囱式”的，一旦遇到新问题，业务部门就需要重新开发模型，导致算力使用效率不高。

　　“大模型技术对传统人工智能厂商和IT服务商的冲击都是巨大的。”恒生电子首席科学家白硕提到，过去各个AI系统都是烟囱式的单个系统，每个部分都是一个小模型，需要数据训练，但小模型的学习效果有待提升。而基于大量参数的大语言模型技术使机器具备同时完成不同任务的通用能力。

　　与此同时，AI厂商与IT厂商的业务范围也在改变。“过去IT厂商与AI井水不犯河水，或浅浅涉足AI的局面被打破。”白硕指出，AI赋能已成为IT服务商的必争之地，而在资管领域的AI技术应用都面临重塑。技术层面，无论是界面、数据库访问、业务流程、API调用都出现低代码化的趋势，大家会普遍使用AI工具来提质增效。

　　在考量新兴技术应用时，安全是重中之重。在保障数据安全的情况下进行大模型应用的落地，把通用数据建设能力沉淀下来，搭建AI中台，使各业务条线共享通用智能化能力，成为许多金融机构的首选方案。

　　“企业专属私有可控的大模型是必然形态，机构需要保障大模型100%的安全和所有权。”科杰科技CTO高经郡表示，目前大模型应用落地的解决路径主要有三种：一是进行全量模型训练，在企业做大模型的私有化部署；二是基于开源或商业大模型结合企业私有化数据对参数进行微调；三是通过通用大模型接口帮助企业构建数据知识库。

　　“第一种方案需要从0开始构建自己的大模型，需要大量的人才与资金投入。”高经郡坦言，“当前基于开源大模型结合私有数据进行微调与模型训练是比较普遍的一种方案。”

　　前述基金公司信息技术部领导表示，在大模型技术出现后，其所在机构与多个系统进行了连调测试并尝试进行本地化部署。他们正将大模型进行微调、精调，并基于公司原有的量化平台、机器学习成果、算力中台探索AI中台建设。他指出，搭建AI中台需要将大模型作为所有应用的入口基于业务场景的核心需求搭建相应的业务中台最终实现大模型在具体业务上的应用。但随之而来的是算力不足和算法选择复杂等问题。“最后最难的是数据。”他坦言例如自动生成代码的场景下要实现项目可用至少需要提供30个以上的优质项目代码这对于机构来说有较高门槛。

　　大模型或再“受宠”

　　在金融大模型落地的过程中如何缩短AI研发周期、降低AI应用成本、提高工作效率？受到大模型浪潮推动位于AI应用与大模型之间的中间层基础软件——中间件再次受到市场关注。它主要解决大模型落地过程中的资源调度、数据集成、模型训练、应用集成等问题。在政府、金融、电信、交通等重点行业中间件作为信创的重要部分曾有过快速增长。随着大模型技术的商用落地中间件行业有望迎来新市场需求。例如东方通在互动平台上表示AI大模型训练需要依托大量的硬件基础设施来对海量数据训练和优化在数据处理和部署管理方面有着很高的要求因此需要高效的数据处理和管理中间件来支持大规模数据的存储、传输和处理以及模型的快速部署、监控和调优等。

　　“对于企业而言降低大模型落地实施的能力企业大模型的中间件是关键。”高经郡提到例如AI OPS能力可以加速大模型应用提供了一整套工具帮助机构解决私有环境中大模型训练的工程问题通过提供全自动化训练环境配置与构建低代码一站式完成数据接入、标注、监督微调、反馈强化学习和模型发布全流程同时可以支持数据回流及模型的持续迭代。

　　投资机构如何“掘金”？

　　面对大模型重塑基础设施层面与应用层的新机遇投资机构如何看待新市场？风险投资机构XVC合伙人陆宜表示目前全球生成式AI的发展分三个层面：一是模型层二是基础设施与工具层三是应用层。“无论Open AI的ChatGPT还是Meta AI发布的Llama2在参数量级与实际表现的发展都非常迅猛。”陆宜提到在工具层随着模型的快速发展数据库、开发框架等基础设施也在同步进行。从应用层面来看目前“百花齐放”的大模型已经成为多个垂直领域释放生产力的工具。谈及基础模型的快速演进亚马逊云科技生态架构师团队负责人孔雷直言这主要是开源大模型开源生态越来越受到市场欢迎。“再过几个月你可能会发现大模型变得非常平民化门槛越来越低开源基础模型又可以商用大模型的成本会大幅降低。”他认为随着C端大模型应用的普及下一步大模型应用领域将主要集中在B端场景。与此同时由于训练大语言模型需要投入的参数量巨大整个环节会变得非常精细化和系统化。“例如最近市场比较关注的向量数据库都是传统数据公司目前发展的新业务方向。”孔雷提到在大模型应用落地的过程中在算力、、数据层面厂商都会有新的机遇伴随着大模型的生态来展开。“我们目前投了两家与大模型相关的公司一家做基于大模型的个人情感陪伴聊天一家为大模型及AI应用落地提供基础设施。”陆宜表示当下国内大模