国家知识产权局信息显示,支付宝(杭州)数字服务技术有限公司申请一项名为“大语言模型的训练方法、文本处理方法及系统”的专利,公开号CN122088709A,申请日期为2026年4月。
专利摘要显示,本说明书提供一种大语言模型的训练方法、文本处理方法及系统,包括:获得样本集合,所述样本集合包括多个样本文本,获得待训练的第一大语言模型,第一大语言模型采用线性注意力机制,第一大语言模型的至少部分模型参数复用预先训练的第二大语言模型的模型参数,第二大语言模型采用非线性注意力机制,利用样本集合对第一大语言模型进行训练,得到训练后的目标大语言模型。可以加速训练过程、减少算力成本和时间成本,也可以提升目标大语言模型的性能表现。另外,还可以将注意力计算复杂度优化至线性级,且可以优化存储空间。
天眼查资料显示,支付宝(杭州)数字服务技术有限公司,成立于2016年,位于杭州市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析,支付宝(杭州)数字服务技术有限公司共对外投资了12家企业,参与招投标项目67次,财产线索方面有商标信息92条,专利信息5000条,此外企业还拥有行政许可60个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯