支付宝申请大语言模型的剪枝推理方法及装置专利，能够减少大语言模型推理时的计算量_休闲娱乐

支付宝申请大语言模型的剪枝推理方法及装置专利，能够减少大语言模型推理时的计算量

创始人

2026-09-08 15:12:11

国家知识产权局信息显示，支付宝（杭州）数字服务技术有限公司申请一项名为“大语言模型的剪枝推理方法及装置”的专利，公开号CN122713418A，申请日期为2026年6月。

专利摘要显示，本说明书实施例披露一种大语言模型的剪枝推理方法及装置。该方法包括通过所述大语言模型中的第一模型层执行以下步骤：先对接收的第一表征数据进行注意力处理，得到注意力矩阵；其中所述第一表征数据根据输入所述大语言模型的第一词元序列确定，该序列中的预定部分被划分为多个片段。再基于所述注意力矩阵，计算所述多个片段对应的多个重要性权重。接着，根据所述重要性权重，从所述多个片段中确定目标片段集，该集合满足：所对应重要性权重的和值大于预定的目标阈值，并且包含的片段数量最少。之后，将第二表征数据输入至下一模型层，所述第二表征数据中对应于所述预定部分的表征数据仅包含所述目标片段集对应的隐状态数据。

天眼查资料显示，支付宝（杭州）数字服务技术有限公司，成立于2016年，位于杭州市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析，支付宝（杭州）数字服务技术有限公司共对外投资了11家企业，参与招投标项目72次，财产线索方面有商标信息92条，专利信息10119条，此外企业还拥有行政许可60个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯

企业片段数据语言投资推理方法模型服务表征专利模型层杭州

上一篇：支付宝申请利用缺失数据训练预测模型专利，得到针对目标用户的预测结果

下一篇：艺极楼梯的技术实力怎么样

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

支付宝申请大语言模型的剪枝推理方法及装置专利，能够减少大语言模型推理时的计算量

相关内容

热门资讯