国家知识产权局信息显示,衍坤智能科技(湖州)有限公司申请一项名为“基于稀疏频域投影的超低参数高效微调方法”的专利,公开号CN121436058A,申请日期为2025年10月。
专利摘要显示,本发明涉及人工智能深度学习模型优化领域,公开了基于稀疏频域投影的超低参数高效微调方法;包括:在预训练模型的注意力机制层或前馈映射层中设置经随机初始化后冻结的上投影矩阵,用于将低维重构结果映射至原始权重维度;在频域中构建稀疏频谱矩阵,根据频率优先级与随机稀疏混合策略生成非零索引集合,并保持训练全过程固定;对稀疏频谱矩阵执行逆变换以获得时域重构矩阵,并通过上投影矩阵线性映射生成权重增量;在受限参数预算下仅更新非零频谱系数,保持预训练权重与上投影矩阵冻结;可选地在训练阶段施加频谱正则、能量约束及梯度裁剪,并在推理阶段进行量化与蒸馏联合优化。
天眼查资料显示,衍坤智能科技(湖州)有限公司,成立于2025年,位于湖州市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析,衍坤智能科技(湖州)有限公司专利信息1条。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯