您好,欢迎访问本站博客!登录后台查看权限
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏吧
  • 网站所有资源均来自网络,如有侵权请联系站长删除!

华为公布AI模型量化相关专利

2025年02月07日 62264 次浏览

华为公布AI模型量化相关专利
图片来源于网络,如有侵权,请联系删除

(原标题:华为公布AI模型量化相关专利)

企查查APP显示,近日,华为技术有限公司“人工智能模型的量化方法、处理系统和量化单元”专利公布。企查查专利摘要显示,量化单元可以基于运行AI模型的计算设备的各个计算单元的处理粒度,将量化矩阵分割成多个适用于各个计算单元的处理粒度的分块量化矩阵。量化单元可以对分块量化矩阵进行量化处理,以得到量化后的分块量化矩阵,并存储在存储器中,可以减少AI模型占用的内存。量化矩阵可以是权重矩阵,也可以是激活矩阵。量化单元量化过程中,是基于运行AI模型的计算设备的各个计算单元的处理粒度进行量化,并不需要基于张量级别进行离群值的统计,实现AI模型对权重矩阵和激活矩阵都可以进行实时量化。

华为公布AI模型量化相关专利
图片来源于网络,如有侵权,请联系删除