专利名称：Adam算法加速系统及方法
专利国别：中国
专利号：202210601059.0
法律状态：实审
发明人：张春，张惟宜，牛丽婷，姜汉钧
申请人：清华大学
地址：100084 北京市海淀区100084信箱82分箱清华大学专利办公室
申请日期：2022-05-30
授权日期：
摘要：
本发明公开了一种Adam算法加速系统及方法，该系统包括：一阶矩估计子系统，用于根据上轮一阶矩与本轮梯度，计算本轮一阶矩；二阶矩平方根估计子系统，用于根据上轮二阶矩平方根与本轮梯度，计算本轮二阶矩平方根；更新步计算子系统包括：平方根倒数计算模块，用于采用快速平方根倒数算法，根据本轮二阶矩平方根，计算平方根倒数；第一乘法器，用于对本轮一阶矩与平方根倒数进行乘法计算；第二乘法器，用于将第一乘法器的输出与平方根倒数进行乘法计算，获得本轮更新步，所述本轮更新步用于在硬件中训练神经网络，更新网络参数。本发明可以实现在硬件中训练神经网络时进行Adam算法加速，提高吞吐率。
专利证书
PDF/Jpg