专利择要显示,本申请供应一种人工智能芯片的掌握方法和干系装置。
本申请的技能方案中,先打算芯片并行实行多个模型时,当前频率、当前开启的运算逻辑单元的数量下的NPU占用率,然后根据打算得到确当前频率、当前开启的运算逻辑单元的数量下的NPU占用率对频率和/或运算逻辑单元进行调度。
本申请的技能方案中,考虑了频率和运算逻辑单元对芯片功耗的影响,可以在担保模型算力需求能够得到知足的情形下避免功耗摧残浪费蹂躏。
进一步地,本申请预估频率改变和/或运算逻辑单元开启的数量改变后的NPU占用率并基于预估的NPU占用率调度功耗。
此外,本申请预估功耗调度后的NPU占用率时,考虑了运算逻辑单元中计算单元和内存搬运单元对NPU占用率的影响。

华为公司申请人工智能芯片的控制方法和相关装配专利专利技能能在担保模型算力需求能够获得知足的情况下避免功耗浪费_单位_逻辑 AI简讯

本文源自金融界