• 微头条

    让本地生活更美好

打开APP
外星人S博士
研究人员声称新技术将AI能耗降低95%(音频)

BitEnergy AI公司研究人员开发了一种线性复杂度乘法(L-Mul)技术,通过将耗能较大的浮点乘法替换为简单的整数加法,最高可将AI模型功耗降低95%。这种方法在节能的同时不会影响准确性,但需专用硬件以充分发挥其优势。 L-Mul重新想象了AI模型的计算处理方式,使用加法代替复杂的浮点乘法,从而加快计算速度并降低能耗,同时保持精度。研究显示,应用L-Mul后,浮点张量乘法的能耗减少95%,点积能耗减少80%。 该算法在某些情况下的表现优于当前的8位标准,且仅有0.07%的平均性能下降,适用于自然语言处理、视觉任务和符号推理。虽然L-Mul在某些视觉任务上还显示出准确度提升,但其最大的缺点在于需要专用硬件,现有硬件尚未优化以全面利用此技术。 研究者们计划在硬件层面实现L-Mul和L-Matmul核算法,并开发高层模型设计的编程API。

打开APP收听

更多推荐