首页
技术论文

超大规模HW优化神经架构搜索(谷歌)

受欢迎程度

b谷歌、苹果和Waymo的研究人员发表了一篇题为《超大规模硬件优化神经架构搜索》的新技术论文。

本文介绍了第一个超大规模硬件优化神经结构搜索(H2O-NAS),根据底层硬件架构自动设计准确、高性能的机器学习模型。H2O-NAS由三个关键部分组成:一种新的大规模并行“一次性”搜索算法,具有智能权重共享,可以扩展到搜索空间O(10280),处理大量的生产流量;异构硬件上不同ML模型的硬件优化搜索空间;并提出了一种新的两阶段混合性能模型和针对大规模部署进行优化的多目标奖励函数。”

找到这里是技术文件.2023年3月出版。

李胜,Garrett Andersen,陈涛,程立群,Julian Grady,黄达,Quoc V. Le, Andrew Li, Xin Li, Yang Liang, luyifeng,倪云,庞若明,谭明星,Martin Wicke,吴刚,朱生奇,Parthasarathy Ranganathan, Norman P. Jouppi. 2023。超大规模硬件优化神经架构搜索。第28届ACM编程语言和操作系统体系结构支持国际会议论文集,第3卷(ASPLOS 2023)。计算机协会,美国纽约,343-358。https://doi.org/10.1145/3582016.3582049



留言回复


(注:此名称将公开显示)

Baidu