报告主题:加速神经架构搜索的性能预测器
报告时间:
2023年7月6日14:50-15:35
报告地点:
人工智能与计算机学院3楼报告厅(B310)
主讲人:
孙亚楠,教授/博导,四川大学计算机学院。国家青年人才计划入选者,四川省天府峨眉人才计划入选者,机器学习与工业智能应用教育部工程中心副主任,IEEE Transactions on Evolutionary Computation期刊副主编。长期从事神经网络的可进化理论与方法研究,及其在神经架构搜索方面的应用研究。近五年以第一/通讯作者发表IEEE汇刊以及CCF-A类论文30篇,4篇同时入选了ESI高被引和ESI热点论文,4篇入选IEEE CIS研究前沿论文,授权发明专利18项,出版学术专著1部(Springer出版社)。
报告摘要:
神经架构搜索(Neural Architecture Search,NAS)是自动化设计深度神经网络结构的关键技术,是人工智能领域近年的研究热点。NAS运行中需要训练大量神经网络模型,然而训练大量的神经网络模型需要海量GPU计算资源,这对NAS算法的实际应用带来了极大挑战。性能预测器不需硬件资源即可直接计算神经网络模型性能,在降低NAS计算复杂度方面有着极大研究价值。本报告将对神经架构搜索以及性能预测器的背景进行介绍,然后介绍团队从神经网络结构增广以及迁移学习角度构建高效性能预测器模型的相关工作。