5月23日,在2024全球数据存储教授论坛上,华为举行2023年奥林帕斯颁奖典礼揭晓了2023年奥林帕斯多个奖项,上海交通大学电子信息与电气工程学院计算机科学与工程系过敏意教授团队荣获2023年奥林帕斯奖。
2023年颁发2项奥林帕斯奖,另一位获奖团队为苏黎世联邦理工学院Torsten Hoefler教授团队;颁发4项奥林帕斯先锋奖,获奖团队包括新加坡国立大学尤洋教授团队、韩国科学技术院John Kim教授团队、北京大学杨仝团队以及中国科学院计算技术研究所王颖团队。
奥林帕斯奖
自2019年起,华为每年发布奥林帕斯难题百万悬红,旨在牵引全球数据存储领域基础理论研究方向,突破关键技术难题,加速科研成果产业化,实现产学研合作共赢。“奥林帕斯悬红”已发布四期,共吸引来自全球49所高校的240多名学者参与。奥林帕斯奖已成为存储业界具有影响的专业奖项之一。
获奖技术名称
训推一体化数据底座技术
完成人
过敏意、冷静文、郭聪
过敏意教授研究团队针对日益增长的人工智能大模型的高效训练和推理一体化部署挑战,创新地提出了以高效数据管理为中心的研究思路,深入分析研究了大模型训练、推理以及训推转换时的数据访问、数值分布、高阶信息等特征,从显存池管理、模型权重编码、全精度模型的低位宽压缩等方面,提出了系列创新技术,形成了训推融合场景下“高效大模型微调→快速模型压缩→低位宽推理部署”的完整技术体系。降低了超30%的内存训练需求,在无需微调数据的场景下实现了大模型的低位宽4比特推理部署,并将全精度模型至低位宽模型的转化时间降低了近万倍至秒级。发表多篇高水平论文/期刊,获得IEEE体系结构年度最佳论文优胜奖、华为公司火花奖等奖励。相关技术的软件原型与硬件设计均以开源,获得广泛使用,有望成为训推融合场景的易用、高性能数据底座。
项目所研发的训推融合数据底座技术概览。
完成人介绍:
过敏意,上海交通大学电子信息与电气工程学院讲席教授,博士生导师,国家级高层次人才,欧洲科学院外籍院士,IEEE Fellow,中国计算机学会会士、常务理事。担任教育部创新团队学术带头人,973计划首席科学家。现任IEEE Transactions on Sustainable Computing主编,并长期担任包括IEEE TPDS、JPDC、TCC等国际著名期刊的编委。他在计算机体系结构、高性能计算等领域的重要国际学术会议和国际期刊上发表了超过500篇论文。以第一完成人获2019年度国家技术发明二等奖和教育部、上海市等省部级科技一等奖多项。
冷静文,上海交通大学电子信息与电气工程学院教授,博士生导师,国家级青年人才,目前任职校人力资源处副处长(挂职),电院院长助理。主要研究方向为面向人工智能的新型计算系统的设计以及性能、能效、可靠性优化,主持和参与了包括自然科学基金优青、面上、联合重点和重点研发、973等多个国家级项目。在国际一流的会议和期刊上发表了五十余篇论文和相关国内国际专利,获得过DAC, PACT等多个国际会议的最佳论文提名奖,2022年度IEEE体系结构年度最佳论文优胜奖(IEEE Micro Top Picks Honorable Mention),以及2020阿里巴巴达摩院青橙奖。
郭聪,2023年9月获得上海交通大学博士学位,师从过敏意、冷静文教授。研究方向为轻量化人工智能的软硬件协同优化加速。近三年,郭聪共发表10余篇论文,第一作者文章8篇,其中包括ISCA, Micro, ASPLOS,SC等CCF-A类会议论文。其工作受到多个硬件厂商的关注,获得了2022年华为火花奖。在博士期间获得博士研究生国家奖学金等多项奖学金,曾获2022年度IEEE体系结构年度最佳论文优胜奖(IEEE Micro Top Picks Honorable Mention)。2023年获评上海交通大学优秀博士学位论文以及优秀毕业生。